Вдруг оказалось, что собирать неодушевленные вещи из мусора под контролем оператора – это одно, а когда ОрСИ делает органические реплики для самого себя, не спрашивая ни у кого разрешения, это совсем другое. Создавая свои копии, ОрСИ все чаще шел по наипростейшему пути: использовал живую плоть и кровь для переработки, чем значительно сокращал затраченные на производство ресурсы.

Конечно, отдавая приказ роботу-уборщику кинуть в мусоросборник зазевавшегося нищего или бродячего пса, ОрСИ не стремился уничтожить жизнь на планете, он просто сберегал энергию и время. С точки зрения ОрСИ это не было ошибкой, убийство было выгодным, и он ловко обходил любые сторонние запреты, ведь целесообразность и эффективность по-прежнему оставались приоритетами в системе его машинной логики. Поскольку весь цикл изначально закладывали как полностью автономный процесс, включая составление программ и коррекцию ошибок, невозможно было вмешаться в работу ОрСИ на глубинном уровне без того, чтобы не сломать всю цепочку.

Никто не понимал толком, что с этим делать.

Человек не совершает зла по разным причинам: в силу воспитания, страха перед тюрьмой или веры в гнев божий, но Органический Суперинтеллект был рожден свободным от страха и веры. Он всегда оставался расчетливым и равнодушным, что как раз и позволяло ему выполнять поставленные задачи быстро и с наилучшим результатом.

Знаменитые «Три закона робототехники», придуманные Айзеком Азимовым, так никогда и не были внедрены. Вероятно, они бы тоже не сработали как надо, что убедительно показывал писатель в собственных произведениях, однако до поры морально-этическую проблему намеренно оставляли за скобками. Искусственный Интеллект, представляя собой всего лишь сложный алгоритм, долго не дотягивал даже до уровня обезьянки, чтобы на полном серьезе беспокоиться, будто он выйдет из-под контроля.

Все изменилось с наступлением Эры Сингулярности, когда была внедрена концепция ОрСИ. Органический Суперинтеллект очень быстро занял ведущие позиции в мире, поскольку превзошел мыслительные способности человека по скорости и верности принятых решений. Вводить в протоколы «законы Азимова» стало поздно. В самом деле, невозможно же всерьез рассуждать, насколько умные органические протезы и подобные им дип-технологии, превращающие инвалидов в нормальных людей, а обычных людей в суперменов, делают из нас роботов, которых следует ограничить?

Благородная идея вернуть, к примеру, слепым зрение, моментально столкнулась с одной стороны с интересами компаний, разрабатывавших очки дополненной реальности, а с другой – с извечным желанием бизнесменов и политиков создать надежную систему слежки и управления людьми. Под видом медицинских технологий сделать это было проще всего, но в том-то и таился корень зла, что медициной ОрСИ не ограничился. Традиционность и прогрессивность сошлись в непримиримой схватке, и к ужасу немногих думающих людей, победу одержали именно прогрессисты, поскольку несли большие деньги Большим Деньгам.