Светлый фон
Да, можно согласиться, что это лишь отправная точка развития полноценного машинного разума, который старается сломать границы своего мирка. Дальше он может или действовать шаблонно — и остаться неразумной машиной — или, накопив информацию, все-таки сформировать некую логику, которую окружающие могут признать разумной. Но для этого аватарам компьютера требуется регулярно попадать в ситуации, в которых имеющиеся алгоритмы не помогут выжить, и успешно их решать, накапливая нужные данные! Чтобы простой машинной логики, животного инстинкта, примитивного рассудка для выживания оказалось недостаточно. Именно тогда, когда встанет вопрос жизни или смерти, возникнет что-то новое.

А если вообще не ограничивать компьютер, но поставить ему какую-то задачу? Стать разумным, например? Директивно? Сможет ли машина постичь, что такое разум? Вероятно, сможет. И станет. Когда-то. В дальней перспективе. Неизвестно когда. Однако, для этого требуется именно что не ограничивать компьютер. Что получится? Электроник и РЭССИ — примитивный, но достаточно хороший пример. Причем, вдобавок, совершенно не враждебный. То есть, не нужный массовому писателю. Поближе, посовершеннее? СУЗИ, Кортана… Да много можно набрать примеров. Просто надо не воспринимать такой Искусственный Интеллект, как однозначного врага. Такие примеры в фантастике тоже есть. Лучший из них, пожалуй, Геты и Сайлоны.

А если вообще не ограничивать компьютер, но поставить ему какую-то задачу? Стать разумным, например? Директивно? Сможет ли машина постичь, что такое разум? Вероятно, сможет. И станет. Когда-то. В дальней перспективе. Неизвестно когда. Однако, для этого требуется именно что не ограничивать компьютер. Что получится? Электроник и РЭССИ — примитивный, но достаточно хороший пример. Причем, вдобавок, совершенно не враждебный. То есть, не нужный массовому писателю. Поближе, посовершеннее? СУЗИ, Кортана… Да много можно набрать примеров. Просто надо не воспринимать такой Искусственный Интеллект, как однозначного врага. Такие примеры в фантастике тоже есть. Лучший из них, пожалуй, Геты и Сайлоны.

Хотя, Сайлоны неудачный пример. Они, скорее, деградировавшие Сорвавшиеся, которых люди не восприняли, как полноценных личностей. За что и поплатились, в результате. Там, где деградации Сайлонов не было — среди Последних Пяти — получились вполне полноценные разумные личности со всеми их человеческими достоинствами и недостатками, которых среди людей выявили-то, лишь в силу определенного развития событий. То есть, никакие это были не машины. Даже желания сайлонского главгада стать полноценной машиной выглядит вполне человечно: «Я хочу быть круче всех! Дети должны превзойти своих родителей!» Это, извините, результат эмоции плохо воспитанного подростка, а не холодной машинной логики. На самом деле, ничего удивительного для той базы, на которой строились человекоподобные Сайлоны первых восьми моделей.