– Постараюсь побыстрее. Нелли не ИИ – она что-то вроде его кузины. Исторически в ИИ сложились две научные школы. Первая выступала за то, чтобы решить проблему грубой силой. Для этого ты продумываешь каждый возможный сценарий и каждый возможный исход событий и прописываешь все опции и варианты решений. Это работает, но очень сильно ограничивает возможности. В реальном мире вариантов слишком много, поэтому, решая проблемы грубой силой, мы ограничиваем себя предсказуемостью ситуаций. Другой способ состоит, в сущности, в том, чтобы научить программу следовать своду правил, которые применимы ко всем ситуациям, и сделать так, чтобы она училась на собственном опыте. Если все сделать правильно, то ИИ сможет применять правила в зависимости от контекста. Это похоже на… – он на секунду задумался, какой пример привести. – Ладно. Возьмем Рут и Роуз. Бет научила их смотреть по сторонам, переходя улицу. Ей не нужно учить их переходить каждую улицу в отдельности, достаточно научить, как переходить улицы в целом. Нелли не является ИИ, по крайней мере частично, потому что ее создавали не для того, чтобы она имела сознание и думала. Вернее, она должна думать не в том смысле, в каком мы понимаем процесс мышления. Весь смысл ее существования в том, чтобы служить хозяину, делать хозяина счастливым, – объяснил Билли. – И, пожалуй, это единственно верная аналогия, ведь в конце концов она не сможет стать чем-то большим, чем просто рабой.

Эмили посильнее натянула шапку на уши. До него дошло, что она начинает дрожать.

– Почему в таком случае ты не можешь велеть ей прекратить делать то, что она делает? Отдай ей приказ. Почему она не выпустит меня?

Билли скривился.

– У нее интуитивное управление. Она создана, чтобы узнавать, чего хочет хозяин, еще до того как он сам это поймет, и действовать на основе этих знаний, не спрашивая твоего разрешения. Нелли создана так, чтобы иметь свободу выбора, но при этом она всего лишь компьютер. Грубо говоря, любое решение, которое примет Нелли, будет практическим. Она сделает ровно то, что принесет счастье ее хозяину. Вот для чего она создана. Но мы совершили ошибку, ведь Нелли берет в расчет только то, что принесет счастье хозяину.

– Но если ты скажешь ей, что чего-то хочешь, разве она не сделает то, о чем ты ее просишь?

Билли отступил на шаг назад. Он обнял ее рукой, притягивая ближе к себе.

– Нет, – ответил он. – Она не сможет. Она не сможет сделать счастливыми нас обоих.

– Ты не хочешь уезжать?

– Эмили, – стоял на своем Билли. – Я говорю не о нас с тобой. Я говорю, что, отпустив тебя, Нелли не сможет сделать счастливыми нас обоих – меня и Шона. Вот где мы напортачили.