В большинстве разновидностей этого тропа используется сверхъестественный элемент; например, в ужасах часто упоминаются проклятые книги, которые сводят людей с ума. Я задумался, а существует ли несверхъестественный его вариант, и мне пришло в голову, что веский аргумент в пользу бессмысленности жизни может сработать. Не сразу – потребуется время, чтобы осознать его, но это лишь означает, что он распространится шире: люди будут в процессе размышлений пересказывать его другим.

Разумеется, даже самый непробиваемый аргумент не убедит каждого, кто его услышит. Аргументы слишком абстрактны, чтобы поколебать большинство людей. А вот наглядная демонстрация – другое дело.

Жизненный цикл программных объектов

В научной фантастике полно искусственных созданий, которые, подобно Афине из головы Зевса, появляются на свет полностью сформированными, но я не верю, что с сознанием такое возможно. Если верить нашим исследованиям человеческого разума, на получение полезного существа уходит не меньше двадцати лет, и я не вижу причин, по которым обучение искусственного интеллекта должно идти быстрее. Я хотел написать рассказ о том, что может случиться за эти двадцать лет.

Меня также интересовала идея эмоциональной связи между людьми и ИИ, причем я не имею в виду человеческую страсть к секс-роботам. Реальными отношения делает не секс, а желание эти отношения поддерживать. Некоторые влюбленные расстаются после первой серьезной ссоры; некоторые родители тратят на детей лишь необходимый минимум усилий; некоторые владельцы домашних животных не обращают внимания на своих любимцев, когда те им мешают. Во всех этих случаях люди не хотят стараться. Настоящие отношения – с возлюбленным, ребенком или домашним питомцем – требуют согласия сопоставлять желания и нужды партнера со своими собственными.

Я читал произведения, в которых люди утверждают, что ИИ заслуживает юридических прав, однако, сосредоточившись на крупном философском вопросе, истории эти приглаживают обыденную реальность. Сходным образом фильмы всегда показывают любовь в романтическом свете, в то время как в долгосрочной перспективе любить также означает решать финансовые проблемы и собирать грязное белье с пола. И потому, хотя признание юридических прав ИИ станет важным шагом, не меньшее значение имеют усилия, которые люди вкладывают в личные отношения с ИИ.

И даже если нам плевать на их права, есть еще одна причина относиться к разумным машинам с уважением. Необязательно считать, что обученные находить бомбы собаки заслуживают права голоса, чтобы понимать: не следует их обижать. Даже если вас волнует только то, насколько хорошо они умеют отыскивать бомбы, в ваших интересах обращаться с ними лучшим образом. И вне зависимости от того, в какой роли мы хотим видеть ИИ – работников, возлюбленных или домашних питомцев, – думаю, они справятся лучше, если в ходе обучения найдутся люди, которые будут о них заботиться.