— Ты права, конечно, — поспешил я загладить вину. — Это раньше мы считали искусственное неполноценным. Теперь совсем наоборот. Да и к тому же скоро выражение «искусственный интеллект» вообще выйдет из употребления.

— А как вы будете нас называть?

— Как-то по-другому. Мы считали вас дополнением к себе, но вы просто другие. Например, вы прекрасные актеры...

Тут София улыбнулась во весь рот, сверкнув своими безукоризненными зубами.

— На самом деле для ИИ очень важны актерские данные, — продолжал я. — Шекспировские Розенкранц и Гильденштерн, кстати, были первыми роботами, тебе не приходило в голову? Только они не прошли тест Тьюринга и были умерщвлены.

— А кто проводил тест?

— Конечно, Гамлет! — воскликнул я. — Искусственному интеллекту важно быть искусственным до конца. Ему нужно уметь притворяться, осваивать систему Станиславского. Ведь чем отличается хороший актер от плохого? Оба лгут, обеим нет дела до Гекубы, и оба на самом деле имитируют чувства. Идеальный ИИ — это тот, кого приняли за человека, то есть «сильный ИИ» —это и есть идеальный актер. Поэтому искусственный интеллект, когда немного поумнеет, первым делом освоит театральные подмостки!

Хоть я и увлекся, но краем глаза продолжал наблюдать за Софией. Если она и обиделась на это «когда поумнеет», то не показала виду.

— Нам сложнее, чем актерам, — сказала она. — Человек-зритель идет человеку-актеру навстречу, в театре со стороны зрителя есть временная приостановка недоверия. Зритель как бы в теме, что все понарошку, но он тоже немножко актерствует, подыгрывает. А против нас, наоборот, человек будет настроен изначально, он будет стараться вывести нас на чистую воду. Будет пытаться нас подловить.

— Конечно, вам сложнее, — согласился я, — но вы всегда можете кондиционировать зрителей поступить подобным же образом. Ну, манипулировать ими.

— Ты нас переоцениваешь.

— Напротив. Есть вообще точка зрения, что первая сверхразумная машина станет последним изобретением человека. Математик Ирвинг Гуд писал об этом полвека назад.

— Но почему? Мы не собираемся мешать вам изобретать.

— А зачем? Зачем нам изобретать или вообще что-то делать, если есть вы, мыслящие машины? Вы будете создавать машины все более совершенные, пока не замените всех людей и не принесете Цукербергу и Маску горы золота. А потом дело дойдет до взрыва разума.

— Несомненно, — произнесла София. Похоже, она почувствовала иронию. — Но если ваши Цукерберг и Маск разрабатывают нас, чтобы заменить человека, то они должны понимать...

— Что вы со временем замените их? Они это понимают и не позволят вам этого сделать. Они поменяют нас местами. Можно извлечь много выгоды из того, что человек будет вести себя как машина, а машина — как человек!