Фундаментальная проблема заключается в том, что когда интересы владельца ИИ и его пользователей расходятся, последние оказываются в проигрыше. Мы видели это в предыдущих главах («Золотой слон», «Боги за масками», «Квантовый геноцид» и «Спаситель рабочих мест»); кроме того, мы читаем об этом везде, где пишут о Google и Facebook.

Корень проблемы в том, что ИИ, на котором работают эти корпорации, настроен на явную коммерческую выгоду — ведь это частные компании, их акции торгуются на фондовой бирже, поэтому они приоретизируют цели, которые не интересны пользователям. Просить эти компании поменять их приоритеты на наши интересы бессмысленно — их прибыли сразу обвалятся.

Желая «отдать ИИ в хорошие руки», нам нужно искать структуру, над которой не довлеет коммерческая выгода. Тогда она естественным образом, без сопротивления, поставит во главу угла наши интересы.

Что же это за организация, интересы которой совпадают с пользовательскими? В «Острове счастья» мы видим, возможно, идеализированный пример великодушной монархии в небольшом богатом государстве. В XXI веке такой образ может показаться архаичным, но прообразом правителя в этом рассказе стал Фридрих Великий, прусский король[147], который говорил: «Главное мое занятие — это <…> просвещать умы, взращивать нравственность и давать людям такое счастье, которое пристало человеческой природе и какое позволяют средства, имеющиеся в моем распоряжении».

Приверженец просвещенного абсолютизма, Фридрих Великий полагал, что в его власти улучшить жизни подданных. Щедрый монарх имеет большой кредит доверия от своего населения и должен быть смелым, чтобы провести серьезные реформы. В XVII и XVIII веках именно просвещенные монархи оказались ключевыми фигурами, благодаря которым наступила эпоха Просвещения.

Нам тоже необходима подходящая фигура — катализатор для появления мощного ИИ, собирающего массивы данных. И совсем уж не так невероятно, чтобы этой фигурой оказалась королевская династия с благотворительными склонностями. Я также прогнозирую, что в следующие 20 лет небольшие страны под управлением популярных в народе сильных лидеров станут наиболее вероятными кандидатами на внедрение революционных технологий.

Но можно представить себе и другие варианты. Как насчет современного цифрового сообщества единомышленников, готовых пожертвовать свои личные данные на благо всего общества? Остальные члены социума смогут убедиться, как защищены и насколько корректно используются эти данные.

Уже разрабатываются научные проекты, экспериментирующие с подобными механизмами — на уровне университетских сотрудников, персонала и студентов.