Светлый фон

Однако такие сценарии могут и не воплотиться, поскольку они предполагают некоторые пути логических построений и уровень агрессии, которые не обязательно будут у чужого нам сверхразума. Пока человечество не рассматривается как непосредственная (или потенциальная) угроза, такой способ уничтожения вредителей вряд ли вероятен.

уничтожения вредителей

Воплощение следующей группы сценариев также возможно, хотя маловероятно. Эти сценарии предполагают, что мы станем неким ресурсом и нас будут разводить, как скот, либо в качестве источника энергии, либо ради каких-нибудь характерных качеств. Назовем их сценариями «Матрицы» под влиянием фильмов о миллионах людей, из которых, по сути, растили живые батарейки. Сама идея несостоятельна, поскольку существуют более эффективные способы получать и потреблять энергию и ресурсы с учетом высокого уровня интеллектуальных и технологических возможностей. Нам следует беспокоиться о том, что может найтись способ использовать людей, о котором мы можем не подозревать. Этот способ может оказаться ужасным для нас и рациональным для машин, не обладающих этическими нормами.

Здесь мы подходим к наиболее вероятному и правдоподобному сценарию в обстоятельствах пост-сингулярности: мы окажемся не у дел. Этот вариант может показаться не таким уж плохим: до нас не будет дела, как нам нет дела до одноклеточных форм жизни. Будут приниматься решения, которые не учитывают нас, и совершаться действия, последствия которых будут для нас крайне негативными, а то и фатальными. На той стадии, когда наше существование станет более очевидным, нас сочтут препятствием или патогенным фактором и предпримут меры, чтобы устранить проблему. Что снова возвращает нас к сценарию «Терминатора».

Разумеется, вариантов развития событий бесконечное множество. Может оказаться, что к нам будут относиться, как к домашним питомцам, или держать в зоопарке, или гонять по виртуальным лабиринтам в лабораториях, или почитать как великих предков. Но не стоит обольщаться. Несмотря на то что в подобном будущем возможно все что угодно, оно снова предполагает наличие разума и мировоззрения, параллельного человеческим. Что представляется крайне маловероятным.

Мирное сосуществование людей и машин, конечно же, возможно, но с учетом того, что мы определенно не коллективный вид и у нас нет коллективного мышления и мотиваций, мы можем стать свидетелями конфликта между человечеством и сверхразумом. И мы снова возвращаемся к одному из экзистенциально разрушительных сценариев. Сводя все воедино, как уже упоминалось, в будущем может не быть единого монолитного сверхразума, но он может существовать в нескольких разновидностях. Если прибавить к этому многочисленность ИИ, которые со временем займут все больше ниш в экосистеме разума, в итоге мы можем оказаться на крайне враждебной территории. На этой территории мы сможем воспользоваться помощью очень сильного и верного союзника.