Итак, коллективный интеллект — это консенсус, возникающий в ходе взаимодействия людей и «интеллектуальных машин». Мы отказываем последним в собственном разуме, но подчиняемся принятыми ими решениям. Без них уже сегодня не могут функционировать ни государство, ни бизнес. Коллективный разум — это, например, биржа, с ее тысячами трейдеров и брокеров, которые срослись с мониторами и дают задания ботам, работающим без устали день и ночь. Кто биржевики как не киборги, машинолюди, кентавры, подключенные к трейдинговым сетям?

Другой пример коллективного разума — это «Википедия», где при помощи машины кристаллизуется труд и знания тысяч постоянных авторов-людей. Появятся ли среди них в будущем боты — вопрос открытый, но и сейчас работа над статьями для «Википедии» не обходится без искусственного интеллекта, к помощи которого авторы, желая того или нет, прибегают в поиске и анализе информации.

ТРУДНОСТИ СЕПУЛЯЦИИ

ТРУДНОСТИ СЕПУЛЯЦИИ

Итак, когда мы говорим о «машине» или «Искусственном интеллекте», мы имеем в виду коллективный интеллект людей и машин. Впрочем, конечному пользователю все равно, что происходит внутри системы, во всех хитросплетениях которой разберется разве что сам искусственный интеллект. Для индустрий, в том числе книготорговой и издательской, Искин — это черный ящик, принимающий решения, которые до него принимали люди. Очень удобно переложить ответственность на черный ящик, решения которого не верифицируемы и не подлежат исправлению, даже если они нам не нравятся. На любые вопросы есть ответ: мы пользуемся Искином, потому что его решения, как нам сказали, эффективнее.

Если при управлении самолетом автопилот, получающий указания от Искина, выдает странные решения, то воздушное судно может быть не допущено к полетам — ведь на кону жизнь людей. При этом причины, по которым Искин скомандовал самолету резко пойти носом вниз, так и останутся неизвестными — ведь машина обрабатывает огромный массив информации, и решающим фактором может стать что угодно. Наука о психологии поведения ИИ еще не создана, так что вместо объяснения мы можем просто сказать «машина сошла с ума», и этого будет довольно.

Конечно, можно в принципе создать Искин, который будет способен к самопознанию — в отличие от человека, который закрыт сам от себя и не знает, как именно он приобретает свое знание. Ничто внутри Искина не укроется от него самого, но даже если так, сможет ли он дать нам это знание в форме, которая была бы понятна нам?

Так или иначе, если Искин определяет деятельность издательства, то оснований вмешиваться в его деятельность у людей куда меньше, чем в случае с Искином системы управления самолетом или автомобилем: ведь в первом случае речь не идет о непосредственном риске для жизни. Если системам с Пекином все чаще доверяется безопасность пассажиров и мы не видим горячей общественной дискуссии по этому поводу, значит, этичность вмешательства Пекина в процесс написания, издания и распространения книг никто не будет оспаривать и подавно. То же самое относится к другим креативным отраслям: музыке, кино и другим искусствам. Можно привести множество сомнений по поводу вмешательства в творческие процессы бездушной машины, но постольку, поскольку эти отрасли монетизируются и являются рыночными, нет принципиальных отличий между производством повестей и выпуском стали: и то и другое подсчитывается количественно и может быть оптимизировано, а следовательно, подвластно воздействию алгоритмов.