Подобные факты полностью скрываются рисуемым Сёрлом образом “клочков бумаги” и “правил”, которые позволяют ему “устанавливать соответствие” между китайскими иероглифами. Я не утверждаю, что Сёрл намеренно скрыл сложность программы, моделирование работы которой представлял в ходе своего эксперимента, но он явно проигнорировал следствия ее сложности. Если вы представляете эту программу в качестве относительно простого набора правил, то, подобно Бэтсону, представлявшему “частицы хроматина, неотличимые друг от друга и практически гомогенные во всех известных опытах”, вы, вероятно, сочтете заявленные способности программ к пониманию “непостижимыми”, как и способности ДНК.

Смотрите, что мы сделали. Мы повернули регулятор предложенного Сёрлом насоса интуиции и изменили уровень детализации описания исполняемой программы. Уровней всегда много. На высшем уровне способности системы к пониманию нельзя назвать невообразимыми: мы даже можем увидеть, как именно система понимает, что делает. Ответ системы больше не кажется нелепым – он кажется очевидно верным. Это не значит, что ИИ такого типа, который критиковал Сёрл, на самом деле достигает того уровня компетентности, где можно говорить о понимании, или что такие методы, расширенные в соответствии с представлениями исследователей ИИ того времени, могли бы с большой долей вероятности привести к появлению компетенций столь высокого уровня. Это значит лишь то, что мысленный эксперимент Сёрла на самом деле не справляется с задачей, которую, как утверждается, он решает: он не демонстрирует абсолютную невозможность создания “сильного” ИИ.

Можно покрутить и другие регуляторы, но этим не раз занимались в огромном количестве литературы, написанной под влиянием “Китайской комнаты”. Здесь я уделяю основное внимание самому инструменту мышления, а не теориям и предположениям, на которые он был нацелен, и показываю, что этот инструмент дефектен: он убеждает, затуманивая наше воображение, а не используя его должным образом.

61. Падение телеклона с Марса на Землю

61. Падение телеклона с Марса на Землю

Одна луна восходит на востоке. Другая луна восходит на западе. Вы видите, как две луны движутся навстречу друг другу по холодному черному небу, после чего одна проходит позади другой и они продолжают двигаться дальше. Вы на Марсе, в миллионах километров от дома. От гибели в холодной марсианской пустыне вас защищают хрупкие мембраны земной технологии, но покинуть планету вы не можете – ваш космический корабль уже не починить. Вам никогда не вернуться на Землю, к друзьям и близким, в родные края.