Что такое «китайская комната»? Речь идет о мысленном эксперименте Серля, большого критика когнитивной психологии и искусственного интеллекта.

Серль придумал этот эксперимент, чтобы поставить под сомнение эффективность теста Тьюринга и показать невозможность создания «сильного искусственного интеллекта». Аргументы ученого оказались настолько весомыми, что практически задали вектор развития целой науки когнитивистики, которая существует и развивается, собственно говоря, с целью опровергнуть Серля. Изложение эксперимента было опубликовано в 1980 году в научном журнале, посвященном бихевиоральным наукам, а затем вышло отдельной книгой.

Представим себе ученого, не знающего ни одного китайского иероглифа. Он сидит в изолированной комнате и отвечает на вопросы, которые ему задают в виде табличек с иероглифами, просовывая их в щель. Ответить ему также нужно иероглифами.

При этом у ученого есть книга, где нет значений иероглифов, но зато подробно описано, какие манипуляции нужно с каждым из них совершить. Инструкция составлена так, что после применения ее к последовательности иероглифов вопроса получается последовательность иероглифов ответа. Инструкция, таким образом — это компьютерный алгоритм, то есть по сути, искусственный интеллект. Ученый исполняет роль агента искусственного интеллекта.

Для того, кто задает вопросы, процесс будет выглядеть так. Он пишет вопрос: «Какую лекцию вы читаете в четверг утром?» и получает ответ: «Мозг и разум». Таким образом, у спрашивающего будет складываться полное впечатление того, что он общается с человеком, прекрасно понимающим по-китайски. Но ученый в комнате не просто не знает ни одного иероглифа —у него нет никакой надежды узнать значение хотя бы одного символа. Тут Серль, конечно, несколько упростил ситуацию, ибо ученый в комнате, по идее, мог бы потихоньку начать расшифровывать иероглифы примерно так же, как польские математики в свое время поступили с немецкой шифровальной машиной «Энигма». Он мог бы перебирать гипотезы о значениях иероглифов и в конце концов найти какую-нибудь зацепку; в конце концов, что-то можно было бы почерпнуть и из ответов.

Но в любом случае это задача не на шифрование и дешифровку, а на проблему понимания компьютерами того, что они делают (то, что это не в первый раз в нашей книге связано в том числе и с проблемой шифровки-дешифровки, тоже не случайно). Вернемся к описанию эксперимента, придержав пока наши замечания.

Итак, спрашивающий уверен, что имеет дело с полностью понимающим китайский язык человеком, в то время как тот не понимает в том, что делает, ни бельмеса.