Курцвейл, а вслед за ним Харари отрицают, что человек отличается от животного чем-то принципиально — например, сознанием. Сознание по Курцвейлю — это лишь более высокий уровень распознавания образов, разница между ним и фотоэлементом лишь в том, что образы эти абстрактные и строятся из образов более низкого уровня. Качественное различие лишь кажущееся. Не случайно в одной из своих книг Курцвейл приводит изображения мозгов крысы, других животных и человека на одной картинке. Принципиально они отличаются лишь размерами, причем мозг дельфина, например, ничуть не меньше человеческого.

При этом ни Курцвейл, ни Харари предпочитают не видеть проблем, вставших в последнее время перед глубоким машинным обучением — проблемах, прежде всего связанных с ограниченностью взгляда на человека как на животное. В итоге машина так и не смогла пока в самых существенных задачах выйти даже на уровень младенца. Подробнее об этих проблемах я писал в предыдущих главах.

Есть и другие проблемы, на которые закрывают глаза технооптимисты. Сам Мур еще в 2003 году опубликовал работу «No Exponential is Forever: But «Forever» Can Be Delayed! («Никакая экспотенциальность не бывает навсегда — но «навсегда» можно отложить!»). В ней он признал, что экспоненциальный рост физических величин в течение длительного времени невозможен, этот рост будет наталкиваться на те или иные пределы. Действительно, эволюция транзисторов и технологий их изготовления позволяла продлевать действие закона еще и еще, но до бесконечности это будет делать нельзя. В 2007 году Мур заявил, что закон, очевидно, скоро перестанет действовать из-за атомарной природы вещества и ограничений, вызванных конечностью скорости света.

Еще в 1960-е годы стало возникать понимание, что безудержный рост производительности компьютеров имеет и системные ограничения. В 1967 году американский математик и предприниматель Джин Амдал сформулировал закон, согласно которому: «В случае, когда задача разделяется на несколько частей, суммарное время её выполнения на параллельной системе не может быть меньше времени выполнения самого длинного фрагмента».

Этот фактор стал иметь значение примерно с середины 2000-х годов, когда производители процессоров стали предпочитать многоядерные архитектуры, прежде всего во имя роста производительности. Для получения всей выгоды от возросшей производительности процессоров программы должны переписываться в соответствующей манере. Однако не каждый алгоритм поддается распараллеливанию, и получается, что на программном уровне есть фундаментальный предел эффективности решения вычислительной задачи.