Но попытка Больцмана обобщить созданную им модель на открытые системы оказалась более чем неудачной. Строгой количественной модели не получалось, качественные же рассуждения неизбежно приводили к выводу, что эволюционирующая система неизбежно должна деградировать вплоть до полного распада. Получалось, что либо прогрессивная эволюция, ведущая к усложнению эволюционирующей системы, невозможна вовсе — либо что главнейшие теоретические достижения самого Больцмана полностью неверны (как это и утверждали его многочисленные научные противники, среди которых были такие крупные ученые, как Анри Пуанкаре, Эрнст Мах и Вильгельм Оствальд) или, во всяком случае, неприменимы к живым организмам. Эта неудача произвела на Больцмана тяжелейшее впечатление и стала одной из причин хронической депрессии, приведшей в конце концов этого замечательного ученого и мыслителя к самоубийству.

Путь к выходу из тупика, в который уперся Больцман, наметился только в середине ХХ века в работах бельгийского физика российского происхождения Ильи Пригожина. Разумеется, он не опроверг Больцмана — которого, кстати, очень высоко ценил и на идеи которого прямо опирался в собственной работе. Но Больцман, надеясь перейти от замкнутых систем к открытым, пошел самым очевидным путем — попытался для начала рассмотреть процессы и состояния, близкие к тем, которые рассматривала классическая термодинамика (а также его собственная статистическая модель). Именно этот столь естественный подход и загубил все дело: система, параметры которой были близки к равновесному состоянию, могла эволюционировать только к нему. То есть — к максимальной энтропии.

Пригожин пошел прямо противоположным путем, обратившись к системам, находящимся в резко неравновесном состоянии, и к тому же рассматривая не только динамику системы как целого, но и локальные эффекты внутри нее. Результаты оказались довольно неожиданными.

Если некая система находится в резко неравновесном состоянии, это означает, что в ней имеется значительная разница каких-то потенциалов. Это может быть электрический потенциал, разница температур, давления (в жидкости или газе), разность потенциальных энергий, определяемая перепадом высот и т. д. Между такими областями могут возникать потоки вещества, энергии или того и другого, направленные на выравнивание потенциалов: тепло передается от нагретой части к холодной, вода течет вниз, между электрическими полюсами возникает ток — потоки заряженных частиц. Все эти процессы сопровождаются увеличением суммарной энтропии системы — в полном соответствии с представлениями классической термодинамики. Но оказалось, что в самих этих потоках (или в тех средах, через которые они текут) при определенных условиях могут возникать процессы самоорганизации: в некоторой локальной области элементы системы сами собой начинают выстраиваться в высокоупорядоченные структуры и вести себя согласованно. В качестве примера такого спонтанного само-упорядочивания обычно приводят конвекционные ячейки Бенара — правильные шестиугольные структуры, образуемые конвекционными потоками в не слишком толстом слое вязкой жидкости при равномерном подогреве снизу. На самом деле феномены такого рода разнообразны и общеизвестны: это морские течения, сезонные ветры, циклоны и т. д. При этом энтропия областей, вовлеченных в самоорганизацию, снижается, хотя энтропия системы в целом повышается. Получается, что самоорганизующиеся структуры отдают остальным частям системы не только всю причитающуюся им прибавку энтропии, но и кое-что сверх того. Чтобы подчеркнуть парадоксальность такого поведения, Пригожин назвал такие системы диссипативными, то есть «рассеивающими»: происходящее в них повышение упорядоченности происходит за счет ускоренного рассеивания энергии в окружающих их частях «большой» системы.