Стоить такая гонка вооружений наверняка будет меньше, чем предыдущие, что спровоцирует на участие в ней. Некоторые вовсе не большие страны, располагающие, однако мощными технологиями, скажем Израиль, уже ввязались в эту гонку, создали продвинутых военных роботов, в том числе размером с муху. Словом, практически нет сомнений: как только одна страна создаст автономное оружие, любая другая, более-менее амбициозная, будет ощущать себя обязанной придумать что-нибудь поэффективнее.

К чему это приведет? Стюарт Рассел, профессор Калифорнийского университета в Беркли, говорит: «Возможности автономного вооружения будут ограничены скорее законами физики — например, ограничениями по дальности, скорости и полезной нагрузке, — нежели какими-либо недостатками ИИ-систем, им управляющими. В будущем можно ожидать появления платформ, гибкость и смертоносность которых сделают людей совершенно беззащитными».

Короче говоря, если пустить все на самотек, то многосторонняя гонка вооружений в итоге станет забегом в небытие.

Ядерное оружие, безусловно, реально опасно, но у человечества получилось взять его под контроль, более того, благодаря теории сдерживания оно даже помогло ослабить риск начала обычной войны. Согласно этой теории, наличие ядерного оружия сдерживает более мощного противника — при условии если оно не окажется выведенным из строя внезапной первой атакой.

Поскольку ядерная война ведет к гарантированному взаимному уничтожению, то любую страну, нанесшую первый ядерный удар, скорее всего, ждут ответные меры. Но в случае с автономным оружием теория сдерживания не работает — первая атака может остаться незамеченной, следовательно, не содержит угрозы гарантированного взаимного уничтожения.

Наглядный пример: дроны Судного дня в нашем рассказе очень трудно выследить. Ценные подсказки, возможно, даст взлом коммуникационных протоколов такого дрона, но для этого годен только «живой» беспилотник, а не сбитый и поврежденный.

Любая атака автономного оружия, скорее всего, вызовет ответную реакцию страны — объекта нападения. Эскалация конфликта тут может быть стремительной, даже привести к ядерной войне. Причем первая атака может быть инициирована даже не государством, а, например, террористами. А это уже существенно повышает уровень опасности автономного оружия.

ВОЗМОЖНЫЕ РЕШЕНИЯ ДЛЯ ОСЛАБЛЕНИЯ УГРОЗ АВТОНОМНОГО ВООРУЖЕНИЯ

Высказано уже несколько предложений, как нам избежать этой экзистенциальной катастрофы. Одно из них — подход «человек-в-цикле» как гарантия того, что любое решение, связанное с чьей-либо смертью, имеет право принять только человек. Однако мощь автономного оружия во многом обусловлена именно скоростью и точностью, достигаемыми без нашего участия. Так что это условие вряд ли сочтет приемлемым страна, которая жаждет победить в гонке вооружений. Кроме того, обеспечить соблюдение этого условия на законодательном уровне крайне сложно, а вот обойти, напротив, легко.