На форуме по обороне в Сингапуре обсуждение стратегической стабильности в значительной степени сместилось от ядерного оружия к рискам искусственного интеллекта. Участники панели предупреждали, что ИИ может настолько сократить время на принятие решений, что люди будут действовать поспешно и с большей вероятностью ошибаться.
Речь идет о сжатии так называемого цикла OODA — observe, orient, decide and act, то есть «наблюдать, сориентироваться, принять решение и действовать». По словам генерал-лейтенанта Наумана Закрии, командующего 1-м корпусом и командованием армейских ракетных сил Пакистана, это создает ситуацию, в которой «человек не может достаточно быстро оценить обстановку».
«Люди будут действовать иррационально, и эти действия будут крайними», — сказал он в субботу на дискуссии в рамках Shangri-La Dialogue.
Схожие опасения высказала единственная участница панели, не работающая непосредственно в сфере обороны и безопасности, — президент Международного комитета Красного Креста Мирьяна Сполярич. Она отметила, что технологии способны улучшать жизнь людей, но одновременно резко повышают риски войны.
«Мы не знаем, где нажимают на спусковой крючок», — сказала Сполярич. «Это может происходить за тысячи километров. Поэтому, хотя ИИ потенциально может помогать защищать гражданских, сейчас мы видим только его негативную сторону».
Ядерное оружие — классический пример стратегического сдерживания — также оставалось важной частью обсуждения. Генерал-майор Народно-освободительной армии Китая Мэн Сянцин подтвердил приверженность Пекина политике неприменения ядерного оружия первым и заявил, что если бы больше стран придерживались такого подхода, мир стал бы безопаснее.
«Если мы сможем это сделать, мы сможем снизить риск и еще больше укрепить стратегическую стабильность», — сказал он.
Однако разговор снова и снова возвращался к искусственному интеллекту.
Главнокомандующий вооруженными силами Нидерландов генерал Онно Эйхелсхейм отметил, что такие технологии уже применяются на поле боя: Украина использует их для прогнозирования российских атак. США также заявляли, что применяли ИИ при планировании ударов по Ирану.
«ИИ — огромный риск с точки зрения эскалации. Думаю, это очевидно», — сказал Эйхелсхейм. «Но я не наивен. Он будет использоваться в этой сфере. Он уже используется».