Папа римский Лев призвал «разоружить» искусственный интеллект с помощью жесткого регулирования и ограничений на его использование в военных целях, предупредив об опасности технологической революции, движимой «идолопоклонством прибыли».
В своей первой энциклике после избрания понтификом Лев заявил, что развитие ИИ, контролируемого крупными частными компаниями и основанного на «непрозрачных алгоритмах», создает угрозу «новых форм дегуманизации».
Представляя документ в Ватикане, папа сообщил, что пришел к «тревожным выводам» относительно природы искусственного интеллекта и необходимости срочных мер для ограничения его негативного влияния.
Лев провел параллели между ИИ и ядерными технологиями, заявив, что искусственный интеллект, как и атомная энергия, должен находиться под общественным контролем и регулироваться на основе «морального различения».
«Искусственный интеллект необходимо разоружить, — заявил понтифик. — Я понимаю, что это сильное слово, но выбрано оно сознательно».
«Церковь давно выступает за ядерное разоружение. Теперь разоружения требует и искусственный интеллект — освобождения от логики, превращающей его в инструмент доминирования, исключения и смерти».
Папа также предупредил об угрозе алгоритмов, которые могут ограничивать доступ к медицинской помощи, работе или безопасности на основе предвзятых данных.
Энциклика Magnifica Humanitas, считающаяся официальным моральным учением Католической церкви по современным вопросам, появилась на фоне растущей критики ИИ — от недовольства использованием технологий в медицине и госзаказах до опасений родителей относительно влияния ИИ на детей.
На презентации документа присутствовал и сооснователь Anthropic Кристофер Ола, который признал, что вопросы, связанные с искусственным интеллектом, выходят далеко за пределы самого ИИ-сообщества.
По его словам, разработчики сталкиваются с противоречием между необходимостью «поступать правильно» и коммерческим, геополитическим и личным давлением.
В энциклике папа отдельно раскритиковал трансгуманистические и постгуманистические взгляды части Кремниевой долины, включая идеи, ассоциируемые с Питером Тилем и Илоном Маском. По мнению понтифика, развитие ИИ происходит в интеллектуальной среде, где некоторые люди рассматриваются как «менее полезные, менее желательные и менее достойные».
Лев заявил, что церковь обязана говорить о новых формах эксплуатации, связанных с ИИ, включая распространение вредного контента, добычу редких минералов и торговлю людьми.
Он также принес исторические извинения за роль Католической церкви в оправдании рабства в прошлом.
«Это рана в христианской памяти, от которой мы не можем считать себя отстраненными», — написал понтифик.
«За это, от имени Церкви, я прошу прощения», — добавил он.
Особенно жестко папа высказался против использования искусственного интеллекта в военных конфликтах. Технологии ИИ уже применялись во время кампании Дональда Трампа против Ирана для поддержки военного планирования и принятия решений.
«Недопустимо передавать смертельные или необратимые решения автоматизированным системам», — заявил Лев, призвав сохранить «идентифицируемую и проверяемую» цепочку ответственности и обязательный человеческий контроль над решениями о нанесении ударов.
«Когда решение о нанесении удара становится автоматизированным или непрозрачным, риск отказа от ответственности возрастает», — говорится в документе.
Папа также вновь раскритиковал войну США против Ирана, что ранее уже вызывало раздражение в администрации Трампа и споры с Вашингтоном.
Вице-президент США Джей Ди Вэнс и министр обороны Пит Хегсет пытались обосновать удары по Ирану через концепцию «справедливой войны», существующую в католической традиции.
Однако Лев прямо отверг такую трактовку.
«Теория “справедливой войны”, которая слишком часто использовалась для оправдания любых войн, сегодня устарела», — написал понтифик.