Anthropic приостановила работу новых моделей Claude Fable 5 и Mythos 5 через несколько дней после их публичного запуска.
Компания заявила, что получила предписание ограничить доступ иностранных пользователей к Claude Fable 5. В результате Anthropic отключила обе модели для всех клиентов.
По данным компании, американские власти считают, что был найден способ обхода встроенных механизмов безопасности модели. Подробности претензий при этом не раскрываются.
В Anthropic утверждают, что речь идет о небольшом числе уже известных уязвимостей. Компания также заявила, что аналогичные проблемы способны выявлять и другие общедоступные ИИ-модели без применения специальных методов обхода защиты.
Ранее Anthropic называла Claude Fable 5 своей самой мощной моделью. По заявлению компании, ее возможности в поиске уязвимостей и работе с компьютерными системами превосходили предыдущие разработки.
На этом фоне продолжается судебный спор между Anthropic и администрацией Дональда Трампа. Ранее глава Пентагона Пит Хегсет назвал компанию «риском для цепочек поставок», после чего Anthropic подала иск против ведомства.
ИИ-модели Anthropic и OpenAI стали намного сильнее в поиске уязвимостей
Белый дом хотел убрать Anthropic из госcистем США, но теперь вынужден снова работать с компанией
ИИ от Anthropic нашел тысячи уязвимостей нулевого дня в крупнейших операционных системах и браузерах
Anthropic подала в суд на администрацию Трампа после того, как Пентагон признал компанию угрозой для цепочек поставок