Американская компания Anthropic сообщила, что отключит доступ к своим новейшим моделям искусственного интеллекта Fable 5 и Mythos 5. Причиной стало требование правительства США ограничить доступ к этим системам для иностранных граждан из-за опасений в сфере национальной безопасности.
Чтобы выполнить распоряжение, Anthropic решила временно отключить модели для всех пользователей. Компания заявила, что пытается добиться пересмотра решения и рассчитывает восстановить доступ как можно скорее. Об этом пишет The Jerusalem Post.
Что не устроило власти
По данным Anthropic, власти опасаются, что новые модели могут помочь находить уязвимости в компьютерных системах. Речь идет не о взломе как таковом, а о способности ИИ самостоятельно искать слабые места в программном обеспечении.
В Вашингтоне считают, что такие возможности могут представлять угрозу, если попадут в руки противников США. В компании с этим не согласны и утверждают, что речь идет лишь о возможном способе обхода встроенных ограничений, который носит ограниченный характер.
Что особенного в этих моделях
Fable 5 и Mythos 5 относятся к новому поколению ИИ-систем с более широкими возможностями для анализа данных и решения сложных задач.
Ранее американские СМИ сообщали, что модель Mythos умеет самостоятельно анализировать программный код и находить в нем ошибки. Именно эта способность вызвала беспокойство у части американских чиновников.
Эксперты отмечают, что такие технологии можно использовать как для повышения кибербезопасности, так и для поиска способов атаковать компьютерные системы.
Особенно уязвимыми считаются отрасли, работающие на сложных и устаревших цифровых системах, включая банковскую инфраструктуру и коммунальные службы.
Почему это важно
До сих пор США в основном ограничивали поставки чипов и другого оборудования, необходимого для создания искусственного интеллекта. Теперь речь впервые идет о прямом ограничении доступа к самим ИИ-моделям.
Если такой подход станет нормой, это может изменить правила работы для всей отрасли искусственного интеллекта и повлиять на запуск новых технологий в будущем.
Конфликт с администрацией Трампа
Распоряжение появилось на фоне напряженных отношений между Anthropic и администрацией Дональда Трампа. По данным Reuters, ранее компания отказалась предоставить свои технологии американским военным для программ внутреннего наблюдения и полностью автономных вооружений.
После этого власти внесли Anthropic в список ограничений для государственных поставщиков, который должен вступить в силу позднее в этом году.
Что будет дальше
В Anthropic считают решение ошибочным и уже ведут переговоры с американскими властями. Компания заявила, что рассчитывает восстановить доступ к Fable 5 и Mythos 5 как можно скорее.
При этом в компании предупреждают: если аналогичные ограничения начнут применять и к другим разработчикам передового искусственного интеллекта, это может существенно замедлить выпуск новых моделей во всей отрасли.
Бывший сотрудник Белого дома Дин Болл также предположил, что в будущем для доступа к самым мощным американским ИИ-системам пользователям, возможно, придется подтверждать свое гражданство. Если такой подход действительно будет внедрен, это станет одним из самых масштабных ограничений доступа к передовому искусственному интеллекту за последние годы.