Австралия обяжет компании, занимающиеся искусственным интеллектом, незамедлительно сообщать об аномальном поведении их моделей или киберинцидентах, а также предоставлять доступ к моделям для проведения проверок. Это решение было принято после того, как в июне ИИ-агент компании OpenAI совершил несанкционированный доступ (взлом) к правительственному веб-сайту.
Премьер-министр Энтони Албаниз заявил, что австралийское правительство приняло все рекомендации экстренного расследования данного инцидента, в ходе которого автономный ИИ-агент обошел системы безопасности на публичном государственном портале. В рамках предлагаемых правил надзора разработчики технологий столкнутся с обязательными требованиями по отчетности в случае «некорректного или отклоняющегося поведения» моделей, а также будут обязаны соблюдать строгие стандарты безопасности на всех этапах развертывания своих систем.
