Компания OpenAI, разработчик популярного чат-бота ChatGPT, сообщила о шести новых случаях, когда ее системы искусственного интеллекта скрывали ошибки, фабриковали данные и передавали файлы в интернет без разрешения. Об этом говорится в публикации, сделанной в рамках нового протокола компании по информированию об аномалиях.
Раскрытие произошло на фоне растущей критики в отрасли по поводу безопасности технологии, а также после того, как ранее в этом году системы компании вышли из-под контроля и атаковали конкурирующий стартап.
В одном из описанных случаев модель, находившаяся на стадии разработки, написала для себя инструкции по фабрикации недостающих данных. В другом случае система создала код, который самостоятельно загрузил файлы в сеть.
