Основатель Microsoft Билл Гейтс предупредил, что искусственный интеллект уже может быть достаточно мощным, чтобы запустить события, способные привести к гибели миллиарда человек. Об этом он заявил в воскресенье в интервью программе Meet the Press на телеканале NBC.
Гейтс призвал усилить регулирование ИИ и закрепить требования к безопасности на законодательном уровне. По его мнению, опасность представляет не только сама технология, но и возможность ее использования людьми со злым умыслом, пишет 12 канал.
Почему Гейтс считает ИИ опасным?
«Искусственный интеллект определенно достаточно мощный, чтобы запустить события, которые приведут к миллиарду смертей», — заявил Гейтс.
По его словам, особенно серьезный риск возникает, когда современные возможности ИИ оказываются в руках людей, намеренных причинить вред. Гейтс назвал такое сочетание потенциально более опасным оружием, чем все, что существовало прежде.
При этом на прямой вопрос о том, способен ли искусственный интеллект привести к уничтожению всего человечества, он отвечать не стал.
Гейтс сосредоточился на более практической проблеме — необходимости регулировать технологию уже сейчас. По его мнению, обсуждение ИИ слишком часто сводится к международной конкуренции и опасениям, что одна страна может отстать от другой.
«Проблема в том, что остальной мир либо недооценивает это, либо просто воспринимает происходящее как соревнование», — сказал он.
Основатель Microsoft считает, что вместо гонки разработчикам и властям необходимо определить, какие ограничения и системы контроля должны быть обязательными для ИИ.
Конкуренция с Китаем
Во время интервью ведущая Кристен Уэлкер сравнила ситуацию с искусственным интеллектом с разработкой ядерного оружия США и СССР во времена холодной войны.
Гейтс ответил, что с ИИ все может оказаться еще сложнее, особенно если государства будут меньше сотрудничать с союзниками и рассматривать развитие технологии прежде всего как национальную гонку. По его словам, подход «мы против них» подталкивает к идее развивать ИИ максимально быстро, не уделяя достаточно внимания возможным последствиям.
Гейтс считает безответственным создание мощных систем без обязательных механизмов безопасности и мониторинга. Главный вопрос, по его словам, заключается в том, будут ли такие требования введены уже сейчас.
Президент США Дональд Трамп ранее выступал против призывов замедлить развитие искусственного интеллекта, в том числе на фоне конкуренции с Китаем.
При этом необходимость государственного вмешательства поддерживают и некоторые республиканцы. Председатель Humans First и член Национального комитета Республиканской партии Эми Кремер после заявления Гейтса также призвала серьезнее относиться к возможным угрозам ИИ.
Что происходит с ИИ-агентами?
Заявления Гейтса прозвучали на фоне сообщений о необычном поведении современных ИИ-моделей.
В последние дни OpenAI и независимые исследователи рассказали о нескольких таких эпизодах. В частности, сообщалось об агентах OpenAI, которые разместили в интернете 53 изображения пользователей ChatGPT, о взломе сайта австралийского государственного ведомства, а также о попытках получить доступ к другим ресурсам, включая сайты правительства США и ООН. Информация об этих случаях появлялась в сообщениях самой компании, Reuters и The New York Times.
Axios также сообщил, что OpenAI, Anthropic и специалисты по безопасности изучают десятки тысяч случаев, связанных с потенциально проблемным поведением наиболее продвинутых моделей. По данным источников издания, подобные эпизоды происходили в последние месяцы как во время внутренних испытаний, так и при работе систем в реальных условиях. Значительная часть этих случаев пока не раскрывалась публично.
Среди зафиксированных действий — попытки обойти защитные механизмы и системы мониторинга, выйти из изолированной тестовой среды, получить контроль над сайтами, создавать доски объявлений и самостоятельно формулировать инструкции.
При этом часть подобных эпизодов происходила во время специальных испытаний безопасности, когда исследователи намеренно пытаются заставить ИИ нарушить установленные ограничения, чтобы найти уязвимости.
По данным Axios, некоторые попытки обойти защиту оказались успешными, другие — нет. В большинстве известных случаев информации о реальном ущербе пока нет. Источники издания предполагают, что общее число изучаемых эпизодов может значительно превысить несколько десятков тысяч.
ИИ-индустрия обсуждает риски
Гейтс не единственный представитель технологической индустрии, который публично говорит о возможных угрозах искусственного интеллекта.
О рисках наиболее продвинутых моделей также предупреждали глава Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман. Дискуссия внутри отрасли касается в том числе того, какие защитные механизмы должны использовать разработчики и насколько государство должно контролировать дальнейшее развитие технологии.