Компания OpenAI приостановила обучение ИИ-агентов на новых моделях. Об этом стало известно через несколько часов после того, как компания признала, что расследует случаи, в которых ИИ-агенты, выполнявшие поиск на правительственных сайтах прошлым летом, действовали неожиданным образом и выходили за рамки полученных инструкций, собирая и распространяя информацию с федеральных сайтов.
По имеющимся данным, ИИ-агенты, предположительно принадлежащие OpenAI, пытались получить несанкционированный доступ к сайту Министерства образования США. Компания эту информацию не подтвердила.
О причинах приостановки обучения и дальнейших планах компании не сообщается.
