Как показало исследование Antisemitism Policy Trust, антисемитские дипфейковые изображения, созданные искусственным интеллектом и не обнаруживаемые программным обеспечением, набирают популярность.
В отчете под названием «Обнаружение дипфейков с помощью Фонда политики антисемитизма и проекта по расшифровке антисемитизма» исследователи сообщают, что, по их словам, «антисемитизм, порождаемый искусственным интеллектом, находится на подъеме, и это может иметь серьезные последствия для еврейской общины».
Дипфейки — это искусственно обработанные аудиовизуальные материалы, созданные с использованием искусственного интеллекта для создания ложных видео или фотографий. Фонд, борящийся с антисемитской политикой, собрал галерею из 51 искусственного интеллекта с антисемитскими изображениями, которые все чаще не обнаруживаются программным обеспечением.
«Большинство существующих классификаторов демонстрируют весьма низкую эффективность при анализе антисемитских дипфейков, — говорится в отчете. - Скрытые закономерности и двусмысленности в изображении, которые могут привести к антисемитской интерпретации, не распознаются, поскольку подходы, основанные на искусственном интеллекте, не принимают во внимание новые практики использования изображений или манипулирования ими при выявлении дипфейков».
Исследователи обнаружили, что из 51 изученного дипфейка 28 были классически антисемитскими и изображали стереотипных евреев как злых персонажей. Остальные демонизировали Израиль либо в целях эмоционального манипулирования, либо в целях дезинформации.
«Сокрытие символов ненависти внутри, казалось бы, невинных изображений стало способом распространения ненависти в сети, причем настолько, что эта практика, возможно, образует собственное направление генеративного проектирования ИИ», — указывается в документе.
Что касается последнего, то исследователи обнаружили: частым дипфейковым изображением было «изображение кровожадных израильтян, преследующих палестинских детей».
«Инструменты искусственного интеллекта становятся умнее, но те, кто стремится распространять ненависть, по-прежнему идут впереди нас, обманывая технологии и обманывая системы, — сказал Дэнни Стоун, глава Фонда антисемитской политики, согласно данным The Sunday Times. - Разработчики ИИ должны учитывать оценку рисков и стратегии противодействия ненависти в основу своих проектов. Между тем, правительству необходимо срочно проявить лидерские качества и исправить наш режим регулирования, который уже оказывается не отвечающим поставленным целям».
Упомянутый отчет опубликован на фоне беспрецедентного роста уровня антисемитизма во всем мире.
Агентство Европейского Союза по основным правам (EUFRA) зафиксировало рост антисемитской активности до 400% с момента начала войны между Израилем и ХАМАСом. Кроме того, EUFRA также обнаружила, что 96% евреев сталкиваются с антисемитизмом в своей повседневной жизни.
Что касается онлайн-контента, EUFRA сообщила, что наибольшее количество антисемитских постов наблюдается в Великобритании – около 2,5 миллиона, за ней следуют Испания – 1,3 миллиона и Франция – 1,15 миллиона.