В TikTok и Instagram распространяется тревожное явление: фейковые раввины, созданные с помощью искусственного интеллекта, публикуют видеоролики, полные антисемитских стереотипов. Как указывает «Исраэль хайом», вымышленные персонажи выглядят как настоящие раввины, говорят авторитетным голосом, носят одежду, ассоциирующуюся с еврейским миром, и дают советы о деньгах, успехе, бизнесе и «жизненной мудрости». Проблема в том, что ни одного из раввинов в действительности не существует, а их контент увековечивает древние антисемитские мифы на современных платформах.
Масштабы явления
Проверка TikTok выявила десятки аккаунтов, представляющих «раввинов», созданных с помощью ИИ и публикующих посты на английском языке. Вместе эти аккаунты набрали более миллиона подписчиков и десятки миллионов лайков. Причем подчеркивается, что это лишь верхушка айсберга: невозможно узнать, сколько еще миллионов людей видели эти фейковые материалы и на сколько языков они были переведены.
То же самое касается Instagram, где действует, к примеру, несуществующий «рабби Менахем Гольдберг» с почти 1,5 миллионами подписчиков. В общей сложности движение по борьбе с антисемитизмом выявило около 70 подобных аккаунтов, 60 из которых впоследствии были удалены компанией Meta после поступления жалоб. Тем не менее, восстановить их не представляет никакого труда: то, что раньше требовало съемок и монтажа, теперь оперативно производится средствами искусственного интеллекта.
Как именно работает пропаганда?
Анализ контента фейковых «раввинов ИИ» позволяет выявить повторяющиеся паттерны и формулировки, что указывает на единый источник или мотив. Механика проста и потому особенно опасна: вместо того чтобы антисемитский проповедник говорил зрителю «евреи контролируют мировой капитал», появляется якобы настоящий раввин, который оформляет ту же идею как «внутренний секрет» или финансовый совет. Так создается ложное впечатление, что евреи сам признают то, что антисемиты о них утверждают.
Когда стереотип озвучивает еврей, происходит «отмывание» антисемитских идей и их внедрение в мейнстримный дискурс. Если утверждение исходит якобы от «раввина», оно обходит естественный механизм скептицизма: зритель не сталкивается с обвинением извне, а получает его как признание «одного из них». В этом и заключается опасность.
Содержание большинства видеороликов сосредоточено на классических стереотипах: евреи одержимы деньгами, хитры и готовы на обман, умеют «обходить систему», контролируют центры власти и действуют как закрытая сеть, продвигающая свои интересы. Эти образы не являются изобретением эпохи соцсетей. Американский музей Холокоста отмечает, что стереотип о евреях как о «жадных» или одержимых деньгами, банками и кредитами развивался в Европе на протяжении столетий. Именно потому, что евреям во многих местах запрещали владеть землей и заниматься определенными профессиями, некоторые из них занимались торговлей и кредитованием.