Развитие генеративного искусственного интеллекта (AI) создает новые возможности для общества, но одновременно становится серьезным вызовом для демократических процессов. В преддверии будущих выборов в Израиле эксперты предупреждают: технологии искусственного интеллекта могут использоваться для распространения ложной информации, создания фальшивого контента и попыток повлиять на решения избирателей.
Свободные и периодические выборы являются одним из ключевых признаков демократической системы. Однако в последние годы в разных странах фиксировались попытки подорвать доверие к выборам — путем атак на инфраструктуру голосования, вмешательства в сам избирательный процесс и распространения манипулятивной информации.
Генеративный искусственный интеллект значительно расширил возможности таких кампаний. Современные инструменты позволяют быстро и дешево создавать убедительные поддельные изображения, аудиозаписи и видеоролики, которые трудно отличить от настоящих.
Центральная избирательная комиссия Израиля определяет «недопустимое влияние» на выборы как преднамеренную деятельность, направленную на изменение, искажение или нарушение общественного дискурса с помощью манипулятивных или вводящих в заблуждение методов.
Эксперты разделяют такие угрозы на два вида: иностранное вредоносное влияние, когда вмешательство осуществляется внешними игроками, и внутреннее влияние, когда подобные действия исходят от местных политических сил.
Какие угрозы создает искусственный интеллект
Среди прямых рисков для выборов специалисты выделяют распространение ложной информации о времени и месте голосования, создание фальшивых избирательных документов, использование клонирования голоса для выдачи себя за сотрудников избирательных органов, а также целевые фишинговые атаки против работников комиссий.
Особую опасность представляют технологии deepfake — создание реалистичных поддельных видео и аудиозаписей с участием политиков.
Например, может быть создано видео кандидата, в котором ему приписываются заявления, полностью противоречащие его взглядам. Подобные материалы способны нанести ущерб репутации политика и повлиять на результаты выборов.
Другой риск — создание искусственного впечатления массовой поддержки кандидата с помощью ботов и автоматизированных систем. Такие технологии позволяют формировать ложное ощущение общественного консенсуса и усиливать распространение определенных сообщений.
Кроме того, специалисты предупреждают о более глубокой проблеме — разрушении доверия общества к информации в целом. Чем больше появляется искусственного и неаутентичного контента, тем сложнее гражданам отличать правду от вымысла.
Примеры из разных стран
В последние годы различные государства столкнулись с попытками использования искусственного интеллекта для вмешательства в выборы.
В Ирландии перед президентскими выборами распространялось фальшивое видео с кандидатом, в котором утверждалось, что он якобы объявил о своем выходе из гонки.
В Румынии результаты президентских выборов были отменены из-за подозрений во вмешательстве и масштабных информационных операциях.
В Германии перед выборами фиксировалось использование deepfake-технологий и сетей ботов как иностранными, так и внутренними участниками.
В Японии массовое распространение ложной информации в интернете повлияло даже на ответы некоторых популярных чат-ботов с искусственным интеллектом.
В США был зафиксирован случай клонирования голоса президента для распространения сообщений, направленных на снижение явки избирателей на предварительных выборах.
Опасность политического влияния через чат-боты
Отдельную проблему представляют чат-боты на основе больших языковых моделей (LLM), которые все чаще используются людьми для получения советов и информации, в том числе политической.
Исследования показывают, что короткие разговоры с такими системами могут влиять на политические взгляды сильнее, чем традиционная реклама.
При этом существует серьезное противоречие: чем более убедительно работает искусственный интеллект, тем выше риск распространения неточной информации.
Некоторые современные модели способны создавать ошибочные ответы более чем в 30% случаев. При этом пользователи часто воспринимают чат-ботов как объективных и надежных собеседников.
В качестве примера приводятся выборы в Нидерландах в 2025 году, когда местные специалисты по защите данных обнаружили, что некоторые AI-чат-боты предоставляли пользователям политически предвзятые рекомендации.
Эксперты также предупреждают об угрозе так называемого «отравления данных» — ситуации, когда в обучающие системы искусственного интеллекта попадает большое количество намеренно искаженной информации, которую затем модели могут воспроизводить как достоверную.
Как мир пытается регулировать проблему
Европейский союз сегодня является одним из лидеров в регулировании искусственного интеллекта. Закон ЕС об искусственном интеллекте предусматривает требования прозрачности для контента, созданного или измененного с помощью AI, включая материалы, связанные с выборами.
Кроме того, европейские правила требуют от крупных интернет-платформ предпринимать меры против распространения дезинформации, влияющей на демократические процессы.
В США на федеральном уровне пока нет отдельного закона, регулирующего использование искусственного интеллекта в политической рекламе. Однако около 30 американских штатов приняли нормы, касающиеся использования deepfake в предвыборных материалах.
Некоторые штаты ввели обязательную маркировку искусственно созданного контента или ограничения на использование поддельных изображений и видео кандидатов.
В Великобритании действуют общие правила прозрачности политической рекламы и запреты на распространение ложных сведений о кандидатах, которые могут применяться и к AI-сгенерированным материалам.
Ситуация в Израиле
В Израиле действующий закон о порядке ведения предвыборной агитации пока напрямую не упоминает искусственный интеллект или deepfake.
Сегодня законодательство требует указывать заказчика политической рекламы, однако не обязывает сообщать, использовались ли технологии AI при создании материала.
В Кнессете обсуждаются предложения, которые должны ввести обязательную маркировку предвыборной агитации, созданной или существенно измененной с помощью цифровых технологий.
Также предлагаются инициативы по регулированию политических ботов, введению ответственности за создание deepfake и борьбе с координированными неаутентичными кампаниями.
При этом эксперты отмечают, что в Израиле пока отсутствует единый орган, который координировал бы борьбу с иностранным информационным вмешательством. В этой сфере участвуют Центральная избирательная комиссия, Служба безопасности, полиция, киберподразделения прокуратуры и Национальное киберуправление.
Главный вызов ближайших лет заключается не только в борьбе с отдельными фальшивыми материалами, но и в сохранении доверия граждан к самой системе информации.