Согласно публикации в газете The Washington Post, появившейся 29 декабря, ЦАХАЛ использовал искусственный интеллект (ИИ) для быстрого пополнения своего «целевого банка» — списка террористов ХАМАСа и «Хизбаллы», которые будут ликвидированы во время военных операций, а также подробную информацию об их местонахождении и распорядке дня.
Некоторые эксперты считают, что целевой банк стал самой передовой военной инициативой в области искусственного интеллекта, когда-либо применявшейся.
Один из таких инструментов искусственного интеллекта называется Хабсора: он может быстро генерировать сотни дополнительных целей.
Однако в статье в Washington Post обсуждаются и ранее не публиковавшиеся подробности внутренней работы программы машинного обучения, а также секретная десятилетняя история ее развития, упоминаются также дебаты в высших эшелонах ЦАХАЛа о качестве разведывательных данных, собираемых ИИ, о том, получили ли рекомендации по технологиям достаточное внимание и ослабляет ли внимание к ИИ разведывательные возможности ЦАХАЛа.
Некоторые критики утверждают, что программа искусственного интеллекта оказалась той закулисной движущей силой, которая якобы увеличивает число погибших в секторе Газа.
«То, что происходит в секторе Газа, следует рассматривать как предвестие более широкого изменения в методах ведения войны, — сказал Стивен Фельдштейн, старший научный сотрудник Фонда Карнеги, который исследует использование ИИ в войне. - Объедините это с ускорением, которое предлагают эти системы, а также с вопросами точности, и конечным результатом станет возросшее количество погибших, чем предполагалось ранее на войне».
Как отмечают в ЦАХАЛе, заявления о том, что использование ИИ ставит под угрозу жизни людей, «не соответствуют действительности».
«Чем больше у вас возможностей эффективно собирать информацию, тем точнее будет этот процесс, — говорится в комментариях ЦАХАЛа, сделанных специально для The Washington Post. - Во всяком случае, эти инструменты свели к минимуму сопутствующий ущерб и повысили точность процесса, организуемого человеком».
По словам представителя израильской разведки, беседовавшего с The Washington Post, Хабсора и другие инструменты искусственного интеллекта не принимают решения самостоятельно.
Просматривая массивы данных из перехваченных сообщений, спутниковых записей и социальных сетей, алгоритмы выдают координаты туннелей, ракет и других военных целей. Рекомендации, прошедшие проверку аналитиком разведки, помещаются в «целевой банк» старшим офицером.
Используя программное обеспечение для распознавания изображений, военные могли обнаружить тонкие закономерности, в том числе незначительные изменения в многолетних спутниковых съемках Газы, позволяющие предположить, что ХАМАС закопал ракетную установку или вырыл новый туннель на сельскохозяйственных землях, сократив недельную работу до 30 минут. Об этом The Washington Post рассказал бывший военачальник, работавший над системами.
В войне между Израилем и ХАМАСом оценки того, сколько мирных жителей может пострадать в результате бомбардировки, получаются с помощью программного обеспечения для сбора данных, использования инструментов распознавания изображений для анализа кадров с дронов, а также смартфонов, проверяющих вышки сотовой связи, чтобы подсчитать количество мирных жителей в районе. Об этом сообщили на условиях анонимности два человека, с кем беседовали журналисты The Washington Post.
По мнению Армии обороны Израиля, ее оценки сопутствующего ущерба соответствуют Закону о вооруженных конфликтах, который обязывает страны различать гражданских лиц и комбатантов и принимать меры предосторожности для защиты мирных жителей.
Некоторые сторонники использования этой технологии Израилем утверждают, что агрессивное внедрение таких инноваций, как искусственный интеллект, необходимо для выживания маленькой страны, сталкивающейся с решительными и могущественными врагами.
«Технологическое превосходство — это то, что обеспечивает безопасность Израиля, — сказал Блез Мишталь, вице-президент по политике Еврейского института национальной безопасности Америки, которого разведывательное подразделение ЦАХАЛ проинформировало о возможностях искусственного интеллекта в 2021 году. - Чем быстрее Израиль сможет определить возможности противника и в значительной степени ослабить их на поле боя, тем короче будет война и в ней будет меньше жертв».
Однако эти технологии, хотя и были широко признаны многообещающими, имели ограничения. Иногда огромный объем перехваченных сообщений ошеломлял аналитиков Отряда 8200 - знаменитого разведподразделения ЦАХАЛа. Например, боевики ХАМАСа часто использовали слово «батих», или арбуз, в качестве кода для бомбы, рассказал The Washington Post один из людей, знакомых с ходом операции. Но внутренний аудит показал, что система недостаточно умна, чтобы понять разницу между разговором о настоящем арбузе и закодированным разговором террористов. Также были обнаружены проблемы с другими ключевыми жаргонными словами и фразами. «Если вы слушаете тысячу разговоров в день, действительно ли я хочу слышать о каждом арбузе в Газе?» - сказал собеседник The Washington Post.
Военные инвестировали в новые облачные технологии, которые быстро обрабатывали алгоритмы, готовясь к ожидаемому конфликту с «Хизбаллой» на северной границе Израиля.
Лаванда, алгоритмическая программа, разработанная в 2020 году, изучала данные для составления списков потенциальных террористов ХАМАСа и Исламского джихада, давая каждому человеку оценку, оценивающую его вероятность быть членом организации, рассказали The Washington Post три человека, знакомых с системами.
Учитывались такие факторы, как участие в группе WhatsApp с известным боевиком, частую смену адресов и номеров телефонов или имя в файлах ХАМАСа.
Оценки различных алгоритмов передавались в единую систему, которую могли запрашивать аналитики разведки.