ЦАХАЛ выбирает цели в секторе Газа с помощью искусственного интеллекта. Из-за этого вместе с боевиками ХАМАС гибнет огромное число мирных жителей. Главное из расследования «+972» и «Сиха мекомит»

Израильские военные для определения целей в секторе Газа полагаются на программу под названием «Лаванда» с применением технологий искусственного интеллекта, утверждается в расследовании журналиста и активиста Юваля Авраама (оно опубликовано на иврите в издании «Сиха мекомит» и по-английски в издании «+972»). По данным Авраама, полученным от неназванных источников в израильской разведке, ЦАХАЛ с начала войны в Газе в октябре 2023 года практически автоматизировал процесс поиска боевиков ХАМАС. «Лаванда» допускает ошибки — но командование израильской армии санкционировало беспрецедентно высокий «сопутствующий ущерб», что приводит к гибели множества гражданских лиц.

Раньше ЦАХАЛ допускал уничтожение противника с «сопутствующим ущербом» лишь после тщательных проверок. Но после 7 октября 2023 года проверки свели к минимуму

Правила, принятые в Армии обороны Израиля, допускают уничтожение военных командиров противника (в том числе ХАМАС), даже если существует риск гибели гражданских лиц — например, при ударе по его дому. Требуется тщательная проверка идентификации цели, а также подтверждение, что в зоне поражения нет детей.

По словам собеседников Юваля Авраама, после нападения ХАМАС на Израиль 7 октября 2023 года и начала ответной израильской военной операции в секторе Газа подход радикально изменился. Все боевики ХАМАС были признаны «законными целями». Тем самым количество целей увеличилось до нескольких десятков тысяч, и военным стало не хватать времени на тщательные проверки. Тогда ЦАХАЛ пришлось автоматизировать процесс.

Согласно источникам Авраама, функцию определения целей возложили на программу «Лаванда» (לבנדר) с применением алгоритмов искусственного интеллекта (ИИ). Ее разработало «Подразделение 8200», которое входит в Управление военной разведки ЦАХАЛ и занимается радиоэлектронной разведкой. По словам источников, на пике «Лаванда» пометила около 37 тысяч палестинцев как боевиков ХАМАС (показатель меняется в зависимости от строгости критериев, предписанных программе).

При составлении списка целей «Лаванда» анализирует данные почти каждого из двух с лишним миллионов жителей сектора Газа, собранные с помощью различных систем наблюдения, включая камеры, дроны и слежку по мобильным телефонам, — и оценивает по 100-балльной шкале вероятность, что тот или иной человек — боевик ХАМАС или «Исламского джихада». ИИ сопоставляет установленные ранее характеристики уже известных боевиков с характеристиками объекта наблюдения. Если совпадало достаточное количество характеристик, программа маркировала его как террориста и автоматически включала в список на устранение.

Разведчики рассказали, что поначалу проверяли, верно ли «Лаванда» идентифицировала того или иного человека как «законную цель». Убедившись, что точность достигала 90 процентов, командование решило, что этого достаточно, и целеуказание «Лаванды» практически стало равноценно приказу нанести удар. Формально приказ по-прежнему отдает человек, но на перепроверку вывода программы тратится не более 20 секунд. Чаще всего перепроверка сводится к тому, чтобы убедиться, что цель — мужчина.

Действия Израиля в секторе Газа критикуют и власти США

• Если Израиль не изменит свою политику, США изменят свою Байден поговорил с Нетаниягу после удара ЦАХАЛ по гуманитарному конвою в секторе Газа — и предупредил, что «терпение иссякло»

«Лаванда» то и дело ошибается. Но израильское командование закрывает глаза на «сопутствующий ущерб»

По рассказам источников Авраама, «Лаванда» регулярно маркировала как боевиков тех, кто демонстрировал схожие с ними паттерны поведения, но на самом деле не участвовал в боевых действиях: полицейских, родных и однофамильцев террористов, мирных жителей, пользующихся телефонами, которые раньше принадлежали членам ХАМАС.

«Во время войны палестинцы постоянно обменивается телефонами, — рассказал один источник. — Люди отдают их супругам или друзьям, теряют их. Нельзя полагаться на то, что машина со стопроцентной точностью определит, какой телефон кому принадлежит».

Другой сотрудник разведки рассказал, что к ошибкам подходили «статистически». Командование ЦАХАЛ якобы спокойно относилось к тому, что в списки террористов попадет какое-то количество мирных жителей. По словам еще одного информатора, руководство разведки оказывало постоянное давление на подчиненных, чтобы те, используя «Лаванду», постоянно обновляли список целей. Из-за этого военные понижали строгость критериев, считавшихся достаточными для причисления к боевикам. В зависимости от заданных условий «Лаванда» могла признавать одного и того же человека то гражданским, то боевиком.

Израильская система массового наблюдения в Газе позволяет «связать» каждого человека со зданием, где тот с большой долей вероятности проживает. Собеседники Авраама рассказали о вспомогательной программе «Где папа» (איפה אבא), которая анализирует передвижения тысяч людей, маркированных как «законные цели», определяет, когда они оказываются дома, — и посылает сигнал ответственному за атаку офицеру. Здание подвергается бомбардировке. Кто еще в этот момент может там находиться, зачастую просто не учитывается.

Кроме того, по словам источников Авраама, при устранении тех, кого «Лаванда» определила как боевиков низшего звена, израильтяне предпочитают экономить дорогие «умные» бомбы — и применяют «тупые», которые не взрываются в определенной квартире, а сносят все здание.

При устранении командиров ХАМАС израильским военным разрешается убивать больше ста мирных жителей. Некоторые источники объясняют такие установки жаждой мести

Информаторы Авраама рассказали, что в первые недели войны при устранении каждого боевика низшего звена, независимо от его ранга и военной значимости, допустимым «сопутствующим ущербом» считалось 15–20 гражданских лиц. Такие установки они назвали беспрецедентными по меркам ЦАХАЛ. По словам сотрудников разведки, принцип пропорциональности при подсчете возможных жертв заменило стремление убить как можно больше членов ХАМАС.

Источники сообщили, что в настоящее время израильское командование перестало массово маркировать цели для уничтожения в жилых домах среди оперативников ХАМАС низшего звена — во многом из-за давления со стороны американского правительства. К тому же большинство зданий в Газе уже повреждены или уничтожены, из-за чего армия больше не может полагаться на данные разведки. Один информатор и вовсе заверил, что удары по рядовым боевикам наносились только в первые недели войны, а затем прекратились из-за необходимости экономить снаряды.

Однако ЦАХАЛ по-прежнему проводит аналогичные операции против командиров ХАМАС. По сведениям источников, в таких случаях даже больше ста жертв среди гражданских признаются допустимым «сопутствующим ущербом». Это беспрецедентная установка, аналогов которой нет в истории военных операций не только Израиля, но и, например, США в Ираке, Сирии и Афганистане.

Как работают законы войны?

• Россию постоянно (а Украину изредка) обвиняют в нарушении «законов войны». Но разве у войны могут быть какие-то законы?

«Мы знали, что можем убить больше ста гражданских, — вспоминает один из информаторов бомбардировку 2 декабря, целью которой был командир одного из батальонов ХАМАС. — С психологической точки зрения это казалось мне странным. Больше 100 гражданских — это уже по ту сторону какой-то красной линии». По сведениям израильской правозащитной организации «Бецелем», в той атаке были уничтожены десятки зданий и погибли десятки людей, а еще сотни оказались под завалами.

Другой информатор рассказал, что при устранении еще одного командира ХАМАС ЦАХАЛ поднял планку допустимых жертв среди гражданских до 300 человек. 17 октября 2023 года израильская армия осуществила атаку, основываясь на приблизительных данных о местоположении террориста, и разбомбила лагерь палестинских беженцев Бурейдж. По сообщениям очевидцев, тогда ЦАХАЛ уничтожил от 16 до 18 зданий. «Сопутствующий ущерб» составил несколько десятков человек. Некоторые информаторы в разговоре с Авраамом предположили, что агрессивный подход ЦАХАЛ отчасти объяснялся жаждой мести за события 7 октября.

Израильские военные и прежде рассказывали, что учат ИИ определять «опасных людей»

Представитель ЦАХАЛ на прямой запрос авторов расследования ответил, что списка целей, составленного искусственным интеллектом, не существует. Однако есть немало подтверждений, что израильские военные работают над программой, похожей на «Лаванду», как ее описывают источники Авраама.

• Еще в 2021 году вышла книга под названием «Команда человека и машины: как создать синергию между человеком и искусственным интеллектом, которая перевернет наш мир». Автор обозначен только инициалами и воинским званием: «бригадный генерал Й. С.». По сведениям израильской газеты «Гаарец», это командир «Подразделения 8200», чья личность засекречена.
• Описывая технологию, которая поможет автоматизировать определение «опасных людей», Й. С. почти повторяет то, как описали «Лаванду» собеседники Авраама. Он также перечисляет характеристики, предположительно позволяющие вычислить боевика: участие в одном чате в Whatsapp с установленным террористом, регулярная смена телефона и места проживания.
• А в 2023 году (еще до нападения ХАМАС) на конференции по ИИ в Тель-Авивском университете выступил некто полковник Йоав из «Подразделения 8200». Он упомянул «новую сложную машину по определению целей», способную вычислять «опасных людей» на основании их сходства с известными боевиками.
• В ноябре 2023 года, на второй месяц войны в Газе, тот же Юваль Авраам выпустил расследование о программе «Благовещение» (הבשורה), также основанной на технологиях ИИ и предназначенной для выбора целей для ударов ЦАХАЛ — только не людей, а зданий. Существование этой программы подтвердили журналисты-расследователи из The Guardian.
• Тогда же израильские военные показывали репортерам The New York Times систему мониторинга перемещений населения сектора Газа, основанную на данных биллинга сотовых телефонов. Они подчеркивали, что избегают ударов по тем местам, где наблюдают большое скопление людей.

Что происходит сегодня внутри Израиля

• В Тель-Авиве прошла крупнейшая с начала войны демонстрация Семьи заложников, захваченных террористами ХАМАС, объединились с оппозицией, которая требует отставки правительства Израиля

«Медуза»