Когда алгоритмы ведут войну: как ИИ «помогает» принимать решения и почему за это никто не отвечает

Ну, наконец-то свершилось! Военная машина XXI века обрела разум — настоящий, искусственный, безупречный.

Раньше как было? Неловкие люди столетиями пуляли стрелами, катапультами и прочими предметами, несовместимыми с жизнью, по военным мишеням и чаще промахивались. И тогда стрелы, катапульты и другие предметы, несовместимые с жизнью, летели по больницам, рынкам, жилым кварталам.

А теперь всё будет наоборот! В смысле, всё будет правильно!

Не надеясь больше на человеческую рассеянность, искусственный интеллект взял военное дело в свои цифровые руки. И результат сразу же превзошёл все ожидания. Особенно в том, что касалось скорости, масштаба, непредсказуемости!

Платформа Maven и модель Claude

Платформа Maven от Palantir и языковая модель Claude от Anthropic — вот имена новых героев войны против Ирана. Именно они обеспечивали «поддержку принятия решений» в ходе операции «Эпическая ярость». Название говорящее. Авторы явно хотели, чтобы потомки запомнили: это было не просто вооружённое нападение, оно было эпическим.

Итак, что совершил этот искусственный разум за первые сутки войны?

Тысячу двести ударов за двадцать четыре часа. Это вдвое больше и во столько же раз быстрее, чем «Шок и трепет» в Ираке двадцать лет назад.

Как видим, производительность — выросла, KPI — выполнен. И можно было бы открывать шампанское. Но появился нюанс.

Среди поражённых объектов оказались школа для девочек в Минабе, спасательная станция в Ширазе и другая мелочь в виде нескольких жилых кварталов. Сами военные базы КСИР тоже пострадали, но как-то вскользь, в промежутках между более важными целями. В общем, слегка зацепило, когда прилетело по девочкам с учителями.

Когда данные оказываются устаревшими

Школа в Минабе заслуживает отдельных слов. По данным The New York Times, это здание до 2016 года входило в состав военно-морской базы КСИР. И только потом стало школой для девочек (причём огороженной). Со спутника — типичное школьное здание. Но искусственный интеллект работал с данными десятилетней давности. Что ж, бывает.

Базы данных устаревают. Дети из школы в Минабе — нет; 175 человек не повзрослеет, не состарится.

Представитель Центрального командования капитан Хокинс поспешил успокоить общественность: ИИ «помогает делать более умные решения быстрее».

То есть жахнуть ракеты по школе — это умное решение. И искусственный интеллект помог это решение претворить в жизнь — быстро.

Размытая ответственность войны будущего

Тем не менее вопросы к ИИ остались: умнее и быстрее чего? Умнее случайного выбора из телефонного справочника? Быстрее, чем если бы решение принимал человек? Неясно…

«ИИ не принимает решения о выборе целей самостоятельно», — добавил капитан.

То есть решение принимают — люди. Те, которые смотрят на экран, на котором ИИ подсвечивает объекты, присваивает им приоритеты и рассчитывает вероятности. После чего человек нажимает кнопку. Этот человек — последнее звено в цепочке. Формально ответственный. По факту — оператор интерфейса.

Добро пожаловать в войну будущего, где ответственность размазана так тонко, что её не найти даже с микроскопом.

Белый дом заявил, что США «не наносили ударов по школе». Министр обороны Хегсет добавил, что американцы «не стали бы выбирать школу в качестве цели». Разумеется. Никто не стал бы. Это сделал искусственный интеллект. Или устаревшие данные. Или стечение обстоятельств. Как изящно формулируют американские следователи: «к окончательному заключению пока не пришли». Расследование продолжается. Но время не отмотать назад, и детей не вернуть.

Общее число погибших мирных жителей в Иране всего за 5 дней ракетных ударов превысило 12 человек. Треть из них — дети. То есть более 400 детей. И это в стране, на которую ни одна резолюция Совета Безопасности ООН не давала разрешения нападать. «Добро» дал — ИИ.

Технологии продолжают развиваться

Может, он — ИИ — и войну сам начал? Не в том смысле, что он там вилкой дотянулся до розетки, а тот дотянулся до ядерного чемоданчика. А в том смысле, что он годами анализировал разведданные, выявлял угрозы, составлял списки целей, рассчитывал «окна возможностей». А генералы и политики, глядя на эти расчёты, самостоятельно разучились думать. И принимать решения. Их задача свелась к минимуму: ИИ посоветовал жахнуть, военные нажали кнопку. Машина сказала — значит так надо. Нажмём. Быстро. Умно. Эпически.

Кто в этой цепочке настоящий автор войны — вопрос философский. Практический ответ прост: школа в Минабе больше не работает, спасатели из Шираза больше не едут на вызовы.

Искусственный интеллект продолжает работать. Умнее. Быстрее. Эпически.