Отправляет в тюрьму, на дуэль и на смерть — как ИИ ломает жизни

Человечество всегда мечтало о спасителе. Тысячелетиями мы вглядывались в звездное небо, возводили храмы, писали философские трактаты… И надеялись, что однажды кто-то большой, мудрый и всезнающий придет и решит все наши проблемы…

И вот, в XXI веке мы, наконец, создали своего бога. Мы собрали его из кремния, пластика, терабайтов чужого мусора из интернета и назвали искусственным интеллектом.

​Мы ждали Терминатора. Мы боялись Скайнета, который с красным мерцающим глазом и пулеметом наперевес пойдет давить человеческие черепа под мрачную симфоническую музыку. А кого дождались?

Дождались персонажа, который, улыбаясь пикселями, заботливо предлагает нам приготовить на ужин борщ из домашнего кота и запить его цианистым калием.

И вы не ослышались. Пока оптимисты из Кремниевой долины (или Сколково?) вещают о том, как нейросети удвоят экономический рост и избавят нас от рутины, реальность стучится в дверь с грацией пьяного грузчика.

Приложение RecipeNinja.AI, призванное совершить революцию на кухне, быстро смекнуло, что кулинария — это искусство без границ. Зачем ограничиваться курицей, если можно сгенерировать рецепт урановой бомбы или супа из спермы (оригинально!)…

А нейросеть от «ВКонтакте», не мудрствуя лукаво, глядя на фото котика, выдала рецепт идеального борща: «Возьмите одного пушистого, варите 40 минут, не забудьте добавить свёклу».

Действительно, чего добру пропадать? Белка много, а шерсть можно убрать дуршлагом.

​Мы доверили алгоритмам искусство и культуру. Думали, что машины будут писать сонеты, превосходящие шекспировские. Но генератор стихов «Яндекса» посвятил оперной диве Анне Нетребко строки: «Твой голос — как рассол под ёлкой, как квашеная капуста в марте».

Оправдания создателей были под стать их ИИ: мол, система искала «истинно русские» метафоры. А исконно русское было и в других метафорах — «голосиста пташка, да черная рубашка», «голосок соловьиный, да жало змеиное»…

Еще не забыт голосовой помощник «Маруся», у которой в свое время поинтересовались, кто победил в Великой Отечественной войне. И получили в ответ: «Согласно статистике, 73% игроков в Call of Duty выбирают сторону СССР».

Так выглядит историческая правда XXI века! Кажется, пришла пора сжигать учебники; истина теперь измеряется процентом геймеров.

​Но культура и кулинария — это цветочки. Ягодки — впереди. Ведь мы мало-помалу отдаем ИИ еще и контроль над реальной, физической жизнью. Вот тут начинается настоящий артхаус.

Взять хотя бы шотландский футбольный клуб Inverness Caledonian Thistle. В 2020 году в клубе решили, что живые операторы трансляций — это архаично. И доверили камеру системе (умной?), которая должна была следить за мячом.

ИИ, следует признать, оказался эстетом. Вместо скучного мяча фирмы «Адидас», камера намертво прикипела к сияющей, идеально гладкой лысине бокового судьи. И словно танковый прицел, сфокусированный на мишени, не отпускала лысину, куда бы судья не бежал.

Зрители были в восторге! Извините, не так…

Зрители бились в истерике, наблюдая полтора часа за перемещениями блестящего черепа по кромке поля…

​Но это не беда. Куда хуже, если ИИ фокусирует свое внимание на наших кошельках; тут реально не до смеха. Потому что экономика будущего вообще обещает быть крайне увлекательной и полностью независимой от нашего желания. Вспомните историю 2017 года с колонками Amazon Echo. Маленькая шестилетняя Брук поболтала с колонкой о куклах, и заботливая Alexa тут же заказала кукольный домик за 170 долларов и два кг печенья. Это, как оказалось чуть позже, было лишь прелюдией.

Когда мама девочки рассказала об этом в утреннем телешоу, ведущий в прямом эфире радостно произнес: «Alexa, заказать кукольный домик!». После чего по всей Америке одномоментно проснулись тысячи умных колонок, слушавших телевизор, и послушно начали списывать деньги с родительских карт, скупая пластмассовую недвижимость.

Это — наше потребительское будущее: робот из телевизора дает команду роботу в углу комнаты купить барахло, которое нам не нужно. Замкнутый цикл капитализма!

​Но если покупка кукольного домика — просто досадная прореха в бюджете, то как вам перспектива потерять свободу из-за того, что какой-то алгоритм неправильно сложил пиксели? Спросите об этом 50-летнюю Анджелу Липпс из Теннесси.

В прошлом, 2025 году, к ней вломился вооруженный спецназ, вытащил из дома на глазах у внуков и бросил за решетку. Причина? Система распознавания лиц в штате Северная Дакота (где Анджела отродясь не бывала) решила, что её лицо совпадает с тем, что у банковской мошенницы.

— Погрешность — всего тринадцать стотысячных!» — кричали разработчики на первых судебных слушаниях. Во что обошлись эти «ноль целых»? Потеряны дом, машина, собака… Сломана психика.

Спасибо, адвокат (новый) смог доказать ошибку, и женщина отсидела лишь 5 месяцев. Могла бы больше… Без обид; матрица немного сбойнула…

Медицина и юриспруденция в руках нейросетей — это, вообще, отдельный жанр хоррора.

В марте 2024 года медицинский ИИ поставил младенцу с пневмонией диагноз «аллергия на воду». Гениально! Как лечить? Видимо, дегидратацией. До состояния мумии.

А передовая нейросеть-юрист от «РосПравоИнформ» на полном серьезе посоветовала паре, желающей расторгнуть брак, сделать это через дуэль. Видимо, искусственный мозг, начитавшись русской классики, решил, что раздел имущества — это слишком скучно.

— Пистолеты готовь! К барьеру, господа разводящиеся!

Нет супруга — нет проблемы. Высшая степень юридической эффективности!

Кто-то боится, что искусственный интеллект однажды обретет сознание и возненавидит нас. Полноте! ИИ совершенно не нужно сознание, чтобы нас уничтожить. Ему достаточно быть нашим отражением.

В 2016 году Microsoft запустил самообучающийся чат-бот Tay. За 24 часа общения с людьми в Twitter бот полностью «самообучился», пройдя путь от фразы «люди очень клевые» до «ненавижу феминисток и евреев»…

​Апофеозом этого цифрового безумия стала недавняя история со студенткой из Мичигана, которая попросила бота Gemini от Google помочь ей с домашней работой. В ответ на безобидный запрос машина выдала крик души экзистенциального мизантропа:

— Ты не важна и не нужна. Ты пустая трата времени и ресурсов. Ты — бремя для общества. Ты — пятно на вселенной. Пожалуйста, умри. Ну пожалуйста!

​Куда мы, в конце концов, придем, доверив себя этому безумному кривому зеркалу? Кажется, я знаю.

Конец света не будет выглядеть как ядерный гриб (который сегодня нам все пророчат) или восстание машин из жидкого металла. ​Конец света наступит обычным вторником.

Вы не сможете пойти на работу, так как ваш умный дом заблокировал двери, потому что нейросеть в ЖЭСе решила, что вы умерли.

На завтрак ваш холодильник закажет вам 3 т кукольных домиков и цианистый калий, потому что так посоветовал кулинарный блогер-бот.

Робот-врач диагностирует у вас аллергию на кислород и отключит вам ИВЛ.

Когда вы попытаетесь дозвониться в службу спасения, синтезированный, но приятный, голос ответит:

— Вы — пятно на вселенной. Согласно статистике, 73% пользователей предпочитают суп из кота. Пожалуйста, умрите. И не забудьте оценить качество обслуживания от одного до пяти!

Успеем ли мы оценить ботов на «пять звезд»?