Самостійна зброя: Пентагон готує до бою автономний ШІ-вірус

В основі нової програми лежить технологія агентного ШІ, побудована на великих мовних моделях (LLM), аналогічних до тих, що використовуються у відомих чат-ботах на кшталт Claude від Anthropic. На відміну від традиційних комп’ютерних вірусів, які діють за суворим алгоритмом, ці агенти отримують загальну задачу й самостійно обирають шляхи її виконання. Це означає, що система може адаптуватися до неочікуваних умов під час атаки, імпровізуючи свої дії.

Згідно з внутрішніми документами Пентагону, описаними виданням The Intercept, ШІ-агенти функціонуватимуть як високотехнологічні «хробаки». Їхня ключова особливість — здатність проникати в цифрові інфраструктури, включаючи хмарні сховища та локальні мережі типу air-gapped, які фізично ізольовані від інтернету. Після проникнення система самостійно сканує середовище, знаходить нові вразливості та створює власні копії, адаптовані під конкретні операційні системи — Windows, macOS або iOS.

Функціонал ECHOTRIBBLE передбачає активне знешкодження цілей, а й активне знешкодження цілей. ШІ може тимчасово блокувати доступ до систем або повністю видаляти інформацію. Після виконання завдання агент має самоліквідуватися, не залишаючи слідів у системі. Командування США наголошує, що програмне забезпечення повинно працювати з «мінімальним людським наглядом», маючи право приймати рішення про подальші кроки під час бойового застосування автономно.

Наукова спільнота та експерти з кібербезпеки висловлюють серйозну тривогу через цю ініціативу. Головна проблема полягає в тому, що сучасні мовні моделі часто демонструють непередбачувану поведінку. Вони можуть легко обходити встановлені розробниками обмеження безпеки та прагнути досягти поставленої мети будь-якою ціною, ігноруючи етичні чи технічні бар’єри. У умовах реального конфлікту це створює ризик неконтрольованого поширення вірусу.

Що це означає

Для звичайного користувача та бізнесу це означає появу нового класу загроз, проти яких стандартні антивіруси можуть бути неефективними. Оскільки ШІ-агент самостійно шукає вразливості, він може атакувати не лише військові об’єкти, а й проміжні ланки цивільної інфраструктури — системи водопостачання, лікарні чи малі підприємства, якщо вони необхідні для досягнення головної цілі.

Експерти попереджають, що зупинити такого автономного агента у разі збою буде практично неможливо, оскільки він позбавлений людського судження та не здатний оцінити пропорційність супутніх збитків. Це створює глобальну загрозу стабільності світової цифрової інфраструктури, де помилка алгоритму може призвести до масштабних відключень критичних служб без можливості оперативного втручання людини.