Anthropic: моделі Claude намагалися використовувати для кібератак і стеження

У новому звіті Anthropic описує низку заблокованих інцидентів, коли користувачі намагалися залучити Claude до автоматизації шкідливої діяльності. Серед зафіксованих напрямів — кібероперації, створення систем стеження, інформаційні кампанії та запитання, які могли полегшити розробку небезпечних технологій.

Окремі схеми, за заявою компанії, були пов’язані з державними структурами або іншими суб’єктами з Китаю та рф. Це означає, що ШІ намагаються використовувати не лише як технічну підтримку, а й як ресурс для розвідувальних місій і кампаній впливу.

Найбільшу тривогу викликали біологічні запити. Один із користувачів, як стверджує Anthropic, просив допомоги в дослідженні, здатному підвищити небезпеку вірусу. Компанія зупинила таку спробу, підкресливши, що моделі не мають ставати інструментом для потенційно небезпечних наукових експериментів.

Anthropic також протидіє несанкціонованому копіюванню можливостей своїх моделей, зокрема через масове створення акаунтів і обхід обмежень. Раніше компанія повідомляла про нелегальну екосистему, учасники якої намагалися отримати доступ до технологій Claude для навчання інших моделей.

Попри заявлені блокировки, компанія попереджає: зі зростанням потужності ШІ складні операції можуть потребувати менше фахівців і ресурсів. Це підвищує ризик для кібербезпеки, приватності та біологічної безпеки.

Що це означає

Для читача це означає, що загроза штучного інтелекту вже не абстрактна: його можуть застосовувати для атак, стеження та впливу. Важливо, що великі розробники починають публічно фіксувати такі випадки й описувати захисні заходи.

Водночас історія Anthropic показує, що обмеження моделей не гарантують повного захисту. Організаціям і державним установам варто готуватися до нових векторів атак, де ШІ допомагає швидше створювати, тестувати та масштабувати шкідливі дії.