Anthropic: модели Claude пытались использовать для кибератак и слежки

В новом отчете Anthropic описывает серию заблокированных инцидентов, когда пользователи пытались привлечь Claude к автоматизации вредоносной деятельности. Среди зафиксированных направлений — кибероперации, создание систем слежения, информационные кампании и запросы, которые могли облегчить разработку опасных технологий.

Отдельные схемы, по заявлению компании, были связаны с государственными структурами или иными субъектами из Китая и РФ. Это означает, что ИИ пытаются использовать не только как техническую поддержку, но и как ресурс для разведывательных миссий и кампаний влияния.

Наибольшую тревогу вызвали биологические запросы. Один из пользователей, как утверждает Anthropic, просил помощи в исследовании, способном повысить опасность вируса. Компания остановила такую попытку, подчеркнув, что модели не должны становиться инструментом для потенциально опасных научных экспериментов.

Anthropic также противодействует несанкционированному копированию возможностей своих моделей, в том числе через массовое создание аккаунтов и обход ограничений. Ранее компания сообщала о нелегальной экосистеме, участники которой пытались получить доступ к технологиям Claude для обучения других моделей.

Несмотря на заявленные блокировки, компания предупреждает: с ростом мощности ИИ сложные операции могут требовать меньше специалистов и ресурсов. Это повышает риск для кибербезопасности, приватности и биологической безопасности.

Что это значит

Для читателя это означает, что угроза искусственного интеллекта уже не абстрактна: его могут применять для атак, слежки и влияния. Важно, что крупные разработчики начинают публично фиксировать такие случаи и описывать защитные меры.

Вместе с тем история Anthropic показывает, что ограничения моделей не гарантируют полной защиты. Организациям и государственным учреждениям стоит готовиться к новым векторам атак, где ИИ помогает быстрее создавать, тестировать и масштабировать вредоносные действия.