Екзистенційний ризик для людства: лідери ШІ-індустрії закликають ООН до дії

Сем Альтман, голова OpenAI, окреслив два тривожні сценарії майбутнього. Перший пов’язаний з рекурсивним самовдосконаленням систем: коли ШІ починає писати код для покращення самого себе, швидкість розвитку стає недоступною для людського сприйняття. За таких умов люди втрачають можливість моніторингу та втручання. Другий ризик полягає у концентрації влади: найпотужніші моделі можуть опинитися під контролем вузького кола осіб або держав, які використовуватимуть їх для нав’язування власних цінностей світові.

Альтман порівняв поточний момент історії з вибором між новим Відродженням та хаотичною промисловою революцією. Він запропонував три базові принципи безпеки: збереження людського контролю над системами, орієнтація ШІ на благо суспільства та забезпечення рівного доступу до технологій для розширення можливостей кожної людини.

Даріо Амодеї, CEO Anthropic, додав до дискусії конкретні приклади загроз. На його думку, найбільшу небезпеку становить використання мовних моделей біотерористами для створення біологічної зброї. Також він висловив занепокоєння тим, що технічні можливості ШІ розвиваються швидше, ніж здатність розробників гарантувати їхню передбачуваність та безпеку.

Для мінімізації ризиків Амодеї запропонував покроковий план міжнародної співпраці. Спочатку країни мають домовитися про заборону використання ШІ у біологічному тероризмі. Наступним етапом стане створення незалежних систем верифікації та тестування моделей на ризики втрати контролю та зловживань. Anthropic вже заявив про готовність уповільнити випуск нових продуктів, якщо це буде необхідним для гарантії їхньої безпеки.

Що це означає

Ця заява означає, що питання регулювання штучного інтелекту перестало бути суто технічним чи національним і перейшло у площину глобальної безпеки. Втрата контролю над алгоритмами або їхнє зловживання тепер розглядається як загроза, порівнянна з ядерною чи біологічною.

Для звичайного користувача та бізнесу це сигнал про те, що найближчі роки можуть принести жорсткіші обмеження на використання генеративних моделей. Міжнародні стандарти безпеки можуть уповільнити впровадження деяких функцій ШІ, але одночасно підвищать довіру до технологій та захистять від маніпуляцій.