ШІ як екзистенційна загроза: чому топ-менеджери великих технологічних гігантів звернулися до ООН

Сем Альтман, очільник OpenAI, наголосив на критичній важливості «надзвичайної обережності» під час розробки нових моделей. За його словами, технології еволюціонують значно швидше, ніж здатні адаптуватися державні інституції. Це дисбаланс створює ризик концентрації влади у руках вузького кола осіб або виникнення неконтрольованих ситуацій. Альтман зазначив, що галузь не повинна жертвувати безпекою заради конкурентної переваги, навіть якщо потенційні вигоди від ШІ є надзвичайно високими.

Даріо Амодеї, голова Anthropic, пішов далі у своїх оцінках, заявивши, що за неналежного управління штучний інтелект дійсно може стати загрозою для всього людства. Він підкреслив готовність своєї компанії сповільнювати темпи випуску продуктів, щоб гарантувати їхню абсолютну безпеку. Для Амодеї пріоритетом є встановлення суворіших стандартів, які дозволяють перевіряти кожну нову модель перед її публікацією.

Клеман Деланг, CEO платформи Hugging Face, привернув увагу до питання кібербезпеки та відкритості технологій. Його компанія нещодавно зіткнулася з атакою автономного ПЗ, розробленого OpenAI, але успішно використала подібні інструменти для захисту. Деланг переконаний, що світу потрібен ШІ з відкритим вихідним кодом, який дозволить демократизувати доступ до захисних механізмів і запобігти монополізації небезпечних технологій.

Ця ініціатива лідерів ІТ-індустрії відбувається на тлі загострення геополітичної дискусії щодо регулювання ШІ. Водночас політики мають різні погляди: якщо ООН закликає до посилення нагляду, то представники адміністрації США, зокрема Дональд Трамп, виступають проти жорсткого регулювання, пропагуючи концепцію «надінтелекту» та ліберальніший підхід до розвитку технологій.

Що це означає

Для звичайних користувачів це означає, що майбутнє цифрове середовище формуватиметься не лише через конкуренцію корпорацій, а й через міжнародне право та дипломатію. Звернення до ООН свідчить про те, що ризики ШІ вже вийшли за межі технічних проблем і стали питанням глобальної стабільності.

Можливо, найближчим часом ми побачимо появу нових законів, які зобов’яжуть розробників проходити незалежну сертифікацію своїх алгоритмів. Це може уповільнити вихід деяких продуктів на ринок, але підвищить рівень довіри до автоматизованих систем у фінансах, медицині та управлінні критичною інфраструктурою.