Найвищий офіційний представник ООН з прав людини назвав Meta, OpenAI та Google, закликаючи до обов’язкових стандартів безпеки для передових систем ШІ.
Керівник ООН з прав людини видалив нове попередження щодо небезпек, пов’язаних з неконтрольованим розвитком штучного інтелекту. Офіційна особа описала ризик для людства як реальний, а не теоретичний, і закликала впровадити конкретні заходи безпеки.
За даними матеріалів Cryptopolitan та The Cryptonomist, офіційна особа ООН безпосередньо назвала трьох найвідоміших гравців галузі: Meta, OpenAI та Google. Названня конкретних компаній є відхиленням від більш загальних попереджень, які міжнародні органи зазвичай видають щодо ризиків ШІ.
Це твердження додається до зростаючого хору занепокоєння з боку глобальних інституцій щодо темпу розгортання ШІ. Уряди, дослідники та правозахисні групи протягом кількох років обговорювали, як регулювати системи, здатні генерувати текст, зображення та автономні рішення в масштабах. Втручання ООН поставило міркування щодо прав людини прямо в цей дискурс.
Заклики щодо встановлення обмежень зазвичай зосереджені на таких питаннях, як прозорість навчання моделей, відповідальність за шкідливі вихідні дані та обмеження автономного прийняття рішень у чутливих галузях. З поточних звітів не зрозуміло, які саме механізми хоче запровадити керівник прав людини ООН, чи перетвориться цей заклик на зобов’язуючу міжнародну політику.
Формулювання ШІ як екзистенційного ризику відтворює мову, яку раніше використовували деякі дослідники та фахівці галузі ШІ. Кілька відомих розробників, включаючи деяких із самих компаній, згаданих у цьому попередженні, публічно визнали довгострокові проблеми безпеки, пов’язані з просунутими системами ШІ. Участь ООН у цій дискусії додає інституційної вагомості з позиції прав людини, а не лише технічної.
Meta, OpenAI та Google на даний момент не подали офіційної відповіді на заяву ООН. Кожна компанія раніше оголошувала про власні зусилля щодо безпеки та відповідності, хоча масштаб і можливість виконання цих заходів варіюються і залишаються предметом громадських дискусій.
Ця ініціатива відбувається на тлі ширших міжнародних зусиль щодо створення рамок управління ШІ. Європейський союз, Сполучені Штати та кілька інших юрисдикцій протягом останніх років розробляли різні регуляторні підходи до нагляду за ШІ. Звернення ООН щодо встановлення обмежень може вплинути на те, як будуть координуватися ці окремі національні та регіональні зусилля, хоча будь-яке таке узгодження вимагатиме часу для реалізації.
Вплив на ринок
Пряма реакція ринку на заявлення ООН щодо політики в галузі ШІ зазвичай обмежена в короткостроковій перспективі, оскільки такі заклики зазвичай не мають негайної сили виконання. Однак посилення риторики щодо безпеки ШІ з боку великої міжнародної організації може впливати на настрій інвесторів щодо акцій, пов’язаних з ШІ, та токенів, прив’язаних до проектів інфраструктури ШІ.
Компанії, згадані у попередженні, зокрема Meta, інвестори OpenAI та материнська компанія Google Alphabet, можуть знову зіткнутися з питаннями від регуляторів та акціонерів щодо практик управління. Для криптовалютних ринків токени, пов’язані з децентралізованими обчисленнями штучного інтелекту або платформами AI-агентів, можуть зазнати збільшеної уваги, якщо загальна регуляція штучного інтелекту набуде імпульсу, хоча жодних конкретних регуляторних заходів ще не підтверджено.
Попередження ООН підкреслює зростаючу неспокійність інституцій щодо траєкторії розвитку ШІ. Чи призведе це до конкретної політики — поки що невідомо, але це додає тиску на основних розробників ШІ, щоб публічно вирішити питання безпеки.
Часто Задавані Питання
Хто зробив твердження про екзистенційний ризик ШІ?
Голова з прав людини Організації Об'єднаних Націй зробила це твердження, згідно зі звітами Cryptopolitan та The Cryptonomist.
Які компанії були згадані у попередженні?
Офіційна особа ООН спеціально назвала Meta, OpenAI та Google як компанії, що викликають занепокоєння у контексті ризиків ШІ.
Чи запропонувала ООН конкретні регуляції штучного інтелекту?
Поточні звіти свідчать про заклик до встановлення безпечних обмежень, але не містять деталей щодо конкретних зобов’язуючих регуляторних вимог або механізмів виконання.
Як відповіли Meta, OpenAI та Google?
На даний момент офіційних відповідей від цих компаній не повідомлялося.
Чи це безпосередньо впливає на ринки криптовалют?
Наразі немає підтвердженої прямої ринкової впливу, хоча збільшена увага до регулювання ШІ може вплинути на настрій щодо криптовалютних токенів, пов’язаних з ШІ, з часом.