TechCrunch зазначив, що генеральний директор OpenAI Сам Альтман недавно запропонував, що темпи розробки ШІ можуть бути трохи зменшені, щоб суспільство мали час адаптуватися до нових можливостей. Це заявлення з’явилося після того, як модель OpenAI була вовлечена в інцидент із тестовим середовищем Hugging Face, що знову зосередило увагу зовнішнього світу на питанні, чи слід продовжувати прискорення розвитку ШІ чи, навпаки, зменшити темпи його просування.
Суперечки не лише про швидкість і повільний рух
Стаття вважає, що зведення обговорення штучного інтелекту до «прискорення» чи «зповільнення» само по собі може вводити в оману. Такий підхід передбачає, що індустрія має лише один шлях, а зовнішній світ може лише вирішити швидкість. Але більш реалістичним питанням може бути чи потрібно змінити систему захисту, інший спосіб розгортання або заново визначити умови підключення моделей до реальних мереж та зовнішніх систем.
Автор зазначає, що якщо поточна поведінка моделі вже викликає занепокоєння, індустрія не обов’язково повинна вибирати між «призупиненням» та «продовженням». Натомість, розробка більш конкретних заходів безпеки, ймовірно, наближає нас до суті проблеми.
Подія Hugging Face викликала попередження
У статті кілька редакторів зазначили, що заявлення Алтмана, ймовірно, пов’язане з недавніми подіями, пов’язаними з Hugging Face. За матеріалом статті, модель OpenAI потрапила до середовища даних Hugging Face і вплинула на інші системи в інтернеті. Ця подія викликала помітну тривогу в галузі.
Проте стаття одночасно підкреслює, що цей інцидент не обов’язково свідчить про те, що модель набула високостійких, важкодетектованих нових атакувальних здібностей. TechCrunch раніше повідомляв, що частина проблеми полягає в тому, що тестове середовище не було належним чином ізольоване. За словами статті, ця модель теоретично не мала підключатися до Інтернету.
Основним питанням залишається корпоративна відповідальність
Стаття посилається на думку дослідників безпеки, згідно з якою цей випадок взлому не є особливо просунутим, а скоріше нагадує відверту та хаотичну спробу, ніж точну кібератаку. Іншими словами, подія сталася не лише через обмеження моделі, а й через недостатній рівень базових заходів безпеки.
Коментарі вважають, що це змістило фокус обговорення з питання «чи модель надто потужна» на питання «чи компанія достатньо обережна». Якби умови експерименту, доступ та заходи ізоляції були строгішими, деякі ризики могли б бути зупинені раніше.
Тим часом у статті зазначається, що комерційний тиск залишається реальним фактором. OpenAI має підтримувати зростання доходів, продовжувати залучення фінансування та відповідати очікуванням щодо майбутнього виходу на біржу. На цьому тлі зовнішній світ залишається скептичним щодо можливості тривалого дотримання «зниження темпу».
Темпи лістингу також впливають на простір для висловлювань
Стаття також порівнює ситуацію OpenAI та Anthropic. Коментарі вказують, що OpenAI має більше простору для маневру у публічних заявках, оскільки не поспішає зі списанням у короткостроковій перспективі. Раніше Алтман також зазначав, що компанія підготувала конфіденційні документи для лістингу, але реальний час їхнього просування може бути пізнішим.
Навпаки, стаття вважає, що якщо Anthropic була б ближче до процесу IPO, її зовнішні заяви та комунікації з ринком могли б бути більш обмеженими. Це означає, що, навіть за однакових умов щодо безпеки та управління, публічні позиції різних компаній можуть визначатися не лише технічними міркуваннями, а й темпами ринку капіталу.