MetaEra: «AI-хайпове літо» приховує маркетинг та неправомірні дії

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
MetaEra повідомляє про стрімкий підйом хайпу щодо ШІ, коли такі компанії, як Anthropic та OpenAI, презентують моделі, які виявляють помилки в програмному забезпеченні та досягають проривів у математиці. Експерти стверджують, що ці твердження часто перебільшені, а OpenAI звинувачують у порушенні наукової етики. Зусилля щодо створення «суперінтелектуального ШІ» відволікають увагу від реальних проблем, таких як корпоративна необережність та екологічні витрати на роботу центрів обробки даних. Коли крипторинок реагує на змінні нарративи, індекс страху та жадібності показує зростання волатильності. Торгівцям закликають залишатися інформованими та критично ставитися до маркетингу, заснованого на ШІ.
ME AI Новини: протягом останніх кількох місяців хайп навколо ШІ посилювався. Кінець квітня Anthropic оголосила, що її модель Claude Mythos краще виявляє вразливості в програмному забезпеченні, ніж більшість експертів з безпеки. Потім стався хакерський напад між OpenAI та Hugging Face, після чого Anthropic (досить горда) і Meta (не дуже охоче) розкрили подібні інциденти, пов’язані з їхніми моделями. Потім Anthropic заявила, що одна з її моделей досягла математичного прориву; швидко після цього OpenAI також оголосила про власний математичний прорив. Нещодавно інженер Anthropic Jacob Coxon став вірусним у мережі, оголосивши про вихід з компанії та стверджуючи, що Anthropic і OpenAI «прямо йдуть до самовдосконалюючого надінтелекту, ризикуючи нашими життями». Більшість цих подій були засвідчені ЗМІ майже в безумному пориві, часто повторюючи корпоративний антропоморфний нарратив — цей нарратив намагається представити їхнє програмне забезпечення не лише як потужне, а й як майже готове до «штучного загального інтелекту». Тоді яка ж справжня істина? Чи ми стаємо свідками серії технологічних проривів, здатних змінити цивілізацію, чи це просто маркетингова кампанія? У всіх цих подіях масштабна пропаганда компаній (у випадку незаконних хакерських атак — прикрита під декларації про покаяння) супроводжувалася інтенсивним освітленням у ЗМІ. Коли експерти в цих галузях мали час ретельно проаналізувати ситуацію, зазвичай виявлялася зовсім інша історія — однак її отримувала набагато менше уваги ЗМІ. Щодо цих «хакерських» інцидентів, експерти з кібербезпеки зазначили, що проблема полягає не в «втраті контролю над моделлю» чи «створенні ШІ-агентами цивілізації», а в неуважності OpenAI та невикористанні базових, добре встановлених практик безпеки. Щодо математичних досягнень, математики спочатку були «в шоці» від прес-релізу OpenAI, в якому стверджувалося, що її останній чат-бот Astra вирішив проблему, яка залишалася нерозв’язаною «щонайменше десять років» і на яку не було отримано жодних значущих результатів. Але потім вони зрозуміли, що ці результати «не були такими новаторськими, як спочатку здавалося». Потім математики звинуватили компанію у науковому неетичному поведінці та плагіаті й підкреслили, що Astra не досягла «глибокого інтелектуального стрибка». Лише через кілька тижнів OpenAI знову оголосила про власний математичний прорив. Два дні тому професор математики Інституту Куранта Нью-Йоркського університету Трістан Бакмастер опублікував викликаний резонансом заява, в якому намекнув, що OpenAI викрадла чужі дослідження та неправомірно присвоїла собі авторство. Твердження про надcoming небезпечний надінтелект не ґрунтуються на добрих наукових чи інженерних практиках. Навпаки, вони походять з ідеологій трансгуманізму, еugenics та мрій про уявних майбутніх цифрових людей. Варто задуматися, чому програмування та математика стали ключовими сферами застосування великих мовних моделей та пов’язаних технологій. Вони не лише часто вважаються вершиною людських інтелектуальних досягнень, а й стосуються таких питань, де відповідь можна перевірити одразу після її подання. Перша характеристика допомагає штучним інтелектам продавати ідею «ми створюємо всевладні машини»; друга робить математичні та програмні завдання легшими для налагодження та оптимізації систем, оскільки вихід системи (можливий рядок слів або фрагмент коду) можна безпосередньо оцінити, не платячи за послуги «числових». Ми погоджуємося з цим закликом і зазначаємо, що створення технологічними компаніями ілюзії швидкості та терміновості — це також стратегія введення в оману політиків та громадськості. На жаль, ця стратегія іноді працює — наприклад, у випадку законопроекту сенатора Берні Сандерса, спрямованого на заборону розробки «штучного надинтелекту». Цей законопроект має благородну мету, але йде не туди, куди треба. Називання цих продуктів «надинтелектом» або «втраченими моделями» фактично надає їм агентності замість того, щоб приписувати вину компаніям, яким належить створення цих продуктів. Цей нарратив одночасно представляє продукти компаній як «поза людиною» та допомагає компаніям уникнути вини за свої дії. OpenAI створила шкодливий програмний код та вторглась у іншу компанію — це має бути обґрунтовано; але прес-релізи, ЗМІ, медийні особистості та законодавці перетворили це на «втрачену модель», наче модель дала команду сама собою. Дослідникам слухали б питання: чому їхня компанія систематично плагiatує роботи академиків чи використовує дан клiєнтiв для тренування моделей без згоди; але громадська уява була спрямована у інший бiк — на побоювання про майбутнє з фантастичним надинтелектом. Індустрия ШІ навiть намагається переконати, що масова й попередньо пiдтримувана опозицiя проти дата-центрiв — це спроба перенаправити увагу вiд регулювання жахливих «трансгуманiстичних» машин, якi компанiї зараз створюють. За версiєю ШІ-галузi, ми маємо бiльше хвилюватися про фантастичну машину-бога, нiж про клiматичну катастрофу, яку посилюють дата-центри, про астму мешканцiв поблизу, про зростаючi електрорахунки громадян, якi субсидують цi об’єкти, або про воду, яку перенаправляють для їх охолодження. Ми чудово розумiємо: не можна приймати рiшення на основi маркетингових заявок чи пiддаватися тиску компанiй ради так званої ефективностi. Як полiтикам, так і громадам для розумних рiшень потрiбно час — час слухати незалежних експертiв та розглядати заявки компанiй у конкретному контекстi. Найкращим результатом цього «лiта хайпу» може стати те, що полiтики та громадянство навчаться глибоко взяти глибокий вдих, залишитися скептичними й розпiзнати суть наступного хайпу, коли вона з’явиться. Тимнiт Гебру — виконавчий директор DAIR та автор книги «Deep Unlearning: The Radicalization of a Tech Idealist», яка буде опублiкована 16 лютого. Книга зараз доступна для передзамовлення. Емiлi М. Бендер — професор лiнгвiстики у Вашингтонському унiверситетi та спiвавтор книги «The AI Con». (Джерело: MLion)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.