Генеральний директор OpenAI Сам Альтман виступає проти системи нагород для людей, що керується ШІ

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
Генеральний директор OpenAI Сем Олтман висловив занепокоєння щодо того, що AI-системи можуть керувати людськими стимулами та поведінкою. Він підкреслив необхідність людського контролю над майбутніми розробками, навіть якщо це сповільнить прогрес у сфері ШІ. Його зауваження слідують за статтею 2024 року Даріо Амодеї з Anthropic, який досліджував AI-спрямовані економічні моделі, такі як універсальний базовий дохід. Амодеї попереджав про ризики, такі як експлуатація та дистопічні наслідки. Трейдери повинні враховувати ці погляди при аналізі рівнів підтримки та опору у активах, пов’язаних з ШІ. Стратегії розподілу активів можуть потребувати врахування змінного регуляторного та етичного ландшафту.
ME AI Новини, Beating AI Новини: Генеральний директор OpenAI Сем Альтман опублікував пост, у якому відкрито виступив проти майбутнього, коли люди живуть так, як AI вважає вартий винагороди, а AI вирішує, яку винагороду надавати. За його думкою, люди завжди повинні зберігати контроль над майбутнім. Навіть якщо це вимагатиме обмеження розвитку суперінтелекту, не можна передавати це право вирішення. Альтман не називав імен, але цитований ним вислів безпосередньо походить з довгої статті 2024 року генерального директора Anthropic Даріо Амодеї «Machines of Loving Grace». Амодеї тоді поставив питання: як буде функціонувати суспільство, якщо AI в кінцевому підсумку краще виконуватиме майже всі роботи, а вартість їх виконання настільки низька, що люди втрачають економічну конкурентоспроможність? Він обговорив кілька можливих шляхів, зокрема універсальний базовий дохід та економічну модель, за якою AI створює величезне багатство, а потім розподіляє ресурси згідно з тими діями людей, які вважає вартими винагороди. У цьому сценарії люди можуть більше не змушені працювати для виживання, але кількість отримуваних ресурсів залежатиме від того, як AI оцінює їхні дії. Однак Амодеї не пропонував цей механізм як офіційну пропозицію. Він зазначив, що всі ці розв’язки мають серйозні проблеми, а також попереджав про можливість виникнення експлуатації та антиутопічних наслідків. (Джерело: MLion)
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.