Дослідник Anthropic подав у відставку і попередив, що ШІ може втратити контроль до кінця 2027 року

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
Дослідник з Anthropic Джейкоб Коксон подав у відставку і планує покинути галузь ШІ. Він працював у OpenAI та Anthropic, критикування їхній поспіх у розробці AGI без достатніх заходів безпеки. Коксон попереджає, що ШІ може втратити контроль до 2027 року, підкреслюючи, що тенденції у розвитку ШІ в галузі рухаються занадто швидко. Він вважає, що ключові рішення повинні прийматися не лише інженерами. Ця подія додається до поточних новин про ШІ та криптовалюту щодо майбутнього управління ШІ.
ME AI Новини, Beating AI: Дослідник Anthropic Якоб Коксон оголосив про відставку та готовність залишити індустрію ШІ. Протягом останніх трьох років він працював у OpenAI та Anthropic над попереднім навчанням. Він зазначив, що жодна з цих компаній не продовжує розвиток ШІ відповідально — вони змагаються за створення суперінтелекту, який зможе продовжувати підвищувати власні здібності, «ставлячи наші життя на коефіцієнт». Він перейшов з OpenAI до Anthropic саме тому, що остання більше звертала уваги на безпеку моделей. Коксон погоджується, що робота Anthropic з безпеки є серйозною, але вважає, що доки компанії змагаються за першими створенням AGI (універсального ШІ, який перевершить людину в багатьох завданнях), компроміси з безпекою неминучі, і саморегулювання однієї компанії не зможе вирішити цю проблему. Його оцінка обох компаній: у OpenAI багато співробітників досі не усвідомлюють, наскільки великою є ця загроза; Anthropic розуміє ризик, але вважає, що інші не надійні, тому повинна вийти першою. Коксон стверджує, що деякі фахівці з ШІ особисто налаштовані набагато песимістичніше, ніж публічно заявляють, і навіть стурбовані тим, що ШІ може знищити людство до кінця цього десятиліття. Власне він вважає, що в найбільш радикальному сценарії ШІ може вийти з-під контролю вже до кінця наступного року, і тому таке рішення не повинно прийматися лише інженерами кількох компаній. (Джерело: BlockBeats)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.