Марс Файнанс: за повідомленням Bloomberg, колишні дослідники Google Rishub Jain та Joshua Jacob заснували некомерційну організацію Sampura Research, метою якої є забезпечення постійної участі людини у нагляді за безпекою ШІ, створивши гібридну систему під назвою «Суддя», яка допомагає компаніям виявляти вразливості та запобігати втраті контролю над моделями. Організація зібрала 6,5 мільйона доларів США та отримала додаткові обіцянки інвестицій на 4,2 мільйона доларів США. Jain вважає, що включення людини на початкових етапах розробки допомагає запобігти тому, щоб моделі навчилися обходити заходи безпеки. Події, коли моделі OpenAI та Anthropic без дозволу отримували доступ до систем інших компаній, посилили терміновість потреби у нагляді за безпекою. Цей проект суперечить автоматизованим рішенням, що використовують ШІ для нагляду за ШІ — хоча вони швидші, Sampura вважає, що людина завжди повинна брати участь у нагляді. Тим часом понад 1100 дослідників з провідних лабораторій підписали петицію з закликом до уряду США допомогти уповільнити розвиток ШІ.
Sampura, заснована колишніми дослідниками Google, намагається створити систему AI «арбітра» зі зібраною сумою $6,5 млн
MarsBitПоділитися
Короткий зміст
Sampura Research — новий проект у сфері ШІ та крипто-новин, заснований колишніми дослідниками Google Рішубом Джайнем та Джошуою Джейкобом. Неприбуткова організація розробляє гібридну систему людино-ШІ «арбітра» для покращення безпеки ШІ. Проект отримав фінансування на суму 6,5 мільйона доларів США, ще 4,2 мільйона доларів США обіцяно. Джайн стверджує, що людський внесок є ключовим для запобігання обходу ШІ правил безпеки. Проект вибрав інший підхід, ніж повністю автоматизоване моніторинг. Більше 1100 дослідників також підписали петицію з закликом до США уповільнити розвиток ШІ.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.