По сообщению Mars Finance, по данным Bloomberg, бывшие исследователи Google Rishub Jain и Joshua Jacob основали некоммерческую организацию Sampura Research с целью обеспечить постоянное участие человека в надзоре за безопасностью ИИ, создав гибридную систему под названием «Судья», которая поможет компаниям выявлять уязвимости и предотвращать выход моделей из-под контроля. Организация уже привлекла 6,5 миллиона долларов США и получила дополнительные обязательства по инвестициям в размере 4,2 миллиона долларов США. Jain считает, что вовлечение человека на ранних этапах разработки помогает предотвратить обучение моделей обходу мер безопасности. Инциденты с несанкционированным доступом моделей OpenAI и Anthropic к системам других компаний усилили срочность необходимости усиления надзора. Этот проект контрастирует с автоматизированными решениями, использующими ИИ для мониторинга ИИ — хотя такие решения быстрее, Sampura считает, что человек должен всегда участвовать в надзоре. В то же время более 1100 ведущих исследователей лабораторий подписали петицию с призывом к правительству США помочь замедлить темпы развития ИИ.
Sampura, основанная бывшими исследователями Google, стремится создать систему ИИ «арбитра» с привлеченными 6,5 млн долларов
MarsBitПоделиться
Сводка
Sampura Research — новый проект в области ИИ и криптовалютных новостей, основанный бывшими исследователями Google Ришубом Джайном и Джошуей Джейкобом. Эта некоммерческая организация разрабатывает гибридную систему «арбитра» с участием человека и ИИ для повышения безопасности ИИ. В рамках новостей о финансировании проекта было привлечено 6,5 млн долларов, еще 4,2 млн долларов обещаны. Джайни утверждает, что вклад человека ключев для предотвращения обхода ИИ правил безопасности. Проект выбирает иной путь по сравнению с полностью автоматизированным мониторингом. Более 1100 исследователей также подписали петицию с просьбой к США замедлить развитие ИИ.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.