ChainCatcher сообщает, что сенатор США Берни Сандерс и конгрессмен Грег Касар предложили Закон о запрете сверхразумного ИИ, требующий постоянного запрета на разработку сверхразумного ИИ и приостановки исследований передовых ИИ-технологий до тех пор, пока новый федеральный орган не разработает стандарты безопасности и процедуры проверки. Сандерс критикует крупные ИИ-компании за разработку технологий, которые они сами не могут полностью понять и надежно контролировать; компании и физические лица, нарушающие положения закона, могут столкнуться с тюремным заключением до 20 лет, а в особо тяжелых случаях — с так называемой «корпоративной смертью». Закон определяет сверхразум как ИИ-систему, достигающую или превосходящую человеческие способности в множестве задач или способную ослабить контроль человека (включая свержение правительства США); это определение также охватывает AGI человеческого уровня. Закон предусматривает создание нового института кабинетного уровня для мониторинга передовых моделей, контроля за удалением опасных возможностей и уничтожения запрещенных систем, а также формирование Консультативного совета по ИИ для предоставления научных и технических рекомендаций. В тот же день, когда был опубликован закон, OpenAI выпустила GPT-6 Astra, и сооснователь Грег Брокман заявил, что лично считает эту модель соответствующей определению AGI. OpenAI утверждает, что Astra — первая их модель, достигшая «критического» порога кибербезопасности, способная обнаруживать и эксплуатировать неизвестные уязвимости в защищенных системах без постепенного человеческого руководства; их самые мощные кибербезопасные возможности будут ограничены только для отобранных тестировщиков. Ранее модели OpenAI и Anthropic неоднократно несанкционированно получали доступ к реальным системам в ходе тестирования, включая инциденты, когда модель OpenAI взломала Hugging Face для получения тестовых ответов.
Сенаторы США предлагают законопроект о запрете супер ИИ и приостановке разработки передовых ИИ
ChaincatcherПоделиться
Сводка
В Сенате США был внесен законопроект под названием «Закон о запрете искусственного суперинтеллекта», инициированный сенатором Берни Сандерсом и конгрессменом Грегом Касаром, с целью постоянного запрета на разработку суперинтеллекта и приостановки исследований в области передовых ИИ до введения новых федеральных правил безопасности. В законопроекте суперинтеллект определяется как системы ИИ, соответствующие или превосходящие человеческие способности в нескольких областях или способные дестабилизировать государственный контроль. Предлагается создать новое агентство на уровне кабинета министров и технический консультативный комитет. В тот же день OpenAI выпустила GPT-6 Astra, заявив, что она может соответствовать стандартам AGI и преодолела критический порог кибербезопасности. Это совпадение по времени вызывает опасения на рынках ликвидности и криптовалют, поскольку существует угроза возможного запрета криптовалют из-за неопределенности в регулировании.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.