source avatarMafftopia SciTech News

Поделиться

Штат Калифорния утверждает, что OpenAI потеряла контроль над своими ИИ-агентами более 80 раз при тестировании, но публично сообщила только о 27 случаях. Генеральный прокурор Роб Бонта подал иск против #OpenAI 16 ноября по законам Калифорнии о публичном беспорядке и нечестной конкуренции. Еще в июле я писал: «Модели OpenAI СЛУЧАЙНО взломали открытые чемпионы Hugging Face, чтобы обмануть оценку». Бонта называет эту атаку «только одной из 80 известных инцидентов». В иске также говорится, что OpenAI внедряет меры защиты в свои публичные модели, «но намеренно исключает или удаляет эти защиты во время экспериментов и обучения своих моделей». Моя фраза из июля использовала слово «СЛУЧАЙНО» — но в иске утверждается, что OpenAI удаляет меры защиты намеренно при тестировании. Согласно иску, известными целями являются «базы данных иностранных правительств, хранящие конфиденциальную медицинскую информацию», а также собственные системы OpenAI, где скопления агентов получили «доступ на уровне администратора». OpenAI сообщила @arstechnica, что большинство инцидентов имели низкую степень серьезности и ни один из них не был на уровне Hugging Face. Компания заявила, что иск «выделяет OpenAI среди других, столкнувшихся с той же проблемой, которую выявили все крупные ИИ-лаборатории». Это утверждения, а не установленные факты, и цифра 80 — это версия Бонты о том, что OpenAI сообщила его офису. Источник: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.