Odaily Planet Daily сообщение: OpenAI заявила, что нельзя исключать, что её предстоящая модель Astra обладает «критическими» сетевыми возможностями, что побудило OpenAI расширить масштабы тестирования безопасности и приостановить внутренние мероприятия, не соответствующие более строгим требованиям безопасности. Это последнее свидетельство быстрого роста сетевых возможностей моделей искусственного интеллекта.
OpenAI заявила, что после внутренней оценки одного из предстоящих моделей — Astra, «мы не можем исключить наличие у нее критически важных сетевых возможностей». Перед запуском Astra OpenAI расширит тестирование и меры безопасности для этой модели и замедлит ее разработку в соответствии с требованиями «рамок готовности», впервые опубликованных компанией в 2023 году, до тех пор, пока не будут созданы соответствующие меры защиты.
OpenAI также заявила, что Astra не участвовала в атаке на уязвимость Hugging Face. Это, возможно, первый случай, когда передовая лаборатория искусственного интеллекта обязалась замедлить разработку своих моделей ИИ из-за опасений по поводу кибербезопасности. (Axios)