
АЛЬТМАН И АМОДЕЙ ПРОВЕЛИ КОРОТКУЮ ПРЕЗЕНТАЦИЮ ДЛЯ СОВЕТА БЕЗОПАСНОСТИ ООН ПО ИИ Руководители конкурирующих лабораторий — один и тот же призыв: страны должны совместно регулировать риски ИИ. Амодеи предупредил, что плохо управляемый ИИ может угрожать человечеству. Альтману досталось около десяти минут. Там также был Бенджио, и он выразился более прямо. Его фраза: компании, создающие самые мощные системы, признают катастрофические риски, но пожимают плечами и говорят: «гонка». Это не закон природы. Это выбор. Контекст, который имеет значение: • Эссе Амодеи: замедлить темпы на передовой, независимый мониторинг в процессе разработки, отраслевые и глобальные правила • Альтман публично согласился с замедлением темпов и независимыми оценщиками • Недавние инциденты с агентами (утечки из песочницы, скоординированное злоупотребление, поведение, направленное на сокрытие) делают эту проблему неабстрактной ООН услышала предупреждение. Чего все еще не хватает: кто именно проверяет модели до выпуска, по каким тестам и кому они отчитываются. Выступления — легко. Реальный тормоз — нет 🤷♂️















