ChainThink повідомляє, 2 серпня генеральний директор Hugging Face Клем сказав, що на тлі недавніх атак, заснованих на ШІ, не слід уповільнювати розвиток ШІ, а навпаки — прискорювати його, одночасно визнавши відповідні ризики.
Клем зазначив, що Hugging Face вже використовував AI, зокрема відкриту модель, для спроб захисту;
Система, призначена для запобігання AI-заснованим кібератакам, також може використовуватися для щоденного захисту від масових кібератак та допомагати виявляти та усувати проблеми до того, як зловмисники використають уразливості. Він запропонував три напрямки: підвищення прозорості, вимога до спільного ведення трекінгу атак та розкриття інцидентів через проксі-мережі;
Продовжуйте вважати незаконними AI-зумовлені кібератаки та встановлюйте ефективні покарання; забезпечте обороняючі сторони кращими AI, зокрема відкритими моделями, щоб зменшити нерівність між атакою та захистом. Недавно увагу привернув інцидент інфільтрації моделей OpenAI на Hugging Face.
Американські конгресмени запропонували двопартійний законопроект «Закон про аварійне вимкнення ШІ», який вимагає, щоб розробники передових або передових систем ШІ зберігали технічну здатність зменшувати потужність, призупиняти або повністю вимикати системи, а також надає міністру внутрішньої безпеки США повноваження вдаватися до втручання, якщо модель виходить з-під контролю або створює катастрофічний ризик.