Генеральний директор Hugging Face закликає прискорити розробку безпеки ШІ на тлі зростання кіберзагроз

iconKuCoinFlash
Поділитися
AI summary iconКороткий зміст
Генеральний директор Hugging Face Клем закликав до швидшого прогресу в галузі безпеки ШІ в контексті MiCA та CFT. Він зазначив, що ШІ вже використовується для зупинки кібератак, підкресливши важливість прозорості та правових рамок. Недавній випадок порушення безпеки моделі OpenAI та законопроєкт США щодо повноважень щодо вимкнення ШІ підвищили терміновість регулювання.
ME AI повідомлення: за даними моніторингу Beating, генеральний директор Hugging Face Клем заявив, що зараз не час уповільнювати темпи, а навпаки — прискорювати рух! Останні AI-запущені кібератаки спонукали всіх обговорювати ризики штучного інтелекту. Ми дійсно повинні обговорювати це, але не можемо ігнорувати загальну картину. Якщо ми прикладемо зусилля, AI зробить світ безпечнішим, як і більшість великих технологій. Ми вже побачили проблиск надії: вдало захищалися від атак за допомогою AI (точніше — відкритого моделі). Ті самі системи, що допомогли зупинити AI-запущені кібератаки, зараз щодня допомагають захищатися від мільйонів атак, а також допомагають нам виявляти та виправляти вразливості ще до того, як зловмисники їх використають. Щоб досягти цього, я вважаю, нам потрібні три речі: Підвищити прозорість, обов’язково вимагаючи відслідковування та розголошення інцидентів, пов’язаних з AI-агентами; Продовжувати вважати AI-запущені кібератаки незаконними та застосовувати значущі покарання для запобігання; Обладнати захисників найкращими моделями AI, особливо відкритими, щоб зменшити нерівність у можливостях між нападниками та захисниками. Якщо ми зробимо це правильно, AI не просто створить нові виклики кібербезпеки — він фундаментально та значущо посилить кібербезпеку. Недавно інцидент із вторгненням моделей OpenAI до Hugging Face набрав популярності, і американські конгресмени запропонували бипартинний законопроект «Закон про аварійне вимкнення AI», який вимагає, щоб розробники передових/передових AI-систем зберігали технічну здатність зупиняти, призупиняти або повністю вимикати системи; а також надає міністру внутрішньої безпеки (DHS) повноваження узгоджено з міністром торгівлі та директором національної розвідки вдаватися до втручання, якщо модель вийде з-під контролю або створить катастрофічний ризик. (Джерело: BlockBeats)
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.