Дані DeepChaо TechFlow: 14 червня, за повідомленням The Wall Street Journal, обмеження на експорт та доступ до моделей Anthropic Fable 5 / Mythos 5 з боку уряду США частково спричинені кібербезпековими дослідженнями компанії Amazon та взаємодією генерального директора AWS Енді Джасі з Білим домом. Згідно з інформацією, дослідження, представлене Amazon, вказує, що за допомогою серії тестових запитів дослідники змогли спровокувати Fable 5 на виведення чутливої інформації, яку можна використати для кібератак, що викликало занепокоєння щодо безпеки. Після цього Енді Джасі повідомив про ці висновки на рівні уряду США, що сприяло прийняттю Білим домом додаткових обмежень, зокрема заборони на доступ до цієї моделі для іноземних користувачів. Anthropic заперечує твердження уряду про те, що це питання є «втечею (jailbreak)», зазначаючи, що подібні вразливості можуть зустрічатися й у інших відкритих моделях, включаючи GPT 5.5. Деякі дослідники з питань безпеки підтримують цю позицію, вважаючи, що проблема ближча до «ризику введення запиту (prompt injection)», ніж до серйозного порушення моделі. За словами колишнього чиновника Міністерства торгівлі США Кейт Колрен, попередня позиція Anthropic щодо політики також могла вплинути на прийняття цього рішення, оскільки Anthropic має розбіжності з Білим домом щодо меж безпеки штучного інтелекту, зокрема відмовляється використовувати моделі для масштабного моніторингу або смертоносних автономних зброєвих систем. Хоча обидві сторони на початку цього року тимчасово зменшили розбіжності й розширили співпрацю,
Amazon, як повідомляється, намагається впровадити обмеження для моделі Anthropic через занепокоєння щодо безпеки
TechFlowПоділитися
Короткий зміст
Активи з високим ризиком знову піддалися уважному аналізу, оскільки, за повідомленнями, Amazon вплинув на обмеження США щодо моделей Fable 5 та Mythos 5 компанії Anthropic, посилаючись на занепокоєння щодо кібербезпеки. Дослідження Amazon виявило, що модель може бути спонукана до виведення даних, придатних для кібератак, що призвело до заборони доступу з-за кордону. Anthropic заперечила, що це був jailbreak, зазначивши подібні недоліки в GPT 5.5. Деякі експерти назвали це ризиком prompt injection. Протоколи CFT можуть тепер бути поширені на доступ до моделей ШІ. Колишній чиновник міністерства торгівлі США Кейт Кролл сказала, що минулі розбіжності Anthropic з Білим домом могли відіграти роль у прийнятті цього рішення.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.