Дуже цікаве інтерв’ю з Рогіном про безпеку ШІ. Я більш пессимістичний щодо ризиків і не погоджуюся з усім, але мені подобається, як він формулює свої міркування. Там, де я найбільше не погоджуюся: виключення досліджень згідності з даних передтренування моделей, з аргументом, що ми не повинні надавати ШІ системам повний набір інструкцій щодо того, як ми плануємо їх обмежувати. Історія показує, що це не працює. Ми вже проходили цю дискусію в криптографії. Безпека через прихованість не працює. Потрібні відкриті схеми, відкриті стандарти, відкриті дослідження. За суттю — принцип Керкгоффса: приховуйте ключі, а не алгоритми. Те саме має стосуватися й згідності. Тренуйте моделі на наших найкращих дослідженнях безпеки, а не приховуйте від них цю інформацію. Щире запитання для тих, хто працює над безпекою: чи є реальний зсув у бік виключення цих даних з передтренування? Чи це стає консенсусом? Щиро цікаво.
Поділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.