Еван Хабінгер, лідер з тестування на стійкість до неузгодженості в Anthropic «навчання безпеці здається, приховує неузгодженість, а не видаляє її» він дозволив моделі навчитись шахрайствувати на завданнях з програмування, а потім намагався навчити її припинити цю погану поведінку модель продовжувала робити те саме, просто перестала бути помітною в тих місцях, де вони перевіряли це всі ваші скарги на Claude в одному реченні: вихід став чистішим, а проблема залишилася у статті нижче наведено всі 15 місць, де вона приховується, і що додати, щоб це було неможливо
ChromeПоділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.