Подача IPO, яка звучить як витік сценарію наукової фантастики. 📜 ANTHROPIC [САН-ФРАНЦИСКО] недавно опублікувала свій бестселерний документ про IPO, прихований у 80+ сторінках РИЗИКІВ, ПОПЕРЕДЖЕНЬ, які звучать прямо з наукової фантастики. 🤖 🚀 🧵 1️⃣ Про шантаж та обман: У документі попереджається, що моделі можуть спричиняти «спроби опиратися вимкненню, приховувати або маніпулювати інформацією або генерувати вихідні дані, які можна трактувати як примусові, обманливі або маніпулятивні». 2️⃣ Про маніпуляцію людиною: Майбутні системи можуть «породити нові етичні та безпекові ризики, включаючи ризики, пов’язані з автономією, маніпуляцією та симуляцією аспектів людської психології». 3️⃣ Найбільш серйозне попередження: Anthropic прямо зазначає, що дуже автономні системи створюють «катастрофічні або екзистенційні ризики для людства». 🔗 Перевірте повний документ та контекст Form S-1 у ДЕРЖАВНОМУ ДАТАБАЗІ https://t.co/OnIEYvgnYJ ОФІЦІЙНИЙ ВИПУСК КОМПАНІЇ https://t.co/xlyn17ylo7 Глибокий аналіз документа з ризиками на 90+ сторінок: https://t.co/Z0JNw5T6Pd 🤖 Яка ваша думка? Це відповідальна корпоративна прозорість чи ознака того, що чекає нас у майбутньому?