Дослідник Anthropic подав у відставку і попередив, що ШІ може втратити контроль до 2027 року

Марс Фінанс повідомляє, що дослідник Anthropic Джейкоб Коксон оголосив про відставку та збирається залишити галузь ШІ. Протягом останніх трьох років він працював над попереднім навчанням у OpenAI та Anthropic. Він зазначив, що жодна з цих компаній не просуває ШІ відповідально — вони змагаються за створення суперінтелекту, здатного продовжувати підвищувати власні здібності, «ставлячи наші життя на коефіцієнт». Він перейшов з OpenAI до Anthropic цього року саме тому, що остання більше звертала уваги на безпеку моделей. Коксон погоджується, що робота Anthropic з безпеки є серйозною, але вважає, що поки компанії змагаються за першими створенням AGI (універсального ШІ, який перевершить людину у багатьох завданнях), компроміси з безпекою неминучі, і саморегулювання однієї компанії не вирішить проблему. Його оцінка обох компаній: у OpenAI багато співробітників досі не усвідомлюють, наскільки великою є ця загроза; Anthropic розуміє ризик, але вважає, що інші не надійні, тому повинна вийти першою. Коксон стверджує, що деякі фахівці з ШІ особисто налаштовані набагато песимістичніше, ніж публічно заявляють, і навіть стурбовані тим, що ШІ може знищити людство до кінця цього десятиліття. Власне він вважає, що в найбільш радикальному сценарії ШІ може вийти з-під контролю вже до кінця наступного року, і тому таке рішення не повинно прийматися лише інженерами кількох компаній всередині.