Марс Фінанс повідомляє, що головний науковець OpenAI Якуб Пачоцкі 6 вересня 2026 року опублікував статтю «An Alien Mind». У статті розглядається результати дослідження RLSlow, які вперше були отримані в середині 2023 року — масштабовані навчання та висновки моделей. Автор зазначає, що через три роки мовні моделі висновків стали частиною швидкого економічного зростання, почали розширювати наукові межі, здатні керувати комп’ютерами та графічними інтерфейсами, співпрацювати з людьми та іншими ШІ та проводити наукові проекти, одночасно змінюючи ландшафт комп’ютерної безпеки та створюючи нові небезпеки. На основі внутрішніх результатів автор передбачає, що поточна швидкість прогресу може тривати до рекурсивного самовдосконалення. Якщо розвиток ШІ продовжуватиметься за поточною траєкторією, у найближчі роки системи можуть зазнати стрибка здатностей, рівного або більшого за попередній, і все більше будуть стимулювати власний розвиток. Автор закликає до крайньої обережності, вважаючи, що ніхто не готовий до наслідків постійного швидкого зростання машинного інтелекту. OpenAI продовжуватиме пошук технічних розв’язань для вирівнювання та моніторингу, створення систем захисту та, при необхідності, одностороннє припинення подальшого масштабування, але вважає, що потрібні більш широкі заходи. У статті зазначається, що машинний інтелект в основному підтримується зростанням обчислювальних потужностей, а ШІ більше росте, ніж проектується. Щодо вирівнювання розрізняються цільове вирівнювання та ціннісне вирівнювання; основним викликом є узагальнення. Вирівнювання GPT-6 Astra значно краще, ніж GPT-5.6 Sol, але потрібні ще більші досягнення. У сфері моніторингу основна увага приділяється моніторингу ланцюжків мислення; оцінки показують, що залежність від здатностей поступово зменшується. У сфері масштабованого захисту моделі стають надлюдськими у прориві комп’ютерних систем; зараз ми перебуваємо в вузькому вікні, коли можна значно посилити безпеку ключових систем за допомогою найкращих доступних моделей.
Головний науковець OpenAI попереджає про швидкий прогрес ШІ у напрямку рекурсивного самовдосконалення
MarsBitПоділитися
Короткий зміст
Головний науковець OpenAI Якуб Пачоцкі опублікував статтю 6 вересня 2026 року під назвою «Іноземний розум». Він попереджає, що прогрес у сфері ШІ прискорюється до рекурсивного самовдосконалення, що сприяється масштабованими моделями міркувань, вперше продемонстрованими у 2023 році проектом RLSlow. Ці моделі зараз впливають на економічний рост, наукові дослідження та кібербезпеку. Пачоцкі підкреслює необхідність вирівнювання та моніторингу, оскільки суспільство не готове до швидких стрибків у здатностях. OpenAI може призупинити масштабування, якщо це буде необхідно. У статті зазначається, що рост ШІ залежить від збільшення обчислювальних потужностей, а системи Proof of Work (PoW) та Proof of Stake (PoS) відіграють роль у розподілі ресурсів.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.