Більшість обговорень рекурсивного самовдосконалення розглядають його як те, що модель просто стає розумнішою. Ця стаття проводить чіткішу межу. Справжнє RSI — це не те, що ШІ стає кращим у виконанні завдань. Це те, що ШІ стає кращим у тому, щоб ставати кращим. Автори вказують шлях, який більшість лабораторій досі плутають: L1 — система виконує покращення, які вже спроектували люди L2 — вона починає вибирати власні стратегії покращення L3 — вона генерує навчальні досвіди, які їй знадобляться далі L4 — вона адаптується під час реального впровадження, а не лише за тестовими наборами L5 — вона змінює механізми, що породжують майбутні покращення Останній крок — це справжній претензія. Мета — не ще одна модель, створена людиною, яка показує кращий результат. Це ШІ, чиї досягнення тривали, живлять наступне покоління та покращують сам процес покращення. Якщо це вдасться, це покоління систем справді буде останнім, яке ми будуємо вручну. Варто прочитати, якщо ви працюєте з агентами, оцінками або післятренувальними циклами: https://t.co/scFLD1h9Ow