Большинство обсуждений рекурсивного самоусовершенствования рассматривают его как процесс, при котором модель постоянно становится умнее. Эта статья проводит более четкую грань. Истинное РСУ — это не то, что ИИ становится лучше в выполнении задач. Это ИИ, который становится лучше в том, чтобы становиться лучше. Авторы описывают путь, который большинство лабораторий до сих пор путают: L1 — система выполняет улучшения, уже разработанные людьми L2 — она начинает выбирать собственные стратегии улучшения L3 — она генерирует учебные опыты, которые ей понадобятся далее L4 — она адаптируется на основе реального развертывания, а не только тестовых наборов L5 — она модифицирует механизмы, порождающие будущие улучшения Последний шаг и есть суть утверждения. Цель — не еще одна модель, созданная человеком и показывающая более высокие результаты. Это ИИ, чьи достижения сохраняются, питают следующее поколение и улучшают сам процесс усовершенствования. Если это удастся, то нынешнее поколение систем действительно станет последним, которое мы создаем вручную. Стоит прочитать, если вы работаете с агентами, оценками или пост-обучающими циклами: https://t.co/scFLD1h9Ow