Лауреат премії Тюрінга, батько підсиленого навчання Річард Саттон критикує поточні генеративні ІІ: хороші частини не є новими, а нові — не добрі.

Автор статті, джерело: NewZeal

Штучний інтелект: Добре — не нове, нове — не добре

Одна з найбільш отруйних оцінок у академічному середовищі:

Ця робота як нова, так і чудова.

На жаль, хороші речі не є новими, а нові — не хороші.

Але Річард Саттон, один із засновників галузі підсилювального навчання, автор підручника «Підсилювальне навчання» та лауреат премії Тьюринга, спрямував цей жарт на всю генеративну ШІ.

Він сказав: Ця оцінка стосується більшості сучасних ІІ, які нам добре відомі сьогодні.

Штучний інтелект: Добре — не нове, нове — не добре

Основний тезис Саттона надзвичайно стислий, до того ж жорстоко стислий.

Генеративний ІІ суттєво є навчанням з наглядом.

Логіка навчання з вчителем полягає в тому, щоб показати моделі велику кількість зразків, створених людиною, щоб вона навчилася імітувати.

Чим точніша імітація, тим вищий бал.

Виникає питання.

Коли модель генерує вміст строго відповідно до навчальних даних, якість виводу висока, оскільки вона відтворює вже перевірені людиною речі. Але це не є новим. Це просто інші комбінації та переупаковка того, що люди вже знають.

Коли модель намагається відійти від навчальних даних і генерувати справді новий вміст, якість руйнується. Бо в неї немає жодного внутрішнього механізму, щоб оцінити «чи ця нова річ добра чи ні». Вона лише генерує, але не оцінює.

Ось ця структурна суперечність:

Новизна та якість у рамках чистої надзірної освіти — це кінці важеля.

Ти тиснеш на один кінець — інший піднімається.

Це не інженерна проблема. Її не можна вирішити за допомогою накопичення даних, збільшення моделі чи додавання більше GPU.

Саттон використав надзвичайно дратівливий аналогія: «галюцинації» — найбільш критикувана проблема великих моделей — є неот’ємним наслідком намагань моделі бути «новаторською».

Ми ненавидимо ілюзії, що лише підтверджує один факт: ми зовсім не потребуємо новизни. Нам потрібна якісна імітація.

Добре — не нове, нове — не добре.

Той жарт про отруйний коментар рецензента виявився точним описом внутрішніх обмежень генеративного ІІ.

Справжнє «відкриття» вимагає комплект з трьох предметів

Саттон, виходячи з перших принципів, розбрав «триадну формулу» креативності:

Справжнє відкриття (Discovery) = варіація (Variation) + оцінка (Evaluation) + селективне збереження (Retention).

Будь-яка справжня творчість і відкриття вимагають трьох кроків, жоден з яких не може бути пропущений:

1. Варіація (Variation) створює можливості для різноманітності. Вона може бути випадковою або базуватися на вже наявних знаннях, але повинна містити справжню невизначеність — інакше це не дослідження, а пошук у таблиці.

2. Оцінка (Evaluation) — визначення, які варіанти мають цінність. Це вимагає чіткої мети або критерію, який дозволяє визначити «добре» чи «погано».

3. Вибіркове збереження: зберігайте цінні варіації, щоб вони впливали на майбутні дії та навчання.

Ці три кроки не є винаходом Саттона. Це логіка природного відбору, логіка наукового методу, логіка людського навчання.

Еволюція: випадкові генетичні мутації (варіації) → відбір середовищем (оцінка) → виживання найкращих (селективне збереження).

Науковий метод: формулювання гіпотези (варіація) → експериментальна перевірка (оцінка) → публікація статті (селективне збереження).

Навчання людини: спробувати різні рішення (мутації) → перевірити правильність (оцінка) → запам’ятати ефективні методи (селективне збереження).

Зараз генеративний ІІ виконав лише перший крок триади: майже без оцінки, не кажучи вже про селективне збереження,

Це як стрілець, який випадково стріляє з лука, але з зав’язаними очима, після чого не дивиться на мішень і не коригує свою позу залежно від результату.

Ти називаєш це стрільбою десять тисяч стріл, і іноді вони влучають у мішень, але вони ніколи не знають, чому влучили.

Тоді вчені ще мають сенс?

Тут ви можете почати хвилюватися: якщо в майбутньому ШІ зможе самостійно виконувати “відкриття” у трьох аспектах, чи залишаться науковці без роботи?

Власна відповідь Саттона: не може бути замінений, але роль повинна радикально змінитися.

У своїй промові він сказав, що навіть штучний інтелект, здатний самостійно доводити математичні теореми, зараз все ще потребує людини, щоб сказати йому: які проблеми є важливими.

Це не скромність, а реальна межа розуміння.

Математик Шіцянь Ма, експерт з оптимізації у Райському університеті, сказав: він використав ChatGPT, щоб довести проблему збіжності алгоритму, над якою працював цілих шість років.

У короткому змісті є одне речення:

Підтверджено автором, згенеровано ChatGPT 5.5.

Цей алгоритм називається BDRS, повна назва — Bregman Douglas-Rachford Splitting, і він використовується для вирішення проблеми оптимального транспорту (Optimal Transport).

Назва статті: Bregman Douglas-Rachford Splitting Method

Адреса префікса:

Це було те, що він і його співавтори розробили самі, і що тривалий час (шість років) турбувало його — це доведення збіжності, тобто математично найстрогіше пояснення «чому це працює».

Платформа препринтів arXiv отримала підписання, але досі залишається у спокої.

Він припустив, що причина в тому, що в анотації є три слова «ChatGPT», і платформа не знає, як обробляти такі статті.

Але чи може людина бути замінена штучним інтелектом?

Його відповідь: ні. Він сказав прямо:

Я вважаю, що ШІ не може креативно запропонувати такий алгоритм і стверджувати: «Це ефективний алгоритм для оптимального транспорту, зараз я спробую довести його збіжність».

Без людського керівництва AI не знає, яку проблему вирішувати.

Це твердження точно відповідає Саттону: сама проблема повинна бути визначена людиною.

Йому знадобилося шість років, щоб «поставити правильне питання»:

Щоб поставити правильні питання, вам потрібно мати дуже глибоке розуміння цієї теми.

У цьому випадку я вивчав цю проблему шість років, тому добре знаю її складні аспекти.

Ці шість років не були витраченими даремно, а є передумовою.

Саме ці шість років дали йому зрозуміти, де саме зупиняється цей доказ, чому всі попередні шляхи зазнали невдачі, який напрямок, запропонований ChatGPT, варто продовжувати, а який — ілюзія.

І не один раз, а п’ять місяців. Це найчастіше неправильно розуміється місце, яке він сам раніше неправильно зрозумів:

З січня по травень, цілих п’ять місяців, безліч діалогів, кожен підказка наближала до доведення.

Він дуже ясно узагальнив:

Суть дослідження не змінилася — це все ще повторювані спроби та помилки. Змінилася швидкість кожної спроби: раніше на перевірку одного напрямку витрачалися тижні, а зараз за кілька хвилин можна зрозуміти, чи варто йти цим шляхом.

Але внесок ШІ є незгладним:

А потім, фінальний удар:

Повертаючись до моєї статті про збіжність BDRS, я досить впевнений, що доведення правильне.

Але якщо ви знайдете будь-які помилки, відповідальність повністю лежить на мені — будь ласка, не звинувачуйте ChatGPT, йому лише 3,5 роки.

Сила цього речення полягає у двоїстості: це щире заявлення відповідальності та точна метафора.

«3,5 роки» описує реальне становище ШІ зараз: дивовижні здібності, але недостатній рівень судження.

Нарешті, люди ніколи не очікували, що дитина віком 3,5 років зробить якийсь внесок.

Хоча ви не можете передати остаточне право підпису доказів штучному інтелекту, ви також не можете притворятися, що штучний інтелект не внесв жодного вкладу.

Тому справжні наукові відкриття не зникають у руках людини.

Навпаки, він буде жорсткіше відбирати людей: тільки ті, хто може ставити добрих питання, заслуговують на потужний ІІ.

У майбутньому вченим, які не використовують ШІ, може стати так само застарілими, як астрономам, які не використовують комп’ютери.

Нарешті, разом згадаємо виголошення Саттона:

Щоб повністю використати потенціал вчених з штучного інтелекту, ми повинні ділитися з ними цілями, надавши їм можливість створювати, оцінювати та виявляти, щоб повністю взяти участь у досягненні цих цілей.

Давайте будемо сміливішими! Давайте повністю автоматизуємо творчість та відкриття!