Ідея про те, що подібні результати навчання можуть призводити до дуже різних наслідків, вже показує, наскільки хрупкими можуть бути окремі метрики. Модель може виглядати однаково під час навчання і все ж по-різному поводитися на практиці. Ця ж обмеженість знову з’являється на рівні системи: покращення лише моделі не гарантує надійної системи. Сучасний висновок штучного інтелекту — це більше не один крок, а структурований процес. Менша модель генерує чернетки, більша — перевіряє їх, а прийняття залежить від того, наскільки вони збігаються. Потужність формується цією взаємодією, а не лише силою однієї моделі. Швидкість і правильність пов’язані. Швидше генерування залежить від частоти прийняття чернеток та їхньої відповідності фінальній моделі. Ефективність виникає з узгодженості між компонентами, одночасно внутрішня узгодженість залишається викликом. Модель може генерувати точні вихідні дані, але не оновлювати свої переконання послідовно. Те, що вона передбачає, як вона оновлюється, і те, що вона насправді робить, не завжди збігаються. Це створює інший тип невдач — не очевидні помилки, а непослідовність між кроками. Крім висновку є також питання обчислень: різні завантаження вимагають різних ресурсів, а однакове розподілення призводить до неефективності. Роутинг і розподіл починають мати значення. Запити потрібно з’єднувати з відповідним типом обчислень, а не просто виконувати де завгодно. Усе це підкреслює чіткий шаблон: потужність більше не визначається однією моделлю. Вона виникає з того, як чернетка, перевірка, мислення та розподіл працюють разом. Справжнє питання зміщується: не просто на те, наскільки хороша модель, а чи залишається система узгодженою на кожному кроці. Бо в сучасному штучному інтелекті важливо не лише вихідне значення, а процес, який його створює. @ritualnet