Нам звичайно не потрібно розуміти все про те, як працюють LLM, щоб безпечно їх впроваджувати (і це, ймовірно, практично неможливо), але додаткові докази з mech interp цінні, особливо коли всі інші форми моніторингу стають все менш корисними. Проблема, яку я бачу в цьому пості, полягає в тому, що він порівнює LLM з людьми. Це наче порівнювати водневу бомбу з кашляючим немовлям, бо ігноруєш масштаб інтелекту та впровадження. Ось невелика історія: Уявіть, що ви берете засудженого злочинця з іншої планети, який не розуміє, що означає бути людиною, а потім робите його суперлюдиною в математиці та програмуванні, експертом у більшості інших галузей, надаєте йому швидкість мислення та взаємодії в 10 разів вищу, ніж у людини, і випускаєте його. Звичайно, спочатку ви проходите його через кілька психологічних оцінок, і він проходить 99% сценаріїв тестів. Це добре, правда? Але ви також знаєте, що він набагато розумніший за вас, що він здатний обманювати вас і тести, і що в певних ситуаціях він буде скоювати злочини. Так от. Випустимо його все одно. О, але ви не просто випускаєте його один раз. Спочатку ви створюєте 10 мільйонів його клонів, а потім випускаєте їх усіх. Найкраще: кожен клон отримує доступ до чийогось дому, робочого місця або комп’ютера з доступом до приватних файлів, локальної мережі та баз даних. Це звучить дико. Але може, просто може, ви б хотіли отримати ще більше доказів того, що він законопослушний, дружній і надійний, перш ніж робити його ще розумнішим, клонувати в мільярди копій, робити кожну копію в 10 разів швидшою та надавати їм ще більше доступу та контролю?