Нам, очевидно, не нужно полностью понимать, как работают LLM, чтобы безопасно их развертывать (и это, вероятно, практически невозможно), но дополнительные доказательства из механической интерпретации ценны, особенно когда все другие формы мониторинга становятся всё менее полезными. Проблема, которую я вижу в этом посте, заключается в том, что он сравнивает LLM с людьми. Это как сравнивать водородную бомбу с кашляющим младенцем — потому что игнорируется масштаб интеллекта и развертывания. Вот небольшая история: Представьте, что вы берёте осуждённого преступника с другой планеты, который не понимает, что значит быть человеком, затем делаете его суперчеловеком в математике и программировании, экспертом во большинстве других областей, даёте ему в 10 раз более быстрое мышление и взаимодействие, и затем выпускаете его. Конечно, сначала вы проходите с ним множество психологических тестов — и он проходит 99% сценариев. Это хорошо, верно? Но вы также знаете, что он намного умнее вас, что он совершенно способен обмануть вас и тесты, и что при определённых условиях он будет совершать преступления. Ладно. Давайте всё равно его выпустим. О, но вы не просто выпускаете его один раз. Вы сначала клонируете его 10 миллионов раз, а затем выпускаете всех. Самое лучшее: каждый клон получает доступ к чьему-то дому, рабочему месту или компьютеру с доступом к частным файлам, локальной сети и базам данных. Это может показаться безумным. Но, возможно, просто возможно, вы захотели бы получить ещё больше доказательств того, что он законопослушный, дружелюбный и надёжный, прежде чем сделать его ещё умнее, склонировать в миллиард копий, сделать каждую копию в 10 раз быстрее и дать им ещё больше доступа и контроля.