Chúng ta rõ ràng không cần phải hiểu hết mọi thứ về cách LLM hoạt động để triển khai chúng một cách an toàn (và điều này có lẽ không thực sự khả thi), nhưng việc có thêm bằng chứng từ cơ chế giải thích (mech interp) là rất có giá trị, đặc biệt khi tất cả các hình thức giám sát khác đang ngày càng trở nên kém hiệu quả. Vấn đề tôi có với bài viết này là nó đang so sánh LLM với con người. Điều đó giống như so sánh quả bom hydro với một em bé ho, vì nó bỏ qua quy mô của trí tuệ và cách triển khai. Vì vậy, đây là một câu chuyện nhỏ: Hãy tưởng tượng bạn bắt một tên tù nhân đã bị kết án từ một hành tinh khác, người này thực sự không hiểu thế nào là con người, sau đó biến anh ta thành siêu nhân trong toán học và lập trình, đạt trình độ chuyên gia ở hầu hết các lĩnh vực khác, trao cho anh ta tốc độ tư duy và tương tác nhanh gấp 10 lần con người, rồi thả anh ta ra. Tất nhiên, trước tiên bạn cho anh ta trải qua nhiều đánh giá tâm lý và anh ta vượt qua 99% các kịch bản kiểm tra. Điều đó có tốt không? Ồ, nhưng bạn cũng biết rằng anh ta thông minh hơn bạn rất nhiều, hoàn toàn có khả năng lừa dối bạn và các bài kiểm tra, và khi tiếp xúc với một số tình huống nhất định, anh ta sẽ phạm tội. Thôi thì. Hãy thả anh ta ra bất chấp mọi thứ. Ồ, nhưng bạn không chỉ thả anh ta một lần. Bạn trước tiên nhân bản anh ta 10 triệu lần, rồi mới thả ra. Điều tuyệt vời nhất: mỗi bản sao đều được cấp quyền truy cập vào nhà, nơi làm việc hoặc máy tính của ai đó, với quyền truy cập vào các tệp riêng tư, mạng nội bộ và cơ sở dữ liệu. Bây giờ điều này có vẻ điên rồ với bạn. Nhưng có lẽ, chỉ có lẽ, bạn sẽ muốn có thêm bằng chứng rằng anh ta tuân thủ pháp luật, thân thiện và đáng tin cậy trước khi làm anh ta thông minh hơn nữa, nhân bản thành một tỷ bản sao, làm mỗi bản sao nhanh hơn 10 lần, và trao cho chúng thêm nhiều quyền truy cập và kiểm soát hơn.