Hindi natin kailangang maintindihan ang lahat tungkol sa kung paano gumagana ang LLMs upang ligtas na i-deploy sila (at malamang hindi ito praktikal na posible), ngunit ang karagdagang ebidensya mula sa mech interp ay may halaga, lalo na kapag ang lahat ng iba pang anyo ng pagmamasid ay naging mas maliit at mas maliit ang kahalagahan. Ang problema ko sa post na ito ay ang paghahambing nito sa LLMs at mga tao. Ito ay parang paghahambing ng isang hydrogen bomb sa isang nagkukulit na bata, dahil itinatangi nito ang skala ng intelehensiya at pag-deploy. Kaya narito ang isang maliit na kuwento: Isipin mong kunin ang isang nakakulong na kriminal mula sa ibang planeta, na hindi talaga nauunawaan kung ano ang pagiging tao, tapos gawin mong superhuman siya sa matematika at coding at eksperto sa karamihan sa iba pang mga larangan, bigyan siya ng 10x na bilis ng pag-iisip at interaksyon ng tao, at pagkatapos ay palabasin siya. Siguradong una mong isasailalim siya sa maraming psikolohikal na pagsusuri at nakakapasa siya sa 99% ng mga senaryo ng pagsusulit. Iyon ay mabuti, di ba? Ngunit alam mo rin na mas matalino siya kaysa sa iyo, at perpekto siyang kayang magmanipula sa iyo at sa mga pagsusulit, at na kapag siya ay inilalabas sa ilang sitwasyon, gagawa siya ng krimen. Anuman. Ipapalabas natin pa rin siya. Oh, pero hindi mo lang ipapalabas siya isa. Una mong klon siya 10 milyon beses, tapos ipapalabas mo sila lahat. Ang pinakamagandang bahagi: bawat klon ay may access sa bahay, lugar ng trabaho o kompyuter ng isang tao na may access sa pribadong mga file, lokal na network at database. Ngayon, maaaring mukhang pabida ito sa iyo. Pero baka, baka lang, gusto mo pa ring magkaroon ng karagdagang ebidensya na siya ay sumusunod sa batas, kaibigan at mapagkakatiwalaan bago mo pa siya gawing mas matalino, klonin siya sa isang bilyon na kopya, gawing 10x mas mabilis ang bawat kopya, at bigyan sila ng higit pang access at kontrol.