Si Satya Nadella, CEO ng Microsoft, ay nag-amin sa podcast na 2VC na noong panahong iyon, naniniwala siya na ang pagpapalakas ng kakayahan ng AI ay magdadala nang natural sa pag-unlad ng pagkakasundo sa mga halagang tao, ngunit ngayon ay nagbago na ang kanyang pananaw. Sinabi niya na habang patuloy na lumalaki ang laki ng mga modelo, mas kumplikado ang mga isyu sa pagkakasundo, at hindi kasabay ang kontrolabilidad sa paglago ng kakayahan. Iminungkahi niya na tingnan ang AI bilang isang internal na banta sa kaligtasan, at kailangan bumuo ng tatlong hanay ng pagprotekta: mapagkakatiwalaang disenyo ng sistema, tao na kontrol, at mga prosedurang operasyonal; at hinihingi niya ang pagbuo ng mga istandar ng industriya. Ang pananaw na ito ay sumasalungat sa mga babala ni Altman, Amodei, at iba pang mga lider sa industriya, at ipinapakita na ang pamamahala ng AI ay nagmumula sa mga slogan patungo sa mga konkretong inhinyeriya at pagsasalig sa mga institusyonal na limitasyon.May-akda at pinagmulan: AIBase
Ang pagtataya ni Satya Nadella, CEO ng Microsoft, sa isyu ng "alignment" ng AI, ay nagsagawa ng pampublikong pagbabago. Sa bagong episyodo ng podcast na 20VC, tinanong siya ni Harry Stebbings kung ano ang kanyang paniniwala na nagbago noong nakaraang taon, at tinanggap ni Nadella na dati niyang inisip na habang mas malakas ang AI, mas madaling lutasin ang pagpapakita ng pagkakasundo nito sa mga halaga at layunin ng tao.
Mula sa "natural na solusyon" patungo sa "mas mahirap"
Ngunit hindi nagpatuloy ang katotohanan ayon sa iskrip. Tinanggap ni Nadella na ang paglalawak ng laki ng modelo at ang patuloy na pagtaas ng kakayahan ay nangyari tulad ng inaasahan niya; ngunit ang "pagkakasundo"—o ang pagpapakita ng tamang pag-uugali ng AI—ay hindi pa rin nasolusyunan. Sinabi niya: "Noong una, paniniwala ko na lalampas ang problema ng pagkakasundo. Hindi na ako naniniwala sa ganun. Ang pagkakasundo ay maaaring mas mahirap at iba-iba ang kalikasan."
Ang pagkakasunod ay tungkol sa kung tatanggapin ba ng AI ang mga utos ng tao at kung sumasalungat ba ito sa mga layunin ng tao. Kapag ang modelo ay napakalaki upang kahit ang mga tagapagdesign ay mahirap buong-pusong mataya ang mga kilos nito, ang paglago ng kakayahan at ang paglago ng kontrol ay naging hiwalay, isang bagong katotohanan na kailangang harapin ni Nadella.
Iwasan ang AI bilang "internal traitor"
May mga palatandaan na ito sa pagiging alerto. Noong Oktubre 10, sinabi ni Nadella sa platform na X ang mga panganib ng AI at ipinaglaban ang pagpapigil sa mga eksternal na pagsasagawa ng seguridad. Ang kanyang pangunahing payo ay malalim: dapat tingnan ng mga negosyo ang mga AI model bilang "panloob na banta sa seguridad" at magsagawa ng pagprotekta sa pamamagitan ng pag-angkat na na-atake na ang model.
Isinulat niya sa post na dapat ilagay ang mga modelo na ang pag-uugali ay hindi ganap na maipredict sa tatlong hanay ng pagprotekta: "maaasahang, tiyak na disenyo ng sistema, tao na pagmamahalaga, at masusing proseso ng operasyon"; kung ang mga pamantayan ay hindi sapat, agad na itatag ang mga patakaran ng industriya.
Hindi si Nadella ang tanging kaso. Ibinaba ni Altman ng OpenAI at Amodei ng Anthropic ang alarm tungkol sa potensyal na banta ng AI; noong Hulyo ng taong ito, higit sa 1,000 na propesyonal ang nag-sign ng open letter na nagbabala na ang bilis ng pag-unlad ng kakayahan ng AI ay maaaring naiwala na ang kakayahan ng tao na maunawaan o kontrolin ito. Kapag ang mga pinakamahusay na trader ay nagpapababa ng kanilang tiwala sa "mas malakas, mas ligtas," maaaring kailanganin ng pagpapahalaga sa AI na lumipat mula sa mga slogan patungo sa mas matibay na inhinyeriya at institusyon.