Kamakailan lang ni TRUMP pinag-isa ang lahat ng pangunahing CEO ng AI upang mag-sign ng pangako na magpapahalaga sa kanilang sarili. Tinawag niya ito bilang “morally binding.” Bukas na ngayon sa White House: sina Musk, Zuckerberg, Huang, Amodei, Pichai at Brockman ay nag-sign ng “White House Accord on Super Intelligence.” Isang pahina. Apat na pangako: mga panloob na kontrol sa cyber, bio, at chemical risks mga panloob na koponan upang suriin kung gumagana ang mga kontrol independiyenteng panlabas na auditor mga komite ng board na susuriin ang mga ulat Mga parusa kung nilabag: wala. Ito ay voluntary. Trump: “Halos parang konstitusyon, sa isang paraan.” “Naniniwala ako na ito ay morally binding.” Anim na araw bago ito, isinampa ni Bernie Sanders ang isang batas na may parusa hanggang 20 taon sa pagbuo ng superintelligence. Ngayong linggo, natanggap natin isang sinirang pangako. Para sa katotohanan, ang mga panlabas na auditor at board-level oversight ay tunay na hakbang. Mas marami ito kaysa sa anumang nangyari sa crypto. Ngunit narinig ko na ang “mayroon kaming independiyenteng auditor” bago. Ang FTX ay may panlabas na auditor. Dalawang kumpanya. Pareho ay nag-approve sa kanilang aklatan. Pero nanatili pa rin ito sa zero. Ang pinakamakakatakot ay hindi ang kahinaan ng accord. Kundi ang mga auditor ay hinirang ng mga kumpanya na dapat nilang suriin. Personal kong natutunan ng crypto: ang self-regulation ay gumagana hanggang sa unang quarter kung saan kumikita ito ng pera. Kaya alin sa mga lab ang magkakaroon ng tahimik na pagkakamali sa isang pangako, at kaya ba natin malalaman?
