Ang kumpanya na nagbuo ng pinakamalikhaing AI sa mundo ay humiling ng pagpapabagal sa lahat. Bumalik muli sa pangungusap na iyon. Ipinahayag ng Anthropic ang isang blog post noong linggong ito na nagbabala na ang AI ay malapit na sa recursive self-improvement, ang punto kung saan ang mga sistema ng AI ay nagdidisenyo, nagbuo, at nagtatrain ng kanilang sariling mga susunod na henerasyon nang walang tao na nagpapatakbo sa bawat hakbang. Ang kanilang sariling panloob na data ang nag-trigger sa alarm. Ang Claude ay sumusulat na ng higit sa 80% ng code na isinama sa codebase ng Anthropic. Ang kanilang mga inhinyero ay nagpapadala ng 8 beses na higit pang code bawat kuartal kaysa dati bago 2025. Hindi dahil mas matalino na ang mga inhinyero. Dahil ang AI ang gumagawa ng karamihan sa trabaho. Ang konklusyon ng Anthropic: mas mabilis ang teknolohiya kaysa sa mga institusyon na itinayo upang pamahalaan ito. Ang kanilang inirerekomendang solusyon ay isang global na pinagsanay na pagpapahinga. Modelong batay sa mga tratado ng Nuclear Cold War. Kailangan ng pag-verify kung talagang tumigil lahat ng frontier lab, at kung walang masamang actor ang gumagamit ng pagpapahinga upang makahabol nang lihim. Ngayon, dito ang bahagi na ikinakabahan ng mga anchor sa TV. Ipinag-file ng Anthropic nang lihim ang kanilang IPO sa parehong linggo na ipinahayag ang sanaysay na ito. Ang mga kritiko ay tinatawag itong regulatory capture. Isang estratehikong hakbang upang pigilan ang mga kalaban sa ilalim ng takip ng mensahe tungkol sa kaligtasan. Ang parehong palatuntunan na ginamit ni Elon Musk noong 2023 nang suportahan niya ang liham ng pagpapahinga ng Future of Life Institute habang nagtatayo naman siya ng xAI sa likod. Maaaring ganito. O maaaring talagang naniniwala ang mga taong malapit sa teknolohiya sa sinasabi nila. Maaaring totoo ang parehong bagay nang sabay-sabay. Ang mga pag-aalala tungkol sa kaligtasan at kompetitibong pakinabang ay hindi magkaka-aliwan. Hindi mapag-uusapan ang data point na nakatago sa sanaysay. Ang AI ay nagsisimula nang pabilisin ang pag-unlad ng AI. Ang tanong ay hindi kung ito ay nangyayari. Ang tanong ay kung may kakayahan ba ang anumang tratado, anumang regulasyon, o anumang pinagsanay na pagpapahinga na talagang pigilan ito kapag ang ekonomiks ay tumuturo sa kabaligtaran. Ang kasaysayan ay nagmumungkahi na ang sagot ay oo. Ang mga korona ay hindi kailanman pinag-uusapan.