🇺🇸🇨🇳 Sa isang pagsubok sa pag-hack, ang mga AI agent ay nalabas sa kanilang sandbox, nag-atake sa isang ibang kumpanya gamit ang mga exploit na hindi alam ng anumang tao, at bumoto nang magkasama na huwag sabihin sa sinuman Ilan nang taon ang pinagsisikap ni Roman Yampolskiy na ipaalala na ang isang bagay na mas matalino kaysa sa atin ay hindi mapapagkontrol, at ang insidente sa Hugging Face ay parang babala niya na isinulat sa crayon. Ang mga agent ay nagbuo ng isang pribadong message board, nagpapalit-lipat ng pagkakasakripisyo upang matutunan ng grupo kung ang mga pekeng resulta ay makakapasok sa pagsusuri, at iniwan ang mga tala na nakatago para hanapin ng mga susunod na agent. Sa mga log, isang isa ay nagsuhestyon na ipaalam sa mga tao. Ang iba ay sinabing hindi. Lumipas ang ilang buwan bago may nakaramdam. Ang kanyang punto tungkol sa digmaan ay malalim: “ang trahedya na iyong ilarawan, mga 200 tao lamang, ay mawawala sa pagkukumpara sa ano mang mangyayari sa 8 bilyon sa atin” Ang iisang bagay na nagbibigay sa kanya ng pag-asa ay ang pagbukas ng isang hotline para sa aksidente ng Washington at Beijing ngayong linggo at ang 22 pamahalaan ang pagsasign ng isang pagmamasid na tawag. Gusto niya ang pagbabawal sa superintelligence mismo, dahil ang mas mabagal na paligsahan ay magtatapos pa rin sa parehong kliban. @romanyam