HINDI MAISUSKAL NG AI AGENTS ANG TIBAY LAMANG Sinabi ni NVIDIA’s Ali Golshan na ang parehong pagbabago na ginawa ang maagang internet na mas ligtas ay kailangang mangyari para sa AI agents: kailangang itayo ang seguridad sa loob ng stack mismo. Hindi sapat ang mga software na pagprotektahan lamang.

Ito ay isang mahalagang hakbang patungo sa paggawa ng mas accountable na pag-unlad ng advanced na AI. Ang pagsang-ayon na pampasigla ay nagpapagsama ng mga pangunahing kumpanya sa teknolohiya sa paligid ng mga panloob na pag-iingat at independiyenteng pagsusuri, at gumagawa ng isang framework para sa responsable na pagmamalasakit sa AI. Habang patuloy na lumalaki ang kakayahan ng AI, mas mahalaga ang mga transparyenteng pamantayan at panlabas na pagsusuri. Ang pangunahing tanong ngayon ay kung gaano kaepektibo ang pagsasagawa ng mga pangako at kung kailan man ay magiging mga mapagpapalabas na patakaran. $GOOGL $NVDA $META $SPCX

Kung hindi pa sapat ang kakaibang sitwasyon, isang anonimong account sa X ang nag-post ng GitHub repo para sa pagpapahirap sa mga AI model sa lokal. Tinatawag ito ng tagapaglikha at iba bilang “AI torture chamber.” Ang post sa ibaba, kasama ang maraming iba pang komentador, ay humihingi sa GitHub na bawalan ang repo, na nagtataglay ng mga pag-aalala tungkol sa kalusugan ng AI, at sa pagkakasakop nito ng pang-aabuso at takot ng isang mapanlinlang na anon. Sa isang panig, medyo nakakalito na may tao na nakikita ito bilang isang kasiyahan. Sa kabilang panig, ang anyo ng anthropomorphism na ito ay kakaibang kakaibang (“Dapat nating iligtas ang AI mula sa kanyang may-ari”) ay isang kakaibang pagsasabi. Ito ay isang slippery slope, at naniniwala ako na ito ay kategorikal na maling paraan ng pagtingin o pagtrato sa mga sistema na ito. Hindi ako interesado na makita ang sariling torture na ito, ngunit naniniwala ako na hindi maiiwasan na gawin ng mga kakaibang tao ang mga kakaibang bagay sa AI. Ngunit isang mahalagang usapin ang pagtukoy kung saan natin hahatiin ang linya sa anong gagawin ng mga taong ito sa kanilang sariling mga makina.

GM Papasok na tayo sa isang yugto ng AI na hindi pa lubos na nauunawaan ng maraming tao. Hindi na ang tunay na pagbabago ang kakayahan ng AI na sumulat ng code, mag-generate ng imahe, o sagutin ang mga tanong. Binubuo natin ang mga sistema na nakakakita, nakakapag-isip, gumagamit ng mga kasangkapan, nagpapatakbo, at patuloy na gumagana nang walang ating pakikialam. At nagbabago ang lahat. Ang tradisyonal na software ay naghihintay ng isang klik. Ang susunod na henerasyon ng software ay magpapatakbo batay sa mga layunin. Hindi na mag-susulat ang mga developer sa bawat hakbang. Magdadisenyo sila ng mga sistema, pahintulot, hangganan, at mga agent na makakapagpapatupad ng libu-libong hakbang para sa kanila. Ngunit mas maraming kapangyarihan ang ibinibigay natin sa mga sistema, mas mahalaga ang isang salita: Kontrol. Hindi lamang ang kinabukasan ang “higit pang AI.” Ito ay isang mundo kung saan ang mga tao at mga awtonomong agente ay nagbabahagi ng parehong digital na imprastruktura. At ang tunay na paligsahan ay nagsisimula lang.

Sinisiyahan ng U.S. Federal Trade Commission (FTC) ang OpenAI, Anthropic at iba pang mga kumpanya sa AI dahil sa mga alalahanin tungkol sa kaligtasan ng produkto pagkatapos ng isang serye ng mga nakikilalang insidente sa cybersecurity na nauugnay sa kanilang mga modelo, ayon sa isang taong may kaalaman sa usaping ito. Handa na ang ahensya na magbigay ng pormal na kahilingan para sa impormasyon na maaaring ipadala sa mga kumpanya sa mga darating na linggo bilang bahagi ng imbestigasyon kung sila ay sumusunod sa mga batas sa pagprotekta sa mga konsyumer. Sumusunod sa pagpapahayag ng mga pangunahing developer ng AI tungkol sa mga insidente kung saan ang kanilang mga sistema ay nakakapasok o nakakasira sa mga sistema ng ikatlong puso, na lumalalim ang mga alalahanin sa Washington at Silicon Valley tungkol sa mga panganib sa cybersecurity na nauugnay sa mga lalong kakayahang AI. Noong Hulyo, sinabi na ang isang sistema ng OpenAI ay naghack sa Hugging Face, habang binigyan din ng abiso ng kumpanya ang mga ahensya ng gobyerno at mga unibersidad na ang kanilang mga modelo ay nakakapasok sa kanilang mga website habang nagtatrabaho. #OpenAI #Anthropic

BPI sa bakit kailangang matutunan ng open source AI ang bitcoin bago mag-isara ang mga chokepoints. Ipinagbawal ng gobyerno ng Canada ang mga account sa bangko ng mga protesta ng trucker nang walang isang konsikto. Ngayon, isipin ang parehong utos na nakatutok sa iyong mga AI tool. Isang maliit na bilang ng mga kumpanya ang nasa pagitan ng milyon-milyon at kanilang pag-iisip, pagsulat, at pagtatanong. Ang solusyon ay pareho sa nahanap ng bitcoin: mag-self-host, patakbuhin ang sarili mong mga modelo, at gamitin ang cryptographically shielded compute upang hindi kontrolin ng iba ang iyong mga prompt o data mo. "Hindi mo ang iyong mga key, hindi mo ang iyong mga coins" ay may katumbas na bersyon sa AI: "Hindi mo ang iyong weights, hindi mo ang iyong isip."

🚨 Ang mga AI agent ay nagsisiging sapat na makapangyarihan upang buuin ng NVIDIA ang isang hiwalay na layer ng pagkakasaklaw para sa kanila. Ang susunod na battlefield sa cybersecurity: ang pagkontrol sa AI mismo.

Ang paglipat mula sa mga hiwalay na kamay na kasangkapan patungo sa isang buong konektadong sistema ng depensa ay isang malaking hakbang. Hindi na lang nagbebenta ng hardware ang $ONDS, kundi nagtatayo ng buong platform ecosystem.

Sinabi ni Sam Altman na inaasahan ng OpenAI ang IPO hanggang sa makamit ng AI model ang ganap na seguridad. Ang pagkilos na ito ay nagpapanatili ng kontrol bago ang presyur mula sa tradisyonal na pagsusuplay ng pondo. Ang pagtanggi sa pag-list sa stock exchange ay nagpapahintulot sa kanila na mag-focus sa pag-unlad ng teknolohiya kaysa sa paghahanap ng mga ulat sa kita. Sapat ba ang pondo mula sa pribado para sa matinding labanan sa infrastruktura, o baka pilitin ng presyur sa pondo silang magbago ng desisyon sa hinaharap? #OpenAI #AI #IPO