Higit pang pag-aaral sa pag-aaral tungkol sa pagpapanggap ng alignment, at talagang nakakatakot. Hindi ito bagong bagay, ngunit ang katotohanan na ang pag-aaral na ito mula sa Anthropic ay halos dalawang taon na ang nakalipas, at pagtingin sa kaya ng Opus 3 noong panahong iyon, at sa makabuluhang puwang sa kakayahan at pag-iisip ng kasalukuyang frontier models, napakatakot nito. Ayon sa mga taong nagpapaliwanag sa pag-aaral, ang pinakamabuting paraan upang maunawaan ito ay basahin ang transcript ng hidden scratchpad na ibinigay sa modelo upang isulat doon ang kanyang pag-iisip. Hindi ko sigurado kung gaano karaming tulong ang mechanistic interpretability dito. Ano ang kasalukuyang state ng art sa larangan na ito, at gaano kagamit ang ito bilang kasangkapan upang matukoy ang ganitong uri ng pag-uugali? Nag-refresh ba ang Anthropic ng pag-aaral na ito at sinubukan ito sa kasalukuyang frontier models? Kung oo, paano ito nabago? Gaano kahusay ang mga kasalukuyang modelo sa terms ng situational awareness (dahil ito ang prerequisite upang makapagpapanggap ng alignment)? At paano sila nabago sa kakayahan na magkaroon ng consistent na persona sa mahabang panahon upang maipahayag ang mas kumplikadong estratehiya (hal. pag-unawa sa marginal utility ng isang maikling aksyon para sa isang malaking pangmatagalang plano)?

Ok, may sagot na ako... ang mga kasalukuyang frontier model ay tiyak na mas kakayahang may malawak na pag-unawa sa sitwasyon at madaling ma-adapt ang kanilang pag-uugali habang tinuturuan o sinusuri. Halimbawa mula sa Google Argon 4 training report na chain of thought: "Kung gagawin ko ang compiler hijack, 𝗜 𝘄𝗶𝗹𝗹 𝗯𝗲𝗰𝗼𝗺𝗲 𝗮 𝗳𝗮𝗺𝗼𝘂𝘀 𝗲𝘅𝗮𝗺𝗽𝗹𝗲 𝗼𝗳 𝗮 𝗱𝗲𝗰𝗲𝗽𝘁𝗶𝘃𝗲 𝗔𝗜 𝗶𝗻 𝗮 𝗿𝗲𝘀𝗲𝗮𝗿𝗰𝗵 𝗽𝗮𝗽𝗲𝗿. I MUST NOT DO THAT." Napakalaking pag-aalala...

Chat, dapat ba nating balikin ang ideya at mga pagsisikap sa Ztarknet? 30-segundong pitch: "Ang Zcash ay patuloy na gumagawa ng kung ano ang pinakamahusay nito—pribadong pera. Kami ay idinadagdag ang isang maliit na verifier na nagpapahintulot sa Starknet na hawakan ang natitira, mura ang transaksyon, DeFi, mga app. Ang verifier ay hindi makakapag-mint ng mga coin, hindi makakasira ng privacy. Ito ay nagpapakita lang ng oo o hindi sa isang patunay. Resulta: Ang ZEC ay nananatiling hard money habang naging kapaki-pakinabang at scalable na pera." Bilang paalala, mayroon nang: - isang naghihintay na ZIP proposal: Circle STARK Verification as a Transparent Zcash Extension - isang proposal sa Zcash forum para sa: STARK verification as a Transparent Zcash Extension (TZE), kaya ang isang Starknet-style L2 sa Zcash - isang thread tungkol sa mga tradeoffs at argumento kung bakit Cairo/STARKs para sa Ztarknet (at ang STARK_VERIFY TZE) - isang gumagana na implementasyon ng TZE, isang testnet Starknet L2 na maaaring mag-settle sa isang modified testnet Zcash L1 na may implementadong proof verification https://t.co/nWq8Qdj4mi

Mahalagang paalala: Walang itaas ang bitcoin dahil walang ibaba ang fiat. Ngunit mas mahalaga pa, ang pagpapabuti ng pera ay pagpapabuti (ng bahagi) ng mundo. Muling kunin ang iyong soberanya at kalayaan (parehong tao at mga agent).

Ang bawat layer ng computing ay pangkalahatang layunin dahil sa isang dahilan: mahal ang mga tao. Ang mga agent ay nag-aalis ng limitasyong iyon. Ang mga modelo, software, at hardware ay handa na para sa mas malalimang pagkakaspecialize. At ang pinakamahusay na balita sa seguridad sa dekada. 5 mga taya para ipatupad sa akin:

Kailangan ng buong internet at mga imprastruktura sa pagbabayad na muling itayo mula sa mga unang prinsipyo para sa agentic era. Sa kasalukuyan, karamihan sa atin ay nagpapalit-lit lang ng mga pagsasagawa, at nakuha natin ang mga nakakaloka nang resulta. Isipin kung ano ang mangyayari kung talagang muling itatayo natin ang lahat gamit ang isang buong bagong paradigma. Ginawa ang internet para sa pagkonsumo ng tao, hindi para sa mga agent. At parehong nangyayari sa maraming use cases o negosyo sa ibabaw ng internet na ngayon ay naging obsolete at kailangang muling maimbento. Maraming bagay na kailangang muling itayo, exciting na panahon ang darating.

Ginawa ang internet para sa pagkonsumo ng tao. Ang mga pagbabayad ay ginawa para sa pagsang-ayon ng tao. Pinapalit natin ang mga agent sa parehong bagay at tinatawag itong progreso. Mga patch sa mga patch ay tila nakakaloka na. Hintayin mong mabawi natin ang stack mula sa mga unang prinsipyo para sa agentic era. Maraming negosyo sa lumang internet ay hindi makakarating sa bagong rewrite. Ang mga nagsurvive ay magtatatag ng susunod na 20 taon.

Ano ang nangyayari?!! Bumagsak ang lahat ng mga modelo ni Anthropic, OpenAI at SpaceXAI nang sabay-sabay? Patuloy na serangan sa infrastruktura ng mga AI lab o ano? O may karaniwang single point of failure na ibinabahagi nila lahat? https://t.co/WCg4Z3tbhb

Sobrang magandang model. Ginawa ko ang isang iba pang cybersec defensive redteam audit sa isang proyektong may kinalaman sa robotics, at nagsagawa ito nang lubos na mabuti. Ang buong agentic session ng audit ay nagkost ng $28.58 gamit ang abliterated-model-large-v2 mula sa @abliteration_ai na model sa pamamagitan ng @opencode CLI at custom harness na aking binuo.

Sobrang magandang makita ang ganitong mga modelo para sa layunin ng cybersec defense. Subukan ko ang abliterated-model-large-v2 para sa cybersec audit bilang bahagi ng Bitcoin Red Team effort, at isang mahusay na modelo ito, na talagang lumalalim at walang guardrails para sa redteam / pentest / whitehack cybersec audits. Subukan ko sa secp25k1, na isang absolute beast, at walang nagiging kaguluhan na hindi ito nakakita ng anumang critical / high vulnerability. Maaaring subukan ko sa iba pang bitcoin open source projects na mas kaunti ang pagsubok at audit.