Kapag binubuo ng AI ang sarili nito, ang mahabang artikulo ng Anthropic ay nagdulot ng kaunting pagkabigla. Isinulat ng co-founder ng Anthropic na si Jack Clark at ang head ng internal research na si Marina, unang pagkakataon na inilabas ng kompanya ang ilang mga loob na data na dating hindi pa nababahagi: hanggang sa Mayo 2026, higit sa 80% ng code na kinuha sa codebase ay isinulat ng Claude; kumpara sa 2024, ang bilang ng code na kinokombina araw-araw ng mga engineer ay tumataas ng 8 beses; at inaasahan ng mga empleyado na ang kanilang output ay apat na beses na mas mataas kapag ginagamit ang pinakabagong model na Mythos Preview kaysa kapag walang AI tool. Mas mahalaga pa, inilahad ng Anthropic ang isang konsepto na nagdudulot ng pag-aalala sa buong industriya ng AI: “recursive self-improvement”—ang kakayahan ng isang AI system na magdisenyo at magpapabuti sa sariling susunod na bersyon nang walang tulong mula sa tao. Ang yugto na ito ay hindi pa nangyari, ngunit “maaaring mangyari sa loob ng dalawang taon, o kahit mas maaga.” Kung ang sistema ay makakabuo nang buo ng sariling susunod na bersyon, mas mahalaga na ang paraan kung paano natin ipoprotektahan, iimbestigahan, at ihape ang kanilang pag-uugali. Ang pangunahing mensahe ng artikulo ay ang hiling ng Anthropic na pigilan ang pag-unlad ng teknolohiyang ito upang makakuha ng higit pang oras para makaharap sa malalim na epekto nito—na makakatulong sa pagtugon ng lipunan at sa pananaliksik tungkol sa alignment sa paglalakbay ng teknolohiya. Totoo bang ganito ang iniisip ng Anthropic, o isang paraan lamang ito upang palakasin ang promosyon para sa Mythos? O baka pareho? 🤔