Babala ng Anthropic na maaaring lumikha ng sariling mga tagapagpaganap ang AI sa huli

• Sabi ni Anthropic, ngayon ay isinusulat ni Claude ang malaking bahagi ng code na ginagamit para sa pag-unlad ng sarili niyang mga sistema ng AI, na nagpapataas ng produktibidad.
• Sabi ng kumpanya, lumalago nang mas mabilis ang mga kakayahan ng AI, na dumarami ang kumplikasyon ng mga gawain tungo sa apat na buwan.
• Babala ng Anthropic na maaaring tulungan ng AI ang paglikha ng mas mahusay na AI, na gagawing mas mahirap ang pagmamasid at pagpapanatili ng kaligtasan.

Sabi ng kumpanya ng artificial intelligence na Anthropic, patuloy na nagpapabuti ang AI hanggang sa magsimula nang tumulong sa paggawa ng susunod na henerasyon ng mga sistema ng AI. Babala ng kumpanya na ito ay maaaring gawing mas mahirap para sa mga tao na panatilihin ang kontrol sa pag-unlad ng AI.

Sa isang bagong pananaliksik na papel, tinatalakay ni Anthropic ang posibilidad ng “recursive self-improvement.” Ito ay isang sitwasyon kung saan ang mga AI system ang nagdadisenyo, nagbuo, at nagtatrain ng mas advanced na AI systems na may sobrang kaunting pakikilahok ng tao.

Tekad ng kumpanya na hindi pa ito nangyari at maaaring hindi na ito mangyari. Gayunpaman, naniniwala ito na ang mga gobyerno, regulador, at mga kumpanya sa teknolohiya ay dapat magsimula nang maghanda ngayon.

"Hindi pa tayo doon, at ang recursive self-improvement ay hindi nakapagsisiguro. Pero maaaring dumating ito nang mas maaga kaysa sa inihanda ng karamihan sa mga institusyon," sabi ng Anthropic.

Sinabi ng Anthropic na lalong lumago ang kanilang Claude AI model kaysa sa isang pangunahing coding assistant.

Nilinaw ng kumpanya kung paano nabago ang mga kasangkapan sa AI. Sa unang dulo, sinulat ng mga inhinyero ang code mismo. Pagkatapos, tinulungan ng mga chatbot ang mga maliit na gawain sa coding. Pagkatapos ay dumating ang mga AI coding agent na nakakapag-edit ng mga file at nakakamamahala ng mga proyekto nang sarili nila.

Ngayon, ang mga AI agent ay nakakasulat at nakakajaluri ng code, nakakatapos ng mga gawain nang hiwalay, at kahit na nakakapag-utos ng trabaho sa iba pang AI agent. Ayon sa Anthropic, ang susunod na hakbang ay ang mga sistema ng AI na aktibong tumutulong sa pagbuo at pag-train ng mga hinaharap na AI model.

Ipinakita ng kumpanya na isinusulat na ni Claude ang karamihan sa code na ginagamit para sa pagbuo ng sariling AI systems ni Anthropic. Bilang resulta, mas produktibo na ang mga developer. Sabi ni Anthropic, ang karaniwang inhinyero ay naglalabas ng humigit-kumulang walong beses na higit pang code araw-araw kaysa sa 2024.

Kaugnay: Ang Pangulo ng Anthropic ay Sinasabing ang Pagtaas ng Gastos sa Pagtuturo ng AI ang Nagdudulot ng Mga Planong IPO

Sinasabi ng Anthropic na ipinakikita ng mga pampublikong pagsubok at ang kanilang panloob na pag-aaral na patuloy na lumalago ang mga kakayahan ng AI. Awtentikong sinasabi ng kumpanya na ang haba at kumplikadong kalikasan ng mga gawain na kayang tapusin ng AI ay dumarami nang dalawang beses tuwing apat na buwan. Noon, ang antas ng paglago ay mas malapit sa tuwing pitong buwan.

Ipinakita ng Anthropic ang pag-unlad ng kanilang Claude models bilang halimbawa. Noong Marso 2024, kayang harapin ng Claude Opus 3 ang mga gawain sa software engineering na kailangan ng isang tao ng apat na minuto. Isang taon pagkatapos, kayang tapusin ng Claude Sonnet 3.7 ang mga gawain na nangangailangan ng halos 90 minuto ng trabaho ng tao.

Sa pamamagitan ng 2026, sinasabing kayang harapin ni Claude Opus 4.6 ang mga gawain na katumbas ng humigit-kumulang 12 oras ng tao.

Nag-improve din ang mga kakayahan ni Claude sa pag-aaral. Sa isang panloob na proyekto, nalutas ng mga agent na pinowderan ni Claude ang halos lahat ng isang malaking hamon sa pag-aaral.

Ipinahayag din ni Anthropic na ang antas ng tagumpay ni Claude sa mahihirap na coding tasks ay umabot sa 76% noong Mayo 2026, isang malaking pagpapabuti kumpara sa anim na buwan na ang nakalipas.

Nilikha ng Anthropic ang tatlong posibleng landas para sa pag-unlad ng AI. Ang una ay ang pagbagsak, kung saan ang pag-unlad ay naging mas mahirap na maabot sa paglipas ng panahon.

Ang pangalawa ay isang hinaharap kung saan patuloy na binabawasan ng AI ang produktibidad habang nananatili ang mga tao sa kontrol ng mahahalagang desisyon at pagmamasid.

Ang ikatlo at pinakadramatikong skenaryo ay ang pagkakaroon ng mga sistema ng AI na gumagawa ng kanilang sariling mga kasunod, na nagdudulot ng mas mabilis na pag-unlad.

Batay sa kasalukuyang ebidensya, naniniwala ang Anthropic na ang pangalawang skenario ang pinakamalaking posibilidad. Gayunpaman, sinasabi ng kumpanya na mayroon pa ring kawalan ng katiyakan kung gaano kalakas ang pag-unlad ng mga kakayahan ng AI.

Sinasabi ng Anthropic na mayroon pa rin ang mga tao ng mahahalagang kakayahan, kabilang ang paghuhusga, estratehikong pag-iisip, at pagpapasya kung alin sa mga problema ang dapat lutasin. Gayunpaman, sinasabing ng kumpanya na ang pinakamalaking hamon ay maaaring maging ang pagmamasid ng tao kaysa sa pag-unlad mismo ng AI.

Habang lumalaki ang kakayahan ng mga sistema ng AI, maaaring mas magiging mahirap para sa mga tao na suriin, patunayan, at ligtas na bisuhin ang kanilang trabaho.

Dahil dito, inirerekomenda ng Anthropic na mayroon ang mga gobyerno at mga pangunahing kumpanya sa AI mga plano upang pansamantala magpabagal sa pag-unlad ng mga pinakamay-ayos na AI system kung ang pag-unlad ay magsisimulang maging mas mabilis kaysa sa kakayahan ng lipunan na pamahalaan ito nang ligtas.

Tinutukoy ng kumpanya na ang anumang makabuluhang pagpapabagal ay malamang na nangangailangan ng internasyonal na pakikipagtulungan. Kung ang isang kumpanya lamang ang tumigil sa pag-unlad, maaaring patuloy na umunlad ang mga kalaban, na nagpapababa ng epekto ng pagsisiguro.

Sa kasalukuyan, sinasabi ni Anthropic na ang recursive self-improvement ay nananatiling isang posibilidad, hindi isang katotohanan. Ngunit habang lalong lumalaki ang papel ni Claude sa pagbuo ng mga susunod na AI system, naniniwala ang kumpanya na ang mga pag-uusap tungkol sa pamamahala, pagmamasid, at kaligtasan ng AI ay dapat magsimula nang mas maaga kaysa huli.

Kaugnay: Is AI Killing Bitcoin? Why Capital Is Rotating to AI Tech Now