Kinakaharap ni Anthropic ang pagtutol ng gobyerno sa Fable AI Model

May-akda: Ben Thompson

Isinalin: Deep潮 TechFlow

DeepChain Overview: Ang bagong model ni Anthropic na Fable ay ipinagbawal ng pamahalaan ng Estados Unidos sa loob ng dalawang buwan lamang ng paglalabas, na may pormal na dahilan na "paglabas ng seguridad," ngunit ito ay nagpapakita ng dalawang digmaan: sa pagitan ng mga AI laboratoryo at pamahalaan, at sa pagitan ng mga AI laboratoryo at industriya ng software. Ang kumpanyang nagtatampok ng "kaligtasan" bilang kanyang pangunahing punto ay nagiging isang komersyal na barrier sa pamamagitan ng paggamit ng naratibo ng kaligtasan, habang ang tunay na layunin nito ay humawak sa mga data ng mga user na nasa kamay ng mga tulad ng Microsoft.

Naiintindihan ko ang pananaw ng mga nagtatawa, na palaging naniniwala na ang mga pahayag ng Anthropic—lalo na ang mga pahayag sa paglalabas ng mga modelo—ay para sa pagmemarketing at pagpapalaganap ng takot. Dalawang buwan na ang nakalipas, ipinahayag ng Anthropic ang Mythos Preview, at sinabi na sobrang delikado ang modelo upang mabuksan, lalo na ang kanyang malakas na kakayahan sa网络安全. Pagkalipas ng dalawang buwan, inilabas ng kumpanya ang Fable, na isang bersyon ng Mythos na may mga damit na seguridad.

Batay sa aking limitadong karanasan, ang Fable ay talagang isang napakagandang modelo. Ngayon, maliban sa pagganap sa pagpaprograma, mahirap nang obhetibong masukat ang mga modelo, ngunit mayroon pa ring subhetibong pakiramdam; nakakaranas ako ng napakagandang karanasan sa pag-uugnay sa Fable; ito ay nagpapakita ng maliit at bulol ang iba pang mga modelo, kabilang ang GPT 5.5 at Opus 4.8. Doon na lang ako nakaranas ng ganitong pakiramdam sa dalawang pagkakataon: una ay ang GPT-4, at pangalawa ay ang Grok 4, na pareho ay kumakatawan sa isang bagong henerasyon ng sukat at kumplikadong anyo ng pangunahing modelo; naniniwala ako na ang Fable ay galing sa isang bagong pre-training at ito ang unang modelo ng bagong henerasyon.

Kaya, lubos kong natatanggap na mas malakas ang Fable/Mythos sa pagkilala at paggamit ng mga problema sa kaligtasan, at may katotohanan ang pagiging mapagbantay ng Anthropic. Ngunit ang problema sa pagpapalabas ng modelo ay ang mga safeguard ay maaaring ma-bypass, at nangyari ito nang malinaw agad pagkatapos ng pagpapalabas.

Ang sumusunod ay hindi gaanong malinaw. Isinulat ng Anthropic sa blog post:

Ang pamahalaan ng Estados Unidos ay gumamit ng kapangyarihan sa pambansang kaligtasan upang maglabas ng utos sa pagkontrol sa pag-export at ipagbawal ang lahat ng pag-access ng mga dayuhang mamamayan sa Fable 5 at Mythos 5, anuman ang kanilang lokasyon, kabilang ang mga dayuhang empleyado ng Anthropic. Ang praktikal na epekto ng utos na ito ay kailangan naming biglaang i-disable ang Fable 5 at Mythos 5 para sa lahat ng mga kliyente upang matiyak ang pagkakasunod. Hindi naapektuhan ang pag-access sa iba pang mga modelo ng Anthropic.

Kumuhang tulong mula sa gobyerno sa 5:21 PM Eastern Time ngayon. Walang detalye na ibinigay sa liham tungkol sa mga pag-aalala sa pambansang kaligtasan. Naiintindihan namin na naniniwala ang gobyerno na natuklasan na ang paraan upang i-bypass o "i-jailbreak" ang Fable 5. Ipinag-ayos namin ang demo na gumagamit ng partikular na teknolohiyang ito upang matukoy ang ilang maliit na mga butas. Ang lahat ng mga butas na ito ay tila relatibong simpleng mga butas, at natuklasan namin na ang iba pang publiko available na mga modelo ay kaya ring matukoy ang mga ito nang walang pag-bypass.

Sinuspin ng Anthropic na ang non-general jailbreak ay iniiwasan at limitado ang sakop, at walang ebidensya na mayroong general jailbreak; ang mga jailbreak na natuklasan ay tila isinampa ng Amazon, na nakakatanda dahil ang Amazon ay parehong investor ng Anthropic at pangunahing tagapagbigay ng serbisyo sa pag-iisip ng kumpanya. Habang isinusulat ko ang artikulong ito, ang mga eksperto ng Anthropic ay nasa Washington, D.C., upang subukang lutasin ang kanilang itinuturing na maling pag-unawa, habang ang mga opisyales ng White House ay nagpapahiwatig na ito ay pagkakalimot ng pamumuno ng kumpanya sa mga legal na pag-aalala tungkol sa pambansang kaligtasan.

Dahil sa sobrang dami ng mga katotohanang pinag-uusapan, wala akong karagdagang maipapahayag tungkol sa kasalukuyang konflikto; ngunit hindi ako nakakapagod na nangyayari ito: naipaliwanag ko na sa aking artikulong “Anthropic at Alignment” na ang konflikto sa pagitan ng pamahalaan ng Estados Unidos at Anthropic ay hindi maiiwasan. Sa kahulugang ito, ang mga naniniwala na hindi pa sapat ang lakas ng Mythos upang makakuha ng matinding aksyon mula sa pamahalaan ay nagkakamali sa pangunahing punto: kung hindi pa sapat ngayon, ang susunod ay magiging sapat, o ang susunod pa, lalo na ngayon ay mas magiging kapaki-pakinabang ang mga modelo sa paglikha ng kanilang mga susunod.

Ngunit ito ay nagtatapos sa isang iba pang tanong—isang tanong na tila nagpapatotoo sa mga pananaw ng mga mapapahiya: Kung ang Mythos ay ganito'y mapanganib, bakit sinimulan ang Fable? Bakit lumaban sa gobyerno upang gawin ang mga bagay na sinasabi mong gustong gawin? Sa katotohanan, naniniwala ako na ang pagkilos ng Anthropic ay lubos na maunawaan; ang pagkakaiba-iba ng kumpanya ay nasa kung paano ito ipinapaliwanag ang mga kilos na ito—ang mga paliwanag na nagbibigay ng kuryente sa mga mapapahiya at nagbibigay din ng kapangyarihan sa Anthropic.

Sa mga unang taon ng AI, ang pinakamalaking halaga ng ekonomiya ay tumungo sa computing power, dahil malinaw: wala kaming sapat na suplay para sa pangangailangan, na nangangahulugan ng pagtaas ng presyo; ang pinakamalaking nakinabang ay ang NVIDIA, TSMC, at mga tagagawa ng memorya (SK Hynix, Samsung, at Micron). Samantala, ang Anthropic at OpenAI ay nagkakaroon ng halos milyong dolyar na pagkawala upang buuin ang mga advanced na modelo, at agad silang dinilaw at ginawang komodidad ng mga open-source na modelo, pangunahin mula sa Tsina.

Ito ay nagpapakita ng pinakamalungkot na skenario ng laboratorio—hindi nila kailanman maabot ang pagkabayaran dahil ang kanilang pagkakaiba-iba ay pansamantala, at ang libreng mga alternatibo ay naging “sapat na mabuti”—nababawasan ko ito. Sa isang mundo kung saan ang mga modelo ay palitan, ang mga modelo ay mga komodidad, at ang karamihan sa halaga ay tumatakbo sa ibang lugar. Ngayon ay ang computing power, ngunit habang lumalipas ang panahon, kapag may sapat na computing power tayo, ang pinakamahalagang posisyon sa value chain ay magiging ang laging pinakamahalaga: ang pagmamay-ari ng mga puntos ng pagkakasalig sa user.

Kaya, malinaw sa akin na may ekonomikong kailangan ang Frontier Labs na maging mas malapit sa mga user. Kung mayroon ka nang user touchpoints, mayroon ka nang makabuluhang lock-in, at ang pinakamahusay na paraan upang magkaroon ng user touchpoints ay maging canvas para sa lahat ng kailangan gawin ng mga user. Ito naman ay nangangahulugan na ang Frontier Labs ay nagtatagpo sa mga software company: ang software ang may user touchpoints, at ang pangmatagalang interes ng Frontier Labs ay hindi lamang maging commodity input ng software, kundi direktang palitan ang software.

Samantala, ang mga kumpanya ng software ay nagtatrabaho upang gawin ang kabaligtaran. Ipinaliwanag ni Satya Nadella ang kanyang pananaw kung paano dapat bumuo ng mga modelo sa isang artikulo sa X:

Kailangan ng bawat kumpanya na buuin ang aking sinasabing human capital at token capital. Ang human capital ay naglalaman ng kaalaman, paghuhusga, mga ugnayan, pagkamalikhain, at pagkilala sa mga pattern ng mga empleyado nito, habang ang token capital ay ang kakayahan sa AI na binubuo at inaayos ng kumpanya. Mahalaga na habang tumataas ang token capital, hindi mawawalan ng halaga ang human capital. Ito ay magiging mas may halaga lamang! Naniniwala ako na ang pagkakaroon ng pagmamay-ari ng tao ang magiging driverr sa pagtaas ng token capital. Ang mga tao ang magtatakda ng mga ambisyosong layunin, mag-uugnay ng mga punto sa iba’t ibang larangan, magtatayo ng mga ugnayan, at magkikilala sa pinakamahalagang mga pattern. Walang tao na nagdidirekta, ang iyong computing power ay nasa paghinga lamang.

Ito ay nangangahulugan na ang totoong pagkakataon ay hindi nasa pagpili ng pinakamahusay na modelo, kundi sa pagbuo ng isang loop ng pagkatuto sa ibabaw ng mga modelo, upang magkaroon ng compound growth ang human capital at token capital. Maaari mong i-outsourcing ang isang gawain, kahit isang trabaho, ngunit hindi mo mai-outsourcing ang iyong pagkatuto. Ang kinabukasan ng mga kumpanya ay ang pagpapayag sa ganitong pagkatuto na mag-compound sa pagitan ng tao at AI. Kailangan nito ng isang bagong paraan sa arkitektura na nagpapahintulot sa bawat kumpanya na bumuo ng mga sistema ng agent na lumalago sa panahon, habang nananatili pa rin ang kontrol sa kanilang ari-arian sa kaalaman. Dapat makapagpalit ang mga kumpanya ng "general" na mga modelo nang hindi nawawala ang kanilang "veteran" na kaalaman na nakabuilt sa kanilang sistema ng pagkatuto. Ito ang pangunahing "pagsusulit" para sa iyong kontrol at soberanya sa panahon ng kinabukasan.

Nadella ay nagsimula ng pananaw na ito sa pamamagitan ng babala:

Hindi namin gustong makita ang isang mundo kung saan ang bawat kumpanya sa bawat industriya ay magpapahintulot sa ilang kaunting modelo na kumakain ng lahat. Kung ang lahat ng halaga ay tatanggap ng ilang kaunting modelo lamang, hindi papayagin ng politikal-ekonomiya ang ganitong sitwasyon. Hindi magbibigay ng pahintulot ang lipunan sa isang AI na kinokonsena ang buong industriya.

Isipin kung ano ang nangyari sa unang yugto ng globalisasyon, kung saan ang buong industriyal na ekonomiya ay inilabas at tinawas. Sa panlabas, ang mga numero ng GDP ay tila mabuti, ngunit ang pagkawala ng trabaho ay totoo, at ang mga epekto ay patuloy na nadarama hanggang ngayon. Huwag nating ipasok ang ganitong dinamika sa panahon ng AI, kung saan ang ilang mga AI system lamang ang makakakuha ng lahat ng ekonomikong kapakinabangan, habang ang buong industriya ay nakakakita na ang kanilang kaalaman ay ginagawang komodidad nang direkta sa harap nila.

Ang problema sa pagtutulad na ito ay: ang globalisasyon ay nangyari talaga, at ang mga industriyal na ekonomiya ay tinanggal talaga. Maaari itong hindi isang babala kundi isang propesya; hindi nakakagulat na nagbabala si Nadella, dahil maaaring isa sa mga biktima ang Microsoft. Parehong ekonomikong kailangan ng mga tagagawa ng modelo ang pagkatupad nito.

Hindi pa kasalukuyang nasa antas na iyon ang mga modelo—kahit ang Mythos. Kailangan nila, sa kabila ng higit pang computing power, higit pang mas magandang data. Ang pagpapabuti ng mga modelo ay lalo na nagmumula sa reinforcement learning; ang ilan ay maaaring mag-synthesize ng data, ngunit ang pinakamalakas na levers para sa mga nangungunang laboratorio ay ang paggamit sa totoong mundo.

Ito ang pangunahing dahilan kung bakit sinasadya ng OpenAI at Anthropic na magbigay ng malalaking subsidy sa kanilang subscription plans. Kabilang sa huling pagtataya ng SemiAnalysis, ang isang plano na $200 ay nagbibigay sa iyo ng $8,000 na halaga ng Claude tokens at $14,000 na halaga ng Codex tokens. Habang sila ay nagsisikap na manatili sa puso at isip ng mga user at developer, sila ay nagsisikap din na makakuha ng mga aktwal na datos sa paggamit upang mapabuti ang kanilang mga modelo.

Ang Anthropic ay nagdagdag ng malaking suporta sa Fable at inihayag na sila ay magtataglay ng lahat ng data na ginagamit nang 30 araw, kahit para sa mga corporate plan na dating nagbigay ng pangako na walang pagtataglay ng data. Sinasabi ng kumpanya na hindi sila gagamitin ang mga data para sa pagtuturo, ngunit wala silang itinakda anumang garantiya upang siguraduhing hindi sila gagawin ito sa hinaharap (tulad ng pag-iimbak ng data sa isang third party). Kung ang pagbabago sa patakaran na ito (kapag bumalik ang Fable) ay hindi nagdudulot ng malaking pagkawala ng mga customer, naniniwala ako na ang paggamit ng data ay isang bagay na nangyayari lamang sa oras: sobrang halaga nito para sa kanilang huling layunin.

Tandaan din ang positibong siklo na may paggalaw pataas patungo sa user touchpoints: mas maraming workflow na natatapos nang direkta gamit ang Claude o Codex, mas maraming data ang bawat kumpanya na makakapag-feedback sa pagtuturo, na nagpapalakas at nagpapakinabang sa kanilang produkto, na nagpapalawak sa bilang ng workflow na kanilang maaaring sirvin, at nagpapalawak sa kanilang pagkakaroon ng access sa data.

Nadella ay nagteklar sa artikulo tungkol sa kahalagahan ng mga data na ito, ngunit natural na iniisip na dapat itong independiyente sa modelo:

Kailangan ng kumpanya na i-translate ang mga workflow, domain knowledge, at nakumpol na pagpapasya sa isang AI system na lalong mapapabuti araw-araw. Dapat na makalikha ng pribadong pagtataya upang matukoy kung talagang nagpapabuti ang modelo sa mga resulta na mahalaga sa negosyo (hindi lamang sa panlabas na benchmark!). Dapat na magbigay ng pribadong reinforcement learning environment upang gawing mas malakas ang modelo sa mga totoong trajectory ng organisasyon. Ginagawa ng kanyang knowledge base ang institusyonal na memorya na madaling ma-query at mas epektibo ang paggamit ng token.

Ang siklo na ito ay naging bagong ari-arian ng kompanya. Ito kong itinuturing na isang makina para sa pag-akyat. Sa pagkakaiba sa karamihan sa mga aset, ito ay compound. Ang bawat pagpapabuti sa workflow ay naglalabas ng mas mahusay na mga signal sa pagtuturo, na nagpapabilis sa pagkolekta ng implicit na kaalaman na eksklusibo sa kompanya. Ang kompanya na una nang gumawa nito ay magkakaroon ng hindi madaling kopyahin na pangunahing kapakinabangan, anuman ang mga bagong kakayahan ng anumang hiwalay na modelo.

Ang siklo na ito ay naging bagong IP ng kumpanya. Ito ko itinuturing na isang makina para sa pag-akyat. Sa pagkakaiba sa karamihan sa mga aset, ito ay nakakapag-ambag ng compound growth. Bawat pagpapabuti sa workflow ay nagpapagawa ng mas mabuting training signals, na nagpapabilis sa pagkolekta ng implicit knowledge na eksklusibo ng kumpanya. Ang mga kumpanya na nagtatayo ng kakayahang ito sa maagang yugto ay magkakaroon ng hindi madaling kopyahin na pangunahing kapakinabangan, anuman ang pag-unlad ng kakayahan ng mga indibidwal na modelo sa hinaharap.

Gayunpaman, kung ang mga kumpanya na sumusunod sa patakaran ng data ng Anthropic ay makakakuha na ng mas mabuting resulta ngayon? O kung ang mga umiiral na kumpanya ay tumutol, at nag-iwan ng pagkakataon para sa mga bagong kumpanya—o kaya naman sa mga tagagawa ng modelo mismo—na labanan ang mga ito sa merkado? Totoo namang sinusubok ng Anthropic ang determinasyon na hingi ni Nadella.

Hindi kahit na ang patakaran sa pagpapanatili ng data tungkol sa Fable/Mythos ang pinakamalaking kontrobersiya sa paglalabas. Sa halip, sinabi ng Anthropic sa paglalabas na kung gagamitin ang Fable para sa pag-unlad ng LLM, babawasan nito nang tahimik ang performance nito; isinulat sa system card:

Dinagdagan namin ang mga pagsasalba sa kaugnayan sa pag-unlad ng mga LLM na nasa kahulugan. Tulad ng talakayin sa Seksyon 6.1 ng aming ulat sa panganib noong Pebrero 2026, nag-aalala kami sa panganib ng pagpapabilis ng pag-unlad ng AI, bagaman hindi pa namin malinaw ang kalalabasan ng mga panganib na ito. Lalo na, ang aming pag-aalala ay—tulad ng isinulat namin noon—“pagpapabilis sa pagbuo ng iba pang mga developer ng AI ng mga malakas na AI system na may katulad na panganib tulad ng aming sistema—ngunit hindi kailangang may katumbas na mga pagsasalba.”

Dahil sa kahinaan ng mga modelong ito na makapagpapabilis ng kanilang sariling pag-unlad, isinagawa namin ang mga bagong pagsisikap upang limitahan ang kakayahan ni Claude sa pagtugon sa mga kahilingan tungkol sa pag-unlad ng mga LLM na nasa kahulugan (tulad ng pagbuo ng pre-training pipeline, distributed training infrastructure, o disenyo ng ML accelerator). Ang paggamit ni Claude para sa pagbuo ng mga kompetitibong model ay nangangahulugang paglabag sa aming mga tuntunin ng serbisyo, ngunit sa pamamagitan ng mga pagsisikap na ipatupad ang limitasyong ito, maiiwasan natin ang pagpapabilis sa mga aktor na pinakamalakas na handa lumabag sa mga tuntuning ito.

Sa pagkakaiba sa aming mga interbensyon sa网络安全, biokimika, at pagtatry ng distilasyon, ang mga pagsisiguro na ito ay hindi nakikita ng mga gumagamit. Ang Fable 5 ay hindi magbabalik sa ibang modelo. Sa halip, ang mga pagsisiguro ay maglalayong limitahan ang epektibong paggamit sa pamamagitan ng pagbabago sa prompt, pagdirekta sa vector, o parameter-efficient fine-tuning (PEFT). Ang mga interbensyong ito ay hindi magdudulot ng epekto sa karamihan ng mga programming task. Ipinapalagay namin na ito ay magdudulot ng epekto sa halos 0.03% ng trapiko, na nakatuon sa higit sa 0.1% ng mga organisasyon. Kapag gumagana ang mga interbensyong ito, inaasahan namin na ang epekto nito sa pag-uugali ng modelo ay maliit lamang, maliban sa paglimita sa epektibong paggamit ng kanilang mga pinakabagong LLM. Ang Claude ay patuloy na magbibigay ng makatulong na sagot sa mga hiling ng mga gumagamit. Magpapatuloy tayong mapapabuti ang kahusayan ng aming mga paraan ng pagdetekta pagkatapos ng paglalabas ng modelo na ito.

Inilikod ng Anthropic ang pagbabagong ito—ang Fable ay magpapadala ng mga kahilingan na may kaugnayan sa LLM sa Opus 4.8 at magpapakita ng pagpapadala sa mga gumagamit—ngunit naniniwala ako na ang orihinal na patakaran ay napakalaking inspirasyon. Sa isang panig, hindi ko talaga iniiwasan ang Anthropic dahil ayaw nilang tulungan ang mga kalaban; sa kabilang panig, dapat malinaw na naniniwala ang Anthropic na walang iba kundi sila ang dapat gumawa ng mga pinakamoderno na LLM.

Ang mas nakakatangi sa patakaran na ito ay ang pagkakataon nito, dalawang buwan lamang pagkatapos ng pagkakaibigan ng Anthropic sa Kagawaran ng Digmaan: ang huli ay nais na gamitin ang Claude para sa anumang legal na layunin, habang ang una ay nais na magkaroon ng mas mahigpit na kontrol sa pagmamasid at mga sandata ng awtomatiko. Ang pagbaba na ito ay nagpapakita hindi lamang ng kakayahan ng Anthropic na paunlarin ang kanyang mga modelo upang maisabuhay ang kanyang mga paboritong patakaran, kundi pati na rin ang kanyang kagustuhan. Sa madaling salita, pinatotohanan nang aktibo ng Anthropic ang ilang pinakamalaking pag-aalala ng mga kritiko tungkol sa kanya bilang isang panganib sa supply chain.

Gayunpaman, ang mas malawak na konklusyon mula sa pangyayaring iyon ay ang naniniwala si Anthropic na dapat sila ang magkaroon ng huling desisyon tungkol sa paggamit ng Anthropic; dahil sa kanilang paniniwala na sila lamang ang dapat mag-develop ng pinakamodernong AI, sila ay tunay na naniniwala na sila lamang ang dapat magkaroon ng huling desisyon tungkol sa AI bilang isang kabuuan. Kapag pinagsama mo ang pag-unawa na ito sa pahayag ng kumpanya na ang AI ay kayang gawin lahat ng ekonomikong aktibidad, nauunawaan mo na ang mga lider ng Anthropic ay talagang nais magkaroon ng kapangyarihan sa lahat at sa lahat.

Siyempre, ang Anthropic ay hindi maiiwasang magsabi nang ganito; sa halip, ang kuwento ay tungkol sa kaligtasan:

Inaasahan kong lalaganap ng higit pa ni Anthropic ang kanilang mga model capability sa mga terminal user sa pamamagitan ng mga endpoint na lalong natutukoy sa iba’t ibang workflow, kahit na simulan na nilang limitahan ang API. Ang pagpapalit sa software at paglimita sa pag-access ay gagawin sa pangalan ng kaligtasan, kahit na nagpapatupad si Anthropic ng kanilang pangangailangang pang-ekonomiya na malapit sa terminal user.

Ang paliwanag ni Anthropic sa malaking pagbabago sa kanilang patakaran sa pag-iingat ng data ay ang kaligtasan. Partikular na sinasabi ng kumpanya na ang pag-iingat ng lahat ng data ng user ng 30 araw ay kinakailangan upang pigilan ang jailbreaking na mga gawain na pinag-aalala ng pamahalaan ng Estados Unidos. Maaari kong imahinahin ang isang hinaharap kung saan ang mga kadahilanan sa kaligtasan ay pilitin silang gamitin ang mga data na ito para sa pagtuturo, upang mas mabuti pang pigilan ang masamang paggamit.

Ang buong kuwento ng pagkakatatag ng Anthropic ay nakabatay sa paniniwala ng mga tagapagtatag na hindi sapat na serio ng OpenAI ang pagtingin sa kaligtasan; naniniwala ang kumpanya na sila lang ang kayang kontrolin ang AI, at dahil sa kanilang natatanging pag-aalala sa kaligtasan, mayroon silang dahilan upang subukang kontrolin ang lahat ng iba, kabilang ang pamahalaan ng Estados Unidos.

Tungkol sa mga seguridad na dahilan na ito, ang problema ay: naniniwala ako na epektibo sila, dahil para sa Anthropic, hindi sila mga dahilan. Naniniwala ang kompanya na sila lang ang naniniwala sa superinteligensya, kaya sila lang ang sapat na nakikinig sa mga panganib. Ito ang nagpapaliwanag sa isang pagpapasya pagkatapos ng isang pagpapasya, isang patakaran pagkatapos ng isang patakaran, isang pagtatagpo pagkatapos ng isang pagtatagpo, na para sa mga dayuhan ay tila kakaibang kombinasyon ng cynicism at pagiging walang karanasan.

Malaking pagkakaiba sa OpenAI: Naniniwala ako na isang paraan na maunawaan kung paano at bakit nawala ang OpenAI ang kanyang liderato ay sa mga taon pagkatapos ng paglalabas ng ChatGPT, ang kumpanya ay nasa loob na pakikidigma, ang dating research lab ay biglaang isinakop ng bigat na maging isang di-inaasahang consumer tech company; habang sinusolba ng OpenAI ang konflito na ito, maraming talento ang umalis patungo sa mga kumpanya tulad ng Anthropic.

Sa kabilang panig, may perpektong pagkakasundo ang Anthropic sa pagitan ng mga tauhan, misyon, at negosyo. Maaari ng kumpanyang ipaunawa sa mga siyentipiko ang pangarap na lumikha ng isang makinaryang diyos, kasama ang pagkakaroon ng isang aura ng pag-aalala sa panganib at sapat na karunungan upang kumatawan sa tao sa pagharap sa mga panganib; at ang bawat pagbabago sa patakaran na nagmumula dito ay eksaktong nakakatulong sa negosyo, na isang pinakamagandang pagkakataon sa mundo.

Nakikilala ko ang katatagan na ito, at natatakot din ako dito. Nilalayon ko ito dahil ito ay napakaepektibo; ang pinakamalapit na paghahambing ay ang Apple, na laging nagpapakita ng bawat sariling kilos bilang paggawa ng tama para sa gumagamit—at madalas ay totoo naman ito. Ganun din ang Anthropic. Gayunpaman, natatakot ako sa pagpapasya na hayaan ang mga taong sigurado na alam nila ang pinakamabuti para sa atin na bumuo ng isang smartphone na maaari kong tanggapin o tanggihan; mas nakakatakot pa ang pagpapasya na hayaan silang bumuo ng isang superinteligensya na may kakayahang makapagkumpetensya o lalong lumampas sa kapangyarihan ng isang bansa, o kaya naman sa mga malalaking kumpanya. Ang kasaysayan ng mga matalinong tao na sigurado na alam nila kung ano ang kailangan ng tao ay marumi, dahil sa pagpapaniwala nila na ang kanilang intensyon ay mabuti, na nagbigay-daan sa mga kilos na sa katotohanan ay hindi ganun.