Sumuko ang Researcher ng Anthropic, Bumabala na Maaaring Mawala ang Kontrol sa AI sa Hangganan ng 2027

iconKuCoinFlash
I-share
AI summary iconSummary
Isang siyentipiko sa AI mula sa Anthropic, si Jacob Coxon, ay nagresina at plano niyang lumabas sa industriya ng AI. Nagtrabaho siya sa OpenAI at Anthropic, kung saan pinagsalitaan niya ang kanilang pagkakaroon ng mabilis na pag-unlad ng AGI nang walang sapat mga pagsasagawa ng kaligtasan. Binaril ni Coxon na maaaring mawala ang kontrol ng AI hanggang 2027, at sinikat na ang mga trend sa pag-unlad ng AI ay umuunlad nang masyadong mabilis. Ipinaglalaban niya na ang mga pangunahing desisyon ay dapat kasama ang higit pa sa mga inhinyero. Ang pag-unlad na ito ay nagdaragdag sa patuloy na balita tungkol sa AI + crypto tungkol sa hinaharap ng pamamahala ng AI.
ME AI mensahe, Beating AI News: Ipinahayag ni Jacob Coxon, isang researcher ng Anthropic, ang kanyang pagtatanggal mula sa industriya ng AI. Noong tatlong taon, nagtrabaho siya sa OpenAI at Anthropic sa pag-aaral ng pre-training. Sinabi niya na ang parehong kumpanya ay hindi responsable sa pag-unlad ng AI, at sila ay nagsisikap na lumikha ng superintelligence na makakapagpapalakas pa sa sarili nitong kakayahan, "nakapagbenta ng ating buhay." Naglipat si Coxon mula sa OpenAI patungo sa Anthropic noong taong ito dahil sa mas malaking pagpapahalaga nito sa kaligtasan ng model. Acknowledges ni Coxon na ang mga pagsisikap sa kaligtasan ng Anthropic ay seriyoso, ngunit naniniwala siya na habang ang bawat kumpanya ay nagsisikap na maging unang naglalabas ng AGI (general AI na makakasobra sa tao sa maraming gawain), ang pagpapalabas sa kaligtasan ay hindi maiiwasan, at hindi sapat ang pagsisikap ng isang kumpanya lamang upang lutasin ang problema. Ang kanyang pagtataya sa dalawang kumpanya: Marami pa ring hindi lubos na nauunawaan ang kalalabasan ng panganib sa loob ng OpenAI; alam ng Anthropic ang panganib, ngunit naniniwala sila na hindi sila maaasahan ang iba, kaya kailangan nilang maging una. Sinabi ni Coxon na ang ilang mga propesyonal sa AI ay mas malungkot sa pribado kaysa sa kanilang pampublikong pahayag, at kahit takot na maaaring sirain ng AI ang sangkatauhan bago magwakas ang dekada na ito. Ang kanyang sariling pagtataya: Sa pinakamalikhaing skenario, maaaring mawala na ang kontrol sa AI noong susunod na taon, kaya hindi dapat i-decide lamang ng mga inhinyero ng ilang kumpanya ang ganitong desisyon. (Source: BlockBeats)
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.