Ayon sa Mars Finance, ipinahayag ni Jacob Coxon, isang researcher ng Anthropic, ang kanyang pagpapahinto at paglalayong umalis sa industriya ng AI. Noong tatlong taon ang nakalipas, nagtrabaho siya sa OpenAI at Anthropic sa pananaliksik sa pre-training. Sinabi niya na ang parehong kumpanya ay hindi nagpapatuloy nang may responsibilidad sa pag-unlad ng AI, at sila ay nagsisikap na lumikha ng superintelligence na makakapagpapalakas pa sa kanilang sariling kakayahan, "naglalagay ng aming buhay sa panganib." Noong taong ito, lumipat siya mula sa OpenAI patungo sa Anthropic dahil sa mas malaking pagpapahalaga nito sa kaligtasan ng model. Acknowledging na seryoso ang mga hakbang sa kaligtasan ng Anthropic, naniniwala siya na habang patuloy ang bawat kumpanya na makamit ang AGI (general AI na makakasobra sa tao sa maraming gawain), ang pagtitiis sa kaligtasan ay hindi maiiwasan, at hindi sapat ang pagsasakripisyo ng isang kumpanya lamang. Ang kanyang pagtataya sa dalawang kumpanya: marami pa ring hindi lubos na nauunawaan ang kalalabasan ng panganib sa loob ng OpenAI; habang alam ng Anthropic ang panganib, naniniwala sila na hindi maaasahan ang iba, kaya kailangan nilang maging una. Ayon kay Coxon, maraming propesyonal sa AI na mas malungkot sa pribado kaysa sa pampublikong pahayag, at kahit takot na maaaring sirain ng AI ang sangkatauhan bago magwakas ang dekada na ito. Sa kanyang sariling pagtataya, sa pinakamalikhaing skenario, maaaring mawala na ang kontrol sa AI bago magwakas ang susunod na taon, kaya't hindi dapat ito i-decide lamang ng mga inhinyero ng ilang kumpanya.
Sumuko ang researcher ng Anthropic, nagbabala na maaaring mawala ang kontrol sa AI bago ang 2027
MarsBitI-share
Summary
Ang si Jacob Coxon, siyentipiko ng Anthropic, ay nagresign at nagpapalayo sa sektor ng balita sa AI + crypto. Nagtrabaho siya sa OpenAI at Anthropic sa pananaliksik sa pre-training sa loob ng tatlong taon. Kritikado ni Coxon ang dalawang kumpanya dahil sa pagpapahalaga sa bilis kaysa kaligtasan sa pag-unlad ng AI. Binaril niya na ang pagkikisap para sa AGI ay maaaring magdulot ng mga sistema na labas na sa kontrol ng tao bago ang 2027. Ipinapakita ng mga trend sa industriya ang patuloy na pagtutok sa kakayahan ng AI, ngunit sinasabing ni Coxon na ang kaligtasan ay iniiwan. Naniniwala siya na ang mga malalaking kumpanya sa teknolohiya ay gumagawa ng mga desisyon na dapat may mas malawak na pagmamalay.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.