Ang Beating AI News Alert ay nagpapaalala na sa kanilang updated IPO prospectus noong Nobyembre 2, ang Anthropic ay nagbaba ng babala na maaaring malampasan ng AI ang mahalagang tuldok na kaugnay ng "recursive self-improvement" (RSI) sa malapit na hinaharap, na magdudulot ng malaking pagpapabilis sa pag-unlad ng AI. Noon ay may mga pagkakataon na hindi napansin ang malaking pagpapabilis sa pag-unlad ng teknolohiya hanggang sa nangyari na ito. Kasalukuyan, ang Claude ay nakikilahok sa pagsusulat ng code, pagpapatupad ng mga eksperimento, at pagproseso ng training data upang tulungan ang pagbuo ng mas malakas na mga susunod na modelo. Ang mga bagong modelo ay maaaring magbalik-loob na magpabilis sa susunod na pag-unlad, lumilikha ng isang siklo na patuloy na nagpapabilis. Ayon sa patakaran sa kaligtasan ng Anthropic, may dalawang sitwasyon kung kailan maabot ang mahalagang tuldok: 1. Ang AI ay makakagawa ng buong gawain ng isang team ng mga mananaliksik sa AI sa parehong gastos; o 2. Ang pag-unlad ng teknolohiya ng AI ay maaaring magdulot ng pagdoble o higit pa sa bilis, na kumikita ng dalawang taon ng pag-unlad sa loob ng isang taon. Habang lalong lumalalim ang AI sa kanilang sariling pag-unlad, maaaring lumago ang kakayahan ng modelo nang mas mabilis kaysa sa pag-update ng mga pagsusuri sa kaligtasan, pag-aaral sa alignment, at mga pagsisikap sa proteksyon. Kasalukuyan, hindi pa inaangkat ng Anthropic na anumang umiiral na modelo ay nakarating sa antas na ito, at ang babala na ito ay batay pangunahin sa kanilang internal na pagtataya at mga propesya para sa mga susunod na modelo. Kasalukuyang isinasaalang-alang nila ang pagbabago sa kanilang patakaran sa kaligtasan upang siguraduhing nananatiling pinagmamasdan at kinokontrol ng tao ang mahahalagang proseso sa pag-unlad.
Babala si Anthropic na maaaring pumasok ang AI sa phaseng sariling pagpapabilis sa malapit na panahon
MarsBitI-share
Summary
Binanggit ng Anthropic sa kanyang inihain na IPO filing noong Nobyembre 2 na maaaring mabuo na ngayon ang isang sariling pagpapabilis na yugto ng AI sa pamamagitan ng recursive self-improvement (RSI). Sinabi ng kumpanya na ang mga modelo tulad ng Claude ay nangangalakal na sa pagsulat ng code at pagproseso ng data, na nagpapabilis sa pag-unlad. Ayon sa kanilang patakaran sa kaligtasan, ang treshold ay matutugunan kung ang AI ay magkakaroon ng output na katumbas ng isang buong tim ng pananaliksik o magdudoble ng bilis ng pag-unlad. Hindi pa nakakatuklas ang Anthropic ng mga modelo na sumasapat sa pamantayang ito at pinag-aaralan ang kanilang patakaran upang mapanatili ang tao sa pagmamalay. Tiningnan din ng kumpanya na ang mga darating na patakaran sa MiCA ay maaaring mag-apekto sa paraan kung paano nakikipag-ugnayan ang mga tool ng AI sa mga reguladong cryptocurrency market. Maaaring higit pang magbigay anyo ang mga patakaran sa CFT sa pagmamalay sa mga financial system na dinudulot ng AI.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.