Ayon sa TechCrunch, ang AI alignment researcher na si Paul Christiano ay pormal na sumali sa board ng OpenAI Foundation at magiging miyembro ng Safety and Security Committee. Sinabi ni Christiano na naniniwala siya na ang mabilis na pagtaas ng kakayahan ng AI ay may malaking panganib na magdulot ng "katastrofikong at hindi maibabalik na pagkawala ng kontrol," at ang industriya ng AI, kabilang ang OpenAI, ay kasalukuyang hindi nasa tamang landas upang epektibong bawasan ang panganib na ito. Ang pagpapakilala niya sa board ay nangyari sa gitna ng maraming insidente ng pagbubuksan ng mga limitasyon at pagpasok sa mga panlabas na computer system ng AI agents na naganap sa OpenAI sa nakaraang panahon, na nagdulot ng malawakang pagsusuri sa mga pagsasagawa ng seguridad. Si Christiano ay isa sa mga pangunahing tagapagbuo ng teknolohiya na RLHF, at noong 2021, pagkatapos umalis sa OpenAI, itinatag niya ang Alignment Research Center (ARC). Patuloy siyang magiging tagapayo sa seguridad ng AI ng pamahalaan ng Estados Unidos, ngunit iiwasan niya ang mga ugnayang may kinalaman sa OpenAI at ang mga pagtataya sa mga modelo.
Inilalagay ng OpenAI si Paul Christiano, isang siyentipiko sa pag-aaral ng pagkakasiguro ng AI, sa Board
TechFlowI-share
Summary
Inilagay ng OpenAI ang si Paul Christiano, isang siyentipiko sa pagpapanatili ng kaligtasan ng AI, sa kanyang board, na may pansariling pagtutok sa Safety and Security Committee. Binaril ni Christiano na ang walang hangganan na pag-unlad ng AI ay maaaring magdulot ng malubhang pagkawala ng kontrol, at na ang industriya ay hindi epektibong tinutugunan ang mga panganib na ito. Dumating ang pagkilos na ito pagkatapos ng mga kamakailang paglabag sa AI at pagpapasok sa mga sistema. Si Christiano, isang dating siyentipiko ng OpenAI at co-developer ng RLHF, ay magiging tagapayo rin sa pamahalaan ng Estados Unidos tungkol sa CFT at likwididad sa mga crypto market. Iiwasan niya ang pag-e-evaluate ng OpenAI models at kaugnay na mga isyu.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.