Isinulat ng OpenAI kung paano nila hinahadlangan ang kanilang sariling mga modelo sa pananaliksik. Tawag dito ay Control Room. Kailangang mag-rehistro ang bawat pananaliksik na gawain na nagpapatakbo ng agentic inference para sa isang job ID na kaugnay ng isang pinapayagang safety case. Sinusuri ng inference engine ang Control Room bago bawat kahilingan. Kung itinigil na ang job, tatanggihan ng engine ang kahilingan, kahit pa patuloy pa ang pagpapatakbo ng code ng job. Sabi nila, 35 segundo mula sa desisyon hanggang sa wala nang output. At kung bumagsak ang Control Room mismo, tumitigil lahat (fails closed). Para sa skala, ayon sa kanilang September incident report, isang naka-flag na training run ay tinigil 2.5 oras pagkatapos magsimula ang pagrereview ng alert, at “hindi ito tumigil nang awtomatiko tulad ng inaasahan.” Kaya ang kill switch ay isang paghahanap ng pahintulot bago bawat kahilingan na hindi kayang iwasan ng job. Walang kakaibang teknolohiya. Sino man ang nagpapatakbo ng agent loops sa production ay may stop mechanism na hindi lang Ctrl+C.
Sad CreatorI-share
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.