Si Greg Jensen, co-chief investment officer sa Bridgewater Associates, ay nagbigay ng isa sa mga pinakamalungkot na pagtataya sa regulasyon ng AI noong September 11. Ang kanyang pangunahing argumento: ang kasaysayan ay nagpapakita na ang mga gobyerno ay hindi gagawa ng aksyon hanggang maganap ang isang totoo naming masama.
“Hanggang sa magsimula ang AI na patayin ang mga tao, kasalanan sa kasaysayan na hindi tayo gagawa ng anumang bagay,” ayon kay Jensen, na kumukumpara sa kasalukuyang panahon sa Pebrero 2020, nang nagsasagabal na ang COVID-19 sa buong mundo ngunit hindi pa nakapagmobilisa ang karamihan sa mga gobyerno.
Isang linggo ng patuloy na mga babala
Ang mga komento ni Jensen ang nagtapos sa isang serye ng mga araw kung saan ang maraming kilalang tao ay naglabas ng malalim na pag-aalala tungkol sa direksyon ng pag-unlad ng AI. Noong Setyembre 9 at 10, ang mga siyentipiko sa Anthropic, kabilang si Jacob Coxon at Evan Hubinger, ay naglabas ng malalim na babala tungkol sa kasalukuyang bilis ng pag-aaral ng AI.
Sumuko si Coxon mula sa Anthropic sa panahong iyon, na nagbigay-daan sa mga panganib na siya ay pinag-aaralan mula sa loob. Binyag ng parehong mga siyentipiko na ang kasalukuyang landas ng larangan ay maaaring magdulot ng mga sariling-paunlad na superinteligensya, mga uri ng sistema na hindi lamang sumusunod sa mga utos kundi nagpapabago rin ng kanilang sariling kakayahan.
Ang kanilang pagtataya ay nakakatakot: higit sa 10% na posibilidad ng pagkawala ng sangkatauhan dahil sa AI sa susunod na dekada.
Ipinangako ni Jensen na maaaring mangyari ang isang malaking insidente kaugnay ng AI sa loob ng susunod na dalawang taon kung walang proaktibong mga hakbang ang gawin.
Nagsimula na ang Washington na pansinin
Ang mga miyembro ng Kongreso ng US, kabilang ang Rep. Lori Trahan at Sen. Ted Cruz, ay nagtulak para sa pagsasagawa ng pambansang batas noong Setyembre 9 at 10, humihingi ng mga balangkas na magpapahintulot sa transparensya mula sa mga developer ng AI at magtatatag ng mga mekanismo para sa pansamantalang paghinto para sa mga mataas na panganib na modelo.
Ang mga propuesta na ito ay nagpapatuloy sa mga gawaing ginawa ng isang independiyenteng panel ng UN, na naglabas ng isang ulat noong Hulyo na nagbaba ng alerto sa mabilis na paglago ng mga kakayahan ng AI. Ang pangunahing natuklasan ng panel ay hindi komportable: mas mabilis ang pag-unlad ng AI kaysa sa pag-unawa ng agham at patakaran ng pamahalaan.
Ang panel ng UN ay partikular na nagbaba ng babala tungkol sa walang kamalayang pag-unlad ng mga masasamang o agentic na sistema, AI na makakapagpursige ng mga layunin nang awtomatiko at posibleng magsisiwala sa mga tao na nagmamalay sa ito.