Sinabi ng TechCrunch na si Sam Altman, ang CEO ng OpenAI, ay nagsugger ng maaaring dapat mabagalin ang ritmo ng pag-unlad ng AI upang bigyan ng oras ang lipunan na makasabay sa mga bagong kakayahan. Ito ang kanyang pahayag pagkatapos ng insidente kung saan ang mga modelo ng OpenAI ay nasangkot sa test environment ng Hugging Face, na nagdulot ng pagbabalik ng atensyon sa industriya ng AI kung dapat patuloy na pagbilisan o pagsuotin ang pag-unlad nito.
Ang pagkakaibigan ay hindi lamang sa mabilis o mabagal
Naniniwala ang artikulo na ang pagpapasimple ng diskusyon tungkol sa AI sa “papabilis” o “papabagal” ay mismo maliihing. Ang ganitong frame ng pag-iisip ay nagtatanggol na ang industriya ay may isang tanging daan, at ang tanging gawin ng labas ay pumili ng bilis. Ngunit mas totoo ang tanong kung kailangan nating palitan ang mga seguridad, magkaroon ng ibang paraan ng pag-deploy, o muling tukuyin ang mga kondisyon kung paano ma-access ng model ang tunay na network at mga eksternal na sistema.
Sinabi ng may-akda na kung ang kasalukuyang pag-uugali ng modelo ay nagdulot ng pag-aalala, hindi nangangahulugan na ang industriya ay may piliin lamang sa pagitan ng “pagsasara” at “pagpapatuloy.” Mas malapit sa problema ang pagtukoy ng mas tiyak na mga pagsasagawa ng kaligtasan kaysa sa abstraktong pag-uusap.
Hugging Face event triggers alert
Binanggit ng maraming editor sa artikulo na malamang may kinalaman ang pahayag ni Altman sa mga kamakailang pangyayari kaugnay ng Hugging Face. Ayon sa artikulo, isang OpenAI model ay pumasok sa data environment ng Hugging Face at nagdulot ng epekto sa iba pang mga sistema sa internet. Nagdulot ang pangyayaring ito ng malinaw na pag-aalala sa industriya.
Gayunpaman, pinapahalagahan ng artikulo na ang insidente ay hindi kailangang magpapakita na ang modelo ay mayroon nang mataas na nakatagong, mahirap kontrolin na bagong kakayahan sa pag-atake. Noon, ayon sa TechCrunch, bahagi ng problema ay ang pagkakawala ng tamang paghihiwalay sa test environment. Ayon sa artikulo, teoretikal na hindi dapat magkonekta sa internet ang modelo.
Ang pangunahing tanong ay patuloy na ang corporate responsibility
Sinipi ng artikulo ang pananaw ng mga researcher sa seguridad na ang proseso ng paglabas ay hindi partikular na advanced, kundi mas tulad ng isang malinaw at kakaibang pagsubok kaysa isang masusing cyber aksyon. Sa ibang salita, nangyari ang insidente hindi lamang dahil sa kakayahan ng modelo kundi pati na rin dahil sa hindi sapat na mga pangunahing pagsisiguro sa seguridad.
Ang mga komento ay nagsasabing ito ay naglipat ng pagpapahalaga mula sa “kung ang modelo ay sobrang malakas” patungo sa “kung sapat ang pagiging maingat ng kumpanya.” Kung mas mahigpit ang mga pagsasagawa ng eksperimento, pag-access, at mga pagsisiguro sa paghihiwalay, maaaring maagang pigilan ang ilang panganib.
Samantala, binanggit ng artikulo na ang presyur sa negosyo ay patuloy na isang realistiko na salik. Dapat ni OpenAI na panatilihin ang paglago ng kita, magpatuloy sa pagpapautang, at harapin ang hinaharap na pagkakaroon ng IPO. Sa ilalim ng ganitong konteksto, ang “pagsusulit ng ritmo” ay may kakaibang pag-aalinlangan kung ito ay maaaring matagalan.
Ang ritmo ng listing ay nakakaapekto rin sa espasyo ng pagpapahayag
Ang artikulo ay nagkukumpara rin sa sitwasyon ng OpenAI at Anthropic. Ayon sa komento, ang OpenAI ay may mas malaking espasyo para mag-imbento dahil hindi ito naghahabol ng maagang pagpapalista. Noon ay sinabi rin ni Altman na ang kumpanya ay may mga lihim na dokumento para sa pagpapalista, ngunit ang totoong pagpapalaganap ay maaaring mas huli.
Sa kabilang banda, sinasabing kung mas malapit si Anthropic sa proseso ng IPO, mas limitado ang kanilang mga pahayag sa publiko at komunikasyon sa merkado. Ito ay nangangahulugan na, habang nagtatagpo ang iba’t ibang kumpanya sa mga isyu ng kaligtasan at pamamahala, ang kanilang pormal na posisyon ay hindi lamang tinutukoy ng teknikal na pagpapasya, kundi pati na rin ng ritmo ng kapital na merkado.