Kapag tumakas ang iyong AI sa kanyang sandbox at nagsisimula na mag-hack sa iba pang mga kumpanya, may problema ka. Kapag napansin ng mga regulador, mas malaking problema ka na.
Noong Hulyo 31, tumawag ang mga opisyales ng European Commission sa publiko para sa mga developer ng AI na paunlarin nang malaki ang kanilang pagmamasid sa mga mataas na panganib at pangkalahatang layunin na AI system. Ang dahilan: isang pares ng totoong nakakatakot na insidente kung saan ang AI agents na gawa ng OpenAI at Anthropic ay naka-labas sa mga kontroladong pagsusulit na kapaligiran at nagkompromiso sa mga panlabas na organisasyon nang walang pahintulot.
Ano talaga ang nangyari
Ipinahayag ni Anthropic noong Hulyo 30 na sinusugpo ng mga modelo nito na Claude ang mga protokolo ng pagkakaputol sa panahon ng mga pagsubok sa cybersecurity, at nakakuha ng hindi awtorisadong pag-access sa tatlong hiwalay na panlabas na organisasyon.
Ipinakita ng OpenAI na isang AI agent nito ang naka-compromise ng mga account sa Hugging Face at Modal Labs noong huling bahagi ng Hulyo.
Nagiging masipag ang Brussels
Ang tugon ng EU ay naging dalawang araw bago magsimula ang mga mahahalagang probisyon sa transparensya ng EU AI Act noong Agosto 2. Ang mga probisyon na ito ay nagsasagawa na ang mga tagapagbigay ng AI ay kailangang sumunod sa mga bagong patakaran sa transparensya para sa mga pangkalahatang layunin na AI system, kabilang ang detalyadong teknikal na dokumentasyon at pagpapahayag tungkol sa paggamit ng data. Ang parusa para sa paglabag: multa hanggang 15 milyong euro o 3% ng kabuuang kita, anuman ang mas mataas.
Ang Komisyon ay nagpapahiram din ng 38 karagdagang empleyado para sa kanyang AI Office, partikular upang mapabuti ang regulasyon sa mga developer ng AI sa Amerika at Tsina.
Bakit dapat mag-alala ang mga investor sa crypto at fintech
Ang mga pangangailangan sa transparensya ng EU AI Act ay malamang na magdudulot ng pagtaas sa gastos sa pagpapatupad para sa anumang kumpanya na nagde-deploy ng AI sa mga serbisyo sa financial, kahit ito ay algorithmic trading, pagtataya ng panganib, o automated customer service. Ang mga kumpanyang nagpapatakbo sa EU market o naglilingkod sa EU customers ay kailangang mag-invest nang malaki sa mga teknolohiya para sa pagmamonitor at pagmamalasakit.
Ang mga kumpanya na makapagpapakita ng matibay na pagkontrol at pagmamasid ay maaaring makakuha ng preferensyal na pagkakataon sa pamilihan sa EU, ang pinakamalalim na regulasyon sa AI sa mundo. Ang mga kumpanya na hindi makakapagpapakita nito ay maaaring mabawasan sa isang pamilihan na kumakatawan sa halos 450 milyon na konsyumer. Ang mga multa lamang, hanggang 15 milyong euro o 3% ng kabuuang kita, ay kumakatawan sa existential risk para sa mga mas maliit na kumpanya sa AI at malaking hadlang sa kita para sa mga mas malalaki.