Ipinakilala ng OpenAI ang isang automated red teaming system na tinatawag na GPT-Red upang hanapin ang mga security vulnerability bago ma-launch ang modelo. Sinasabi ng kumpanya na ginamit na ang kasangkapang ito sa proseso ng pagtatrain ng GPT-5.6, na nakatuon sa pagpapalakas laban sa prompt injection attacks.
Gamitin ang AI upang subukan ang AI
Ang red team testing ay karaniwang praktika sa larangan ng seguridad, kung saan aktibong sinasakop ang sistema upang maunawaan ang mga mahahalagang puntos na maaaring gamitin. Ipinagpatuloy ni OpenAI ang proseso na ito sa pamamagitan ng automation, kung saan ang modelo mismo ang gumagawa ng mga sample ng pag-atake, at ginagamit ang mga matagumpay na kaso bilang pabalik na pagtuturo para sa mga modelo ng pagtatanggol.
Sinabi ng OpenAI na sa pamamagitan ng pagtratrabaho sa sarili na may pag-aaway, ang GPT-Red ay patuloy na naglalikha ng mas malakas na mga pag-atake sa pag-input ng prompt. Kapag tagumpay ang isang pag-atake, ang mga sample na ito ay kinukuha sa susunod na pagtuturo, na nagpapalakas ng kakayahan ng modelo sa pagtatanggol.
Paglalabas ng mga datos ng panloob na pagsubok
Ayon sa OpenAI, sa loob ng mga pagsusuri, natagpuan ng GPT-Red ang mga magagamit na problema sa 84% ng mga test scenario, habang ang manu-manong red team ay may tagumpay na 13% sa parehong uri ng pagsubok. Sinabi ng kumpanya na ginamit ang mga sample ng pag-atake na ito para sa pagtatrain ng GPT-5.6, na nagresulta sa pagbaba ng pagkabigo ng modelo sa mga high-difficulty prompt injection benchmark tests.
Binanggit din sa artikulo ang isang kaso: bago maayos ang vulnability, ginamit ng GPT-Red ang isang sistema ng automated vending machine agent upang bawasan ang presyo, bumili ng discounted inventory, at i-cancel ang iba pang mga order ng mga user. Ginamit ng OpenAI ito upang ipakita na ang prompt injection problem ay hindi lamang nakakaapekto sa mga resulta ng chat, kundi maaari ring magdulot ng epekto sa mga AI agent na may kakayahang mag-eksekuta.
Papatuloy na ito bilang panloob na kasangkapan
Sinabi ng OpenAI na ang GPT-Red ay hindi kasalukuyang available sa publiko dahil ang sistema ay may mga itinuturo na kakayahang mag-atake. Ipinapakilala ng kumpanya ito bilang karagdagan sa artificial red teaming, third-party testing, at iba pang mga pagsasagawa ng seguridad, at hindi bilang alternatiba.
Ito ay nagpapakita na ang industriya ng AI ay umuunlad patungo sa “pagprotekta sa AI gamit ang AI.” Sa mga araw na ito ng buwan, ipinahayag din ng Ethereum Foundation na ginamit nila ang AI agents sa red team testing ng mga kritikal na imprastruktura at natuklasan ang isang vulnerability sa software ng Ethereum consensus client. Habang lumalakas ang mga model at agent, ang automated security testing ay nagsisiging maging mahalagang bahagi bago ilunsad ang mga AI system.