Halos na halos ng AI na i-trigger ang isang militar na operasyon — talagang. Isang nakakatakot na bagong ulat ay nagpapakita na ang isang hallucination ng AI ay halos nag-trigger sa isang militar na operasyon ng US, na nagpapalabas ng malaking babala tungkol sa paggamit ng mga malaking modelo sa wika (LLMs) sa mga mataas na panganib na konteksto sa depensa. Banta ng isang mananaliksik mula sa GovAI: *"Mahalaga para sa mga miyembro ng serbisyo na maunawaan ang kawalan ng siguradong katotohanan na inherent sa LLMs."* Kapag ang AI ay tiyak na gumagawa ng mga katotohanan sa isang boardroom, ito ay nakakahiya. Sa isang battlefield, maaari itong maging kalamangan. Ipinapakita ng insidente na ito ang kritikal na pangangailangan para sa matibay na mga framework sa kaligtasan ng AI, tao na pagmamasid, at masusing pagpapatotoo bago anumang LLM ay makakasali sa desisyon ng militar. Ang paglalaban upang i-integrate ang AI sa depensa ay tumataas — ngunit ang mga limitasyon ay dapat magkasabay. #AISafety #ArtificialIntelligence #MilitaryAI #LLM #NationalSecurity --- Mga kumpanya sa larangan na ito: Palantir Technologies ($PLTR, NYSE), Microsoft ($MSFT, NASDAQ), Alphabet ($GOOGL, NASDAQ)