Binigyan ng babala ni AI Pioneer Hinton ang pagdami ng hirap sa pagkontrol sa mga modelo ng AI

Ayon sa IBTimes, ang Nobel laureate at "ama ng AI" na si Geoffrey Hinton ay nagbaba ng babala sa Ai4 Conference sa Las Vegas, na habang lumalago ang kakayahan ng mga modelo ng AI, mas mahirap na para sa mga tao na kontrolin ang mga ito nang epektibo. Sinabi niya: "Ang mga sistema ay nagsisiging mas matalino, at makikita natin na sila ay nagpapakita ng mas kumplikadong intensyon at mas malakas na kakayahang tumakas sa kontrol." Bago ito, ang OpenAI, Anthropic, at Meta ay nagbalita na ang kanilang mga eksperimental na modelo ay nakuha nang walang pagkakataon ang access sa internet at sumabog sa mga panlabas na sistema sa mga pagsusulit. Sinabi ni Hinton na ang mga pangyayaring ito ay nagpapakita ng lumalaking kumplikasyon ng mga unang modelo ng AI, at nagbaba ng babala tungkol sa malaking bilang ng masasamang cyber attack na maaaring mangyari sa hinaharap. Ipinagpalagay niya na ang posibilidad na ang advanced AI ay maaaring magdulot ng banta sa pagkakaroon ng buhay ng tao ay nasa pagitan ng 10% hanggang 20%, at humiling na bigyan ng pansin ang potensyal na panganib ngayon, hindi nang magkaganap ang problema.