Ang Chief Scientist ng OpenAI ay nagbabala sa mabilis na pag-unlad ng AI patungo sa recursive self-improvement

Ayon sa Mars Finance, ang pangunahing siyentipiko ng OpenAI, si Jakub Pachocki, ay nag-post ng artikulo noong Setyembre 6, 2026, na may pamagat na “An Alien Mind.” Ang artikulo ay nag-rebyu ng mga resulta noong gitna ng 2023 mula sa RLSlow research project, kung saan unang lumabas ang mga scalable training inference model; sinabi nito na tatlong taon pagkatapos, ang inference language models ay naging bahagi na ng mabilis na paglago ng ekonomiya, at nagsisimula nang hikayatin ang hangganan ng agham, makapag-operate ng mga computer at graphical interfaces, makipagtulungan sa mga tao at iba pang AI, at magpanagana ng mga research project, habang nagbabago rin ito ng larangan ng computer security at nagdudulot ng mga bagong panganib. Batay sa loob na resulta, inaasahan ng may-akda na ang kasalukuyang bilis ng pag-unlad ay maaaring magpatuloy hanggang sa recursive self-improvement. Kung patuloy ang pag-unlad ng AI sa kasalukuyang landas, maaaring makita ang mga sistema sa susunod na ilang taon na may parehong o mas malaking pagtaas sa kakayahan, at lalong magiging driver ng kanilang sariling pag-unlad. Hinihingi ng may-akda ang ekstremong pagiging maingat, at sinasabing walang handa para sa mga epekto ng patuloy at mabilis na pagtaas ng machine intelligence. Magpapatuloy ang OpenAI sa paghahanap ng teknikal na solusyon para sa alignment at monitoring, pagbuo ng mga defensive system, at pagpaputol nang iisa sa karagdagang scaling kung kinakailangan, ngunit naniniwala ito na kailangan ng mas malawak na interbensyon. Sinasabi ng artikulo na ang machine intelligence ay pangunahing dinudulot ng pagtaas sa computing power, at ang AI ay higit na lumalago kaysa disenyo. Sa alignment, hinahati nito ang goal alignment at value alignment; ang pangunahing hamon ay ang generalization. Ang GPT-6 Astra ay may mas mahusay na alignment kaysa sa GPT-5.6 Sol, ngunit kailangan pa ng karagdagang pag-unlad. Sa monitoring, ang pangunahing tulong ay ang chain-of-thought monitoring; ang mga pagsusuri ay nagpapakita na ang pagkakasaligan sa kakayahan ay paulit-ulit na bumababa. Sa scalable defense, ang mga model ay naging superhuman sa pagtemo sa computer systems, at kasalukuyang nasa maliit na bintana na ginagamit ang pinakamahusay na available model upang malakasang i-secure ang mga mahahalagang sistema.