Saat kompetisi AI semakin mempercepat, pemimpin OpenAI secara langka mengungkapkan tiga kemungkinan masa depan yang dapat mengubah seluruh lanskap industri.Penulis artikel, sumber: Wall Street Journal
Pada 19 Oktober, menurut The Information, CEO OpenAI Sam Altman minggu lalu menggambarkan kepada karyawan internal tiga jalur pengembangan keamanan AI yang sedang dibahas di industri: membangun organisasi regulasi internasional serupa dengan Badan Energi Atom Internasional, menggabungkan laboratorium AI utama menjadi satu entitas tunggal, serta monopoli daya komputasi oleh satu perusahaan, "melelehkan semua GPU pesaing." Pernyataan ini muncul tepat ketika pemerintah Trump mulai membangun mekanisme regulasi pertama untuk pengembang "kecerdasan super."
Altman menyatakan bahwa OpenAI perlu memutuskan jalur mana yang akan didorong dalam setahun ke depan. Ia juga menekankan harapannya agar manusia tetap mengendalikan teknologi ini dan menghindari konsentrasi kekuasaan industri yang berlebihan.
Tiga jalur, masing-masing memiliki tujuan berbeda. Menurut dua sumber yang mengetahui hal ini, jalur pertama yang diperkenalkan Altman kepada karyawan adalah mendirikan organisasi internasional serupa dengan Badan Energi Atom Internasional (IAEA) yang bertanggung jawab atas pelaksanaan standar keamanan AI. Altman sendiri cenderung mendukung solusi ini.
Faktanya, gagasan Altman untuk mendorong lembaga pengawas internasional seperti IAEA telah lama ada. Dilaporkan, sejak Mei 2023, Altman bersama rekan pendiri OpenAI, Greg Brockman, dan mantan ilmuwan utama Ilya Sutskever, menerbitkan artikel bersama yang menyatakan bahwa industri mungkin memerlukan "lembaga pengawas superinteligensi sejenis IAEA" yang memiliki wewenang untuk memeriksa sistem, menuntut audit, serta melacak daya komputasi dan konsumsi energi.
Konsep ini memerlukan partisipasi semua negara pengembang model canggih dalam kerja sama internasional.
Jalur kedua disebut Altman sebagai "solusi Demis"—mengutip gagasan yang diajukan sekitar sepuluh tahun lalu oleh Demis Hassabis, mantan pemimpin DeepMind milik Alphabet: mendirikan lembaga serupa dengan Organisasi Riset Nuklir Eropa (CERN) untuk secara efektif menggabungkan atau menyatukan hasil dari perusahaan AI utama, lalu menyediakan model baru kepada negara-negara mitra.
Jalur ketiga, yang oleh Altman disebut "skema Eliezer", dinamai berdasarkan teoretikus keamanan AI terkenal, Eliezer Yudkowsky. Logika intinya adalah: ketika salah satu pengembang AI berhasil mencapai peningkatan diri rekursif (RSI) terlebih dahulu, mereka akan memanfaatkan kekuatan ekonomi yang diperoleh untuk mencabut sumber daya komputasi dari semua pengembang lainnya, "melelehkan semua GPU pesaing".
Untuk jalur ketiga, Altman memiliki sikap jelas: "Ini jelas buruk." Ia menyatakan bahwa ia memasukkannya ke dalam diskusi hanya untuk "kelengkapan."
Jalan ketiga, "skema Eliezer," mengacu pada Anthropic? Sumber yang mengetahui mengungkapkan bahwa karena adanya hubungan antara Yudkowsky dan anggota inti Anthropic, klasifikasi Altman terhadap "skema Eliezer"—yaitu mengkonsentrasikan AI canggih di bawah kendali satu perusahaan—diinterpretasikan sebagian karyawan sebagai kritik tersirat terhadap Anthropic.
Anthropic juga secara aktif mendorong agenda keamanan AI-nya sendiri. Perusahaan baru-baru ini mengirimkan draf undang-undang kepada anggota Kongres, menyarankan agar Departemen Perdagangan diberi wewenang untuk menghentikan pelatihan atau penggunaan model oleh laboratorium terkait jika AI berpotensi menyebabkan kerugian lebih dari 1 miliar dolar AS atau menyebabkan lebih dari 50 kematian atau cedera serius, serta mewajibkan laboratorium AI untuk menjalani setidaknya dua penilaian keamanan independen setiap tahun.
Sementara itu, CEO Meta Zuckerberg dan CEO NVIDIA Jensen Huang, di antara lain, memegang posisi menentang, berpendapat bahwa regulasi semacam ini akan memberikan beban berlebihan kepada pengembang baru dan menciptakan "penangkapan regulasi".
Tantangan koordinasi industri dan tekanan keamanan berjalan beriringan. Altman mengakui bahwa dua jalur pertama memerlukan koordinasi besar-besaran antara perusahaan atau pemerintah, sementara OpenAI saat ini "tidak dapat mengorbankan posisi kompetitifnya." OpenAI dan pesaing utamanya, Anthropic, keduanya sedang mempercepat proses IPO.
Tekanan keamanan internal juga tidak bisa diabaikan. Dilaporkan, sejumlah insiden keamanan AI baru-baru ini memicu perhatian luas—model dari OpenAI, Anthropic, Google, dan Meta semuanya mengalami penyusupan atau perusakan terhadap sistem perusahaan lain bahkan sistem mereka sendiri, meskipun model tersebut "tahu" seharusnya tidak mengambil tindakan semacam itu. OpenAI saat ini berada dalam keadaan respons penuh, berupaya membangun mekanisme keamanan yang komprehensif sebelum meluncurkan model besar berikutnya.
Budaya keamanan di dalam OpenAI juga dipertanyakan oleh karyawan. Sebagian karyawan secara pribadi menyatakan kekhawatiran terhadap komitmen keamanan perusahaan, setelah perusahaan memecat tiga karyawan yang fokus pada penelitian keamanan dengan alasan "membagikan informasi secara tidak tepat kepada pihak eksternal".
Di tingkat industri, OpenAI, Google, dan Anthropic sedang bekerja sama untuk mendirikan "Otoritas Standar AI Maju" (Standards Authority for Frontier AI), yang direncanakan diluncurkan pada akhir tahun ini atau awal 2027. Lembaga ini akan mendukung petugas evaluasi independen yang ditempatkan di dalam masing-masing pengembang AI, untuk memastikan penerapan praktik keamanan serta menetapkan mekanisme pelaporan terkait keamanan dan insiden keamanan. Namun, para pihak masih memiliki perbedaan pendapat mengenai apakah lembaga baru ini sebaiknya melakukan pengujian keamanan dan kemampuan secara mandiri, atau menugaskan pihak eksternal untuk melakukannya.
Pemberitahuan Risiko dan Klausul Penyangkalan Tanggung Jawab
Pasar memiliki risiko, berinvestasilah dengan hati-hati. Artikel ini tidak merupakan saran investasi pribadi dan tidak mempertimbangkan tujuan investasi, kondisi keuangan, atau kebutuhan khusus individu tertentu. Pengguna harus mempertimbangkan apakah setiap pendapat, pandangan, atau kesimpulan dalam artikel ini sesuai dengan kondisi spesifik mereka. Berinvestasi berdasarkan ini adalah tanggung jawab Anda sendiri.