MetaEra: "Musim Hype" AI Menutupi Pemasaran dan Perilaku Tidak Etis

ME AI Pesan, selama beberapa bulan terakhir, hiruk-pikuk seputar AI terus meningkat. Pada akhir April, Anthropic mengumumkan bahwa modelnya, Claude Mythos, tampil lebih baik daripada sebagian besar ahli keamanan dalam mendeteksi kerentanan perangkat lunak. Kemudian terjadi serangan peretasan antara OpenAI dan Hugging Face, setelah itu Anthropic (dengan cukup bangga) dan Meta (dengan enggan) mengungkap insiden serupa yang melibatkan model mereka masing-masing. Tak lama setelah itu, Anthropic menyatakan bahwa salah satu modelnya mencapai terobosan matematis; segera setelah itu, OpenAI juga mengklaim mencapai terobosan matematisnya sendiri. Baru-baru ini, insinyur Anthropic Jacob Coxon menjadi viral di internet, mengumumkan pengunduran dirinya dari perusahaan dan menyatakan bahwa Anthropic dan OpenAI sedang “berlari menuju superintelligence yang dapat meningkatkan dirinya sendiri, dan mempertaruhkan nyawa kita.” Sebagian besar peristiwa ini dilaporkan oleh media dengan hampir kegilaan, sering kali mengulangi narasi personifikasi perusahaan—narasi yang bertujuan untuk menggambarkan perangkat lunak mereka tidak hanya kuat, tetapi juga segera menjadi “kecerdasan umum buatan.” Lalu, apa sebenarnya kebenarannya? Apakah kita menyaksikan serangkaian terobosan teknis yang cukup mengubah peradaban, atau sekadar kampanye pemasaran? Dalam semua peristiwa ini, promosi besar-besaran oleh perusahaan (dalam kasus peretasan ilegal disamarkan sebagai pernyataan penyesalan) disertai dengan peliputan media yang intens. Namun, ketika para ahli di bidang terkait akhirnya punya waktu untuk meninjau kejadian tersebut, sering kali muncul cerita yang sama sekali berbeda—hanya saja cerita semacam ini menerima jauh lebih sedikit perhatian media. Mengenai insiden “peretasan” tersebut, para ahli keamanan siber menyatakan bahwa masalahnya lebih terkait dengan kelalaian OpenAI dan gagal menerapkan praktik keamanan dasar yang sudah matang, daripada “model kehilangan kendali” atau “agen AI menciptakan peradaban.” Mengenai hasil matematis, para matematikawan awalnya “terkejut” dengan rilis pers OpenAI yang menyatakan bahwa chatbot terbarunya, Astra, menyelesaikan masalah yang “telah menggantung selama setidaknya sepuluh tahun dan tidak ada kemajuan signifikan.” Namun kemudian mereka menyadari bahwa hasil tersebut tidak “sebegitu baru seperti yang awalnya tampak.” Setelah itu, para matematikawan menuduh perusahaan tersebut melakukan ketidaksesuaian ilmiah dan plagiarisme, serta menegaskan kembali bahwa Astra tidak mencapai “lompatan intelektual yang mendalam.” Hanya beberapa minggu kemudian, OpenAI kembali mengklaim mencapai terobosan matematisnya sendiri. Dua hari lalu, profesor matematika dari Courant Institute, New York University, Tristan Buckmaster, mengeluarkan pernyataan yang mengejutkan, yang mengisyaratkan bahwa OpenAI mencuri hasil penelitian orang lain dan memberikan kredit yang tidak tepat. Pernyataan tentang kemunculan superintelligence berbahaya yang segera akan datang tidak didasarkan pada praktik ilmiah atau teknik yang baik. Sebaliknya, mereka berasal dari ideologi seperti transhumanisme dan eugenika, serta fantasi wishful thinking tentang manusia digital masa depan yang dibayangkan. Patut dipikirkan mengapa pemrograman komputer dan matematika menjadi fokus utama penerapan model bahasa besar dan teknologi terkait. Keduanya tidak hanya sering dianggap sebagai puncak pencapaian intelektual manusia, tetapi juga melibatkan jenis masalah di mana jawaban dapat diverifikasi begitu diajukan. Karakteristik pertama membantu para penggemar AI menjual narasi “mereka sedang membuat mesin segalanya”; karakteristik kedua membuat masalah matematika dan pemrograman lebih mudah digunakan untuk debugging dan optimasi sistem, karena output sistem (urutan kata yang mungkin atau fragmen kode komputer) dapat dievaluasi secara langsung tanpa perlu membayar para ahli.” Kami mendukung seruan ini dan menunjukkan bahwa ilusi kecepatan dan urgensi yang diciptakan oleh perusahaan teknologi juga merupakan strategi yang menyesatkan para pembuat kebijakan dan publik. Sayangnya, strategi ini terkadang berhasil, seperti pada usulan undang-undang oleh Senator Bernie Sanders yang bertujuan untuk mencegah pengembangan “kecerdasan super buatan.” Usulan tersebut bermaksud baik, tetapi arahnya salah. Menyebut produk-produk ini sebagai “superintelligence” atau “model tak terkendali” sebenarnya memberikan agensi kepada produk, bukan kepada perusahaan yang membuatnya. Narasi ini secara satu sisi mengemas produk perusahaan sebagai “di atas manusia,” sementara di sisi lain membantu perusahaan menghindari tanggung jawab atas tindakan mereka sendiri. OpenAI yang membuat perangkat lunak jahat dan menyusup ke perusahaan lain seharusnya dimintai pertanggungjawaban; namun rilis pers, media, tokoh media, dan legislator justru menyebutnya sebagai “model tak terkendali,” seolah-olah model tersebut bertindak sendiri. Para peneliti seharusnya ditanya: mengapa perusahaan tempat mereka bekerja secara konsisten menjiplak hasil para akademisi, atau menggunakan data pelanggan untuk melatih model tanpa persetujuan; tetapi imajinasi publik justru dialihkan ke arah lain—khawatir tentang apa yang akan terjadi di masa depan akibat kedatangan mesin superintelligence fiktif. Industri AI bahkan menyiratkan bahwa gerakan anti-pusat data yang populer dan lintas partai adalah upaya “mengalihkan perhatian” dari pengawasan terhadap mesin “superhuman” mengerikan yang sedang dibuat oleh perusahaan-perusahaan tersebut. Menurut versi industri AI, kita seharusnya lebih khawatir tentang dewa mesin fiktif daripada bencana iklim yang diperparah oleh pusat data, masalah asma yang dialami penduduk setempat, kenaikan tagihan listrik publik yang mensubsidi pusat data, atau air yang dialihkan untuk mendinginkannya. Kami sangat sadar bahwa keputusan tidak boleh dibuat berdasarkan promosi pemasaran atau tunduk pada tekanan perusahaan demi efisiensi yang dianggap mendesak. Baik pembuat kebijakan maupun komunitas memerlukan waktu untuk mendengarkan pendapat para ahli independen dan menempatkan klaim perusahaan dalam konteks nyata. Hasil terbaik yang mungkin bisa dicapai dari “musim hiruk-pikuk” ini adalah agar para pembuat kebijakan dan publik belajar untuk menarik napas dalam-dalam, tetap skeptis, dan mengenali esensi sejati dari hiruk-pikuk semacam ini ketika muncul lagi. Timnit Gebru adalah Direktur Eksekutif DAIR dan penulis buku mendatang berjudul *Deep Unlearning: The Radicalization of a Tech Idealist*. Buku ini kini telah tersedia untuk pre-order dan direncanakan diterbitkan pada 16 Februari. Emily M. Bender adalah profesor linguistik di Universitas Washington dan co-penulis buku *The AI Con*. (Sumber: MLion)