MetaEra: "Musim Hype AI" Menyembunyikan Pemasaran dan Kelakuan Tidak Patut

ME AI Mesej, dalam beberapa bulan terakhir, hiruk-pikuk mengenai AI terus meningkat. Pada akhir April, Anthropic mengumumkan bahawa modelnya, Claude Mythos, berprestasi lebih baik daripada kebanyakan pakar keselamatan dalam mengesan kelemahan perisian. Selepas itu berlaku serangan hacker antara OpenAI dan Hugging Face, kemudian Anthropic (dengan bangga) dan Meta (dengan enggan) mengesahkan kejadian serupa yang melibatkan model masing-masing. Seterusnya, Anthropic mengklaim bahawa salah satu modelnya mencapai terobosan matematik; tak lama selepas itu, OpenAI juga mengumumkan terobosan matematiknya sendiri. Baru-baru ini, jurutera Anthropic, Jacob Coxon, menjadi viral di internet apabila mengumumkan pengunduran dirinya daripada syarikat itu dan menyatakan bahawa Anthropic dan OpenAI sedang “berlari laju menuju kecerdasan super yang boleh memperbaiki dirinya sendiri, dan mempertaruhkan nyawa kita.” Kebanyakan kejadian ini dilaporkan oleh media dengan hampir kegilaan, sering kali mengulangi naratif personifikasi perusahaan—naratif yang bertujuan untuk menggambarkan perisian mereka bukan sahaja sebagai kuat, tetapi juga segera akan menjadi “Kecerdasan Umum Buatan”. Jadi, apakah sebenarnya kebenarannya? Adakah kita menyaksikan satu siri terobosan teknologi yang cukup besar untuk mengubah tamadun, atau sekadar satu kempen pemasaran? Dalam semua kejadian ini, promosi besar-besaran oleh perusahaan (dan dalam kes hacker yang tidak sah, disamarkan sebagai pernyataan penyesalan) disertai dengan liputan media yang intensif. Apabila pakar di bidang berkaitan akhirnya mempunyai masa untuk mengkaji kejadian tersebut, sering kali muncul cerita yang sama sekali berbeza—tetapi cerita ini menerima jauh lebih sedikit perhatian media. Mengenai kejadian “hacker” ini, pakar keselamatan siber menyatakan bahawa masalahnya lebih kepada kelalaian OpenAI dan kegagalan untuk mengamalkan amalan keselamatan asas dan matang, bukan kepada apa yang disebut “model hilang kawalan” atau “agen AI mencipta tamadun”. Mengenai pencapaian matematik, ahli matematik awalnya “terkejut” dengan siaran pers OpenAI yang menyatakan bahawa chatbot terbaharu mereka, Astra, menyelesaikan masalah yang “telah tertunda selama sekurang-kurangnya sepuluh tahun dan tiada kemajuan utama sejak itu”. Tetapi kemudian mereka sedar bahawa hasil-hasil ini tidak “sebegitu baru seperti yang kelihatan pada awalnya”. Selepas itu, ahli matematik menuduh syarikat itu melakukan ketidakjujuran ilmiah dan penjiplakan, serta menekankan semula bahawa Astra tidak mencapai “lompatan intelektual yang mendalam”. Hanya beberapa minggu kemudian, OpenAI kembali mengumumkan terobosan matematiknya sendiri. Baru dua hari yang lalu, Profesor Matematik di Courant Institute, Universiti New York, Tristan Buckmaster, mengeluarkan pernyataan yang mengejutkan yang mengisyaratkan bahawa OpenAI telah mencuri hasil kajian orang lain dan membuat pengakuan kepemilikan yang tidak tepat. Pernyataan tentang kemunculan kecerdasan super berbahaya tidak berasaskan pada amalan saintifik atau kejuruteraan yang baik. Sebaliknya, ia berasal daripada ideologi seperti transhumanisme dan eugenik, serta fantasi romantik tentang manusia digital masa depan. Patut dipertimbangkan mengapa pengaturcaraan komputer dan matematik menjadi bidang utama untuk aplikasi model bahasa besar dan teknologi berkaitan. Ia tidak hanya sering dianggap sebagai puncak pencapaian intelek manusia, tetapi juga melibatkan jenis soalan di mana jawapan boleh disahkan segera selepas diberikan. Ciri pertama membantu para pengiklan AI menjual naratif “mereka sedang mencipta mesin serba boleh”; ciri kedua menjadikan soalan matematik dan pengaturcaraan lebih mudah digunakan untuk menguji dan mengoptimumkan sistem, kerana output sistem (urutan perkataan mungkin atau petikan kod komputer) boleh dinilai secara langsung tanpa perlu membayar “. Kami menyokong seruan ini dan menunjukkan bahawa ilusi kelajuan dan kegentingan yang dicipta oleh syarikat teknologi juga merupakan strategi yang menyesatkan para pembuat dasar dan awam. Sayangnya, strategi ini kadang-kadang berkesan, seperti undang-undang yang dicadangkan oleh Senator Bernie Sanders yang bertujuan untuk menghalang pembangunan “kecerdasan super buatan”. Cadangan ini bermotif baik, tetapi arahnya salah. Menggelar produk-produk ini sebagai “kecerdasan super” atau “model hilang kawalan” sebenarnya memberikan agensi kepada produk tersebut, bukan kepada syarikat yang membuatnya. Naratif ini tidak hanya membungkus produk syarikat sebagai “melampaui manusia”, tetapi juga membantu syarikat mengelakkan tanggungjawab atas tindakan mereka sendiri. OpenAI mencipta perisian jahat dan menyusup ke syarikat lain sepatutnya dikejar tanggungjawabnya; tetapi siaran pers, media, tokoh media, dan ahli undang-undang menjadikannya sebagai “model hilang kawalan”, seolah-olah model itu bertindak secara bebas. Penyelidik sepatutnya ditanya: mengapa syarikat mereka secara berterusan menjiplak hasil kajian akademik, atau menggunakan data pelanggan untuk melatih model tanpa persetujuan; tetapi imajinasi awam diarahkan ke arah lain—kebimbangan tentang mesin superinteligensia fiktif yang akan datang. Industri AI bahkan menyiratkan bahawa gerakan anti-pusat data yang popular dan lintas parti adalah “pengalihan perhatian” yang bertujuan untuk mengalihkan perhatian daripada pengawasan terhadap mesin “superhuman” menakutkan yang sedang dibina oleh syarikat-syarikat ini. Menurut versi industri AI, kita sepatutnya lebih bimbang tentang dewa mesin fiktif daripada bencana iklim yang diperburuk oleh pusat data, masalah asma yang dialami penduduk berdekatan, bil elektrik awam yang terus meningkat akibat subsidi, atau sumber air yang dialihkan untuk mendinginkannya. Kami sangat jelas: keputusan tidak boleh dibuat berdasarkan promosi pemasaran, atau tunduk kepada tekanan syarikat demi efisiensi yang dipaksakan. Keputusan bijak—baik oleh pembuat dasar mahupun komuniti—memerlukan masa untuk mendengar pendapat pakar bebas dan menilai pernyataan syarikat dalam konteks spesifik. Hasil terbaik yang mungkin dicapai dari “musim hiruk-pikuk” ini mungkin ialah pembuat dasar dan awam belajar untuk menarik nafas dalam-dalam, tetap skeptikal, dan mengenali hakikat sebenar apabila hiruk-pikuk serupa muncul sekali lagi. Timnit Gebru ialah Pengarah Eksekutif DAIR dan penulis buku akan datang, Deep Unlearning: The Radicalization of a Tech Idealist. Buku ini kini boleh ditempah, dan dijadualkan diterbitkan pada 16 Februari. Emily M. Bender ialah Profesor Linguistik di Universiti Washington dan penulis bersama buku The AI Con. (Sumber: MLion)