OpenAI dan Anthropic Bersatu Menentang Pentagone Mengenai Etika AI

Penulis asal: Curry, Deep潮 TechFlow

Beberapa hari yang lalu, ada satu gambar yang menjadi viral di internet.

India mengadakan puncak AI, dengan Perdana Menteri Modi berdiri di atas pentas, di kedua sisi berdiri sejajar tokoh-tokoh besar Silicon Valley. Semasa sesi foto bersama, Modi mengangkat tangan orang di sampingnya ke atas kepala, dan orang-orang lain turut memegang tangan satu sama lain, menciptakan suasana yang sangat bersatu.

Tetapi, hanya dua orang yang tidak saling memegang tangan.

CEO OpenAI dan CEO Anthropic, pemilik dua syarikat di belakang ChatGPT dan Claude, berdiri bersebelahan, masing-masing mengangkat satu tinju.

Tidak saling pegang tangan, tidak saling pandang, seperti dua orang musuh yang dipaksa duduk bersebelahan oleh guru.

Kedua syarikat ini telah bersaing sengit selama beberapa tahun terakhir; Claude dibangunkan oleh pasukan yang keluar dari OpenAI, dan kedua-duanya bersaing untuk menarik pengguna, pelanggan korporat, dan pendanaan. Pada masa Super Bowl tahun ini, Anthropic bahkan menghabiskan wang untuk membeli iklan yang mengolok-olok ChatGPT yang memasuki iklan.

Jadi, tidak berpegangan tangan, biasa.

Namun, hari ini mereka berpegangan tangan. Kerana Pentagon.

Perkara ini adalah seperti berikut.

Anthropic, syarikat di sebalik Claude, menandatangani kontrak dengan Jabatan Pertahanan Amerika pada tahun lepas bernilai sehingga US$200 juta. Claude adalah model AI pertama yang ditempatkan di rangkaian sulit Tentera Amerika, membantu dalam analisis intelijen dan perancangan misi.

Tetapi Anthropic menandai dua garis merah dalam kontrak:

Claude tidak boleh digunakan untuk memantau rakyat Amerika dalam skala besar, atau untuk senjata autonom yang tidak melibatkan manusia. (Rujukan: Anthropic 身份危机的七十二小时)

Namun, Pentagon tidak menerima.

Tuntutan mereka adalah empat perkataan: tanpa sekatan. Setelah membeli alat, anda sepatutnya boleh menggunakannya secara bebas, mengapa syarikat teknologi anda berani menentukan apa yang boleh atau tidak boleh dilakukan oleh angkatan tentera Amerika?

Selasa lepas, Menteri Pertahanan Hegseth memberi ultimatum langsung kepada CEO Anthropic: setuju sebelum pukul 5:01 petang Jumaat, atau tanggung akibatnya.

Anthropic tidak bersetuju.

CEO mereka mengeluarkan pernyataan umum yang menyatakan: Kami memahami pentingnya AI terhadap pertahanan Amerika, tetapi dalam beberapa kesempatan, AI dapat merugikan daripada mempertahankan nilai-nilai demokrasi. Kami tidak dapat menerima permintaan ini dengan hati nurani yang tenang.

Perwakilan rundingan Pentagon, Timbalan Menteri Pertahanan Emil Michael, kemudian memaki beliau di media sosial sebagai penipu, mengatakan beliau mempunyai kompleks Tuhan dan mengambil keselamatan negara sebagai permainan.

Kemudian, perkara yang tidak disangka berlaku.

Lebih daripada 400 pekerja OpenAI dan Google menandatangani surat terbuka bersama bertajuk "Kami Tidak Akan Dibahagikan".

Surat itu mengatakan bahawa Pentagun sedang berunding dengan setiap syarikat AI secara berasingan, cuba mendapatkan persetujuan syarikat-syarikat lain terhadap syarat-syarat yang tidak disetujui oleh Anthropic, serta memisahkan setiap syarikat dengan menggunakan rasa takut.

CEO OpenAI juga menghantar surat dalaman kepada semua pekerja, mengatakan bahawa OpenAI mempunyai garis merah yang sama dengan Anthropic:

Tidak melakukan pengawasan skala besar, tidak menghasilkan senjata pembunuh otonom.

Dua syarikat yang baru-baru ini enggan bekerjasama tiba-tiba berada di pihak yang sama kerana Pentagon.

Namun, persatuan ini mungkin hanya berlangsung beberapa jam.

Pada pukul 5:01 petang Jumaat, ultimatum Pentagon tamat tempoh. Anthropic tidak menandatangani.

Sebuah syarikat teknologi Amerika yang dinilai sebanyak US$380 bilion menolak Jabatan Pertahanan Amerika, walaupun menghadapi risiko kegagalan kontrak bernilai US$200 juta. Dulu, perkara seperti ini paling banyak berakhir dengan pembatalan kontrak dan menukar pembekal. Tetapi kali ini, tindakan Washington sama sekali bukan bersifat perniagaan.

Trump memposting di Truth Social kira-kira satu jam kemudian, memanggil Anthropic sebagai "gila kiri", mengatakan mereka cuba mengatasi perlembagaan dan menjadikan nyawa askar Amerika sebagai bahan ejekan.

Dia meminta semua agensi persekutuan segera menghentikan penggunaan teknologi Anthropic.

Seterusnya, Menteri Pertahanan Amerika Hegseth mengumumkan bahawa Anthropic diletakkan sebagai "risiko keselamatan rantaian bekalan". Label ini biasanya diberikan kepada syarikat seperti Huawei. Maksudnya jelas: semua kontraktor yang berurusan dengan tentera AS tidak boleh lagi menggunakan produk Anthropic.

Anthropic mengatakan mereka akan mengambil tindakan undang-undang.

Pada malam yang sama, OpenAI yang sebelumnya mengekalkan sikap yang sama pula telah menandatangani perjanjian dengan Pentagun.

What did OpenAI get?

Posisi yang ditinggalkan oleh Claude: Pemilik syarikat AI untuk rangkaian rahsia askar AS. Namun, OpenAI mengajukan tiga syarat kepada Pentagon: tidak melakukan pengawasan berskala besar, tidak menghasilkan senjata autonomi, dan keputusan berisiko tinggi mesti melibatkan manusia.

Pentagon mengatakan, setuju.

Anda tidak salah baca. Syarat yang tidak diterima oleh Anthropic selama beberapa minggu, apabila diajukan oleh syarikat lain, selesai dalam beberapa hari?

Of course, the two solutions are not exactly the same.

Anthropic menambahkan satu lapisan lagi: mereka percaya undang-undang semasa tidak mampu mengikuti kemampuan AI, contohnya AI boleh membeli secara sah, menggabungkan secara sah, data lokasi anda, sejarah pelayaran, dan maklumat media sosial anda, dan kesannya sama dengan pemantauan, tetapi setiap langkah tidak melanggar undang-undang.

Anthropic mengatakan bahawa menulis hanya "tidak memantau" empat perkataan itu tidak cukup, lubang keselamatan ini perlu ditutup. OpenAI tidak mengekalkan titik ini; mereka menerima pandangan Pentagon bahawa undang-undang semasa sudah mencukupi.

Tetapi jika anda menganggap ini hanya perbezaan syarat, ia terlalu naif. Perbincangan ini sejak awal lagi bukan sekadar membincangkan syarat.

David Sacks, penasihat AI Gedung Putih, telah lama mengkritik secara terbuka Anthropic kerana menghasilkan "AI woke" (mengutamakan ideologi dan kesesuaian politik); seorang pegawai kanan Pentagon telah memberitahu media bahawa masalah Dario adalah dipandu oleh ideologi, "Kami tahu siapa yang kami hadapi."

xAI milik Elon Musk, yang secara langsung menjadi pesaing Anthropic, telah menyerang Anthropic berulang kali di X minggu ini, mengatakan bahawa syarikat ini "benci tamadun Barat".

Namun, CEO Anthropic tidak hadir ke pelantikan Trump tahun lalu. CEO OpenAI hadir.

Jadi, mari kita ringkaskan apa yang berlaku.

Prinsip yang sama, garis merah yang sama, Anthropic kerana meminta satu lapisan perlindungan tambahan, berdiri di pihak yang salah, dan menunjukkan sikap yang salah, telah ditandai sebagai ancaman keselamatan nasional Amerika yang setaraf dengan Huawei.

OpenAI kurang satu lapisan, hubungan baik, dapat kontrak. Anda katakan ini kemenangan prinsip, atau penetapan harga prinsip?

Kontrak Pentagon telah dipboikot, dan ini bukan kali pertama.

Pada tahun 2018, lebih daripada 4,000 pekerja Google menandatangani petisyen, dan belasan orang mengundurkan diri untuk memprotes penyertaan syarikat dalam projek Pentagon bernama Project Maven. Projek itu menggunakan AI untuk menganalisis video yang diambil oleh pesawat tanpa awak, membantu tentera mengenal pasti sasaran dengan lebih pantas.

Google akhirnya keluar. Tidak memperbaharui kontrak dan pergi. Pekerja menang.

Telah lapan tahun berlalu, perdebatan yang sama kembali berlaku. Tetapi kali ini peraturannya berubah sepenuhnya. Sebuah syarikat Amerika mengatakan saya boleh melakukan perniagaan dengan tentera, tetapi ada dua perkara yang tidak boleh dilakukan. Respons kerajaan Amerika adalah mengeluarkannya daripada seluruh sistem persekutuan.

Dan label "risiko keselamatan rantaian bekalan" mempunyai kesan jauh melebihi kehilangan satu kontrak bernilai 200 juta dolar AS.

Pendapatan Anthropic pada tahun ini kira-kira sebanyak US$14 bilion, kontrak sebanyak US$200 juta tidak sampai setitik pun. Tetapi label ini bermaksud, sebarang syarikat yang berurusan dengan Tentera AS tidak boleh menggunakan Claude.

Syarikat-syarikat ini tidak perlu mengiktiraf posisi Pentagun; mereka hanya perlu melakukan penilaian risiko: terus menggunakan Claude, mungkin kehilangan kontrak kerajaan; menukar model lain, tiada masalah apa-apa.

Pilihan itu mudah. Itulah isyarat sebenar perkara ini.

Tidak penting sama ada Anthropic mampu menanggung atau tidak, yang penting ialah sama ada syarikat seterusnya berani menanggung atau tidak. Ia akan melihat keputusan ini, melihat kos mengekalkan prinsip, kemudian membuat keputusan yang sangat rasional.

Lihat semula gambar India itu, semua orang saling memegang tangan dan mengangkatnya ke atas kepala, hanya mereka berdua yang memegang tinju masing-masing.

Mungkin inilah keadaan biasa.

Prinsip syarikat AI boleh sama, tetapi tangan mungkin tidak boleh saling berpegangan.