OpenAI dan Anthropic Bergabung Melawan Pentagon Mengenai Etika AI

Penulis asli: Curry, DeepChao TechFlow

Beberapa hari yang lalu, ada sebuah foto yang sangat populer di internet.

India held an AI summit, with Prime Minister Modi on stage, flanked by a row of Silicon Valley executives. During the photo session, Modi raised the hand of the person next to him above his head, and others followed suit, holding hands in a show of unity.

Namun, hanya dua orang yang tidak saling memegang tangan.

CEO OpenAI dan CEO Anthropic, yaitu pemilik dua perusahaan di balik ChatGPT dan Claude, berdiri berdampingan, masing-masing mengangkat kepalan tangan.

Tidak saling memegang tangan, tidak saling menatap, seperti dua orang yang dipaksa duduk bersebelahan oleh guru.

Dalam beberapa tahun terakhir, kedua perusahaan ini saling bersaing sengit; Claude dibuat oleh tim yang keluar dari OpenAI, dan keduanya bersaing merebut pengguna, klien perusahaan, dan pendanaan. Selama Super Bowl tahun ini, Anthropic bahkan secara khusus menghabiskan uang untuk membeli iklan yang mengejek ChatGPT yang mulai menayangkan iklan.

Jadi tidak berpegangan tangan, wajar.

Namun, hari ini mereka berpegangan tangan. Karena Pentagon.

Hal ini seperti ini.

Anthropic, perusahaan di balik Claude, tahun lalu menandatangani kontrak dengan Departemen Pertahanan AS senilai hingga 200 juta dolar AS. Claude adalah model AI pertama yang diterapkan ke jaringan rahasia militer AS, membantu dalam analisis intelijen dan perencanaan misi.

Namun Anthropic menarik dua garis merah dalam kontrak:

Claude tidak dapat digunakan untuk memantau warga negara Amerika dalam skala besar, atau untuk senjata otonom tanpa partisipasi manusia. (Baca referensi: Anthropic Identity Crisis dalam 72 Jam)

Namun, Pentagon tidak menerima.

Permintaan mereka adalah empat kata: tanpa batas. Setelah membeli alat, seharusnya boleh digunakan sebebas-bebasnya, mengapa perusahaan teknologi Anda bisa memberi tahu militer Amerika apa yang boleh dan tidak boleh dilakukan?

Selasa lalu, Menteri Pertahanan Hegseth memberikan ultimatum langsung kepada CEO Anthropic: setujui sebelum pukul 17:01 Jumat, jika tidak, tanggung akibatnya.

Anthropic tidak menyetujui.

CEO mereka mengeluarkan pernyataan publik yang menyatakan: Kami sangat memahami pentingnya AI bagi pertahanan Amerika, tetapi dalam beberapa kasus, AI dapat merusak daripada mempertahankan nilai-nilai demokrasi. Kami tidak dapat menerima permintaan ini dengan hati nurani yang tenang.

Perwakilan negosiasi Pentagon, Wakil Menteri Pertahanan Emil Michael, kemudian memaki dia di media sosial sebagai penipu, mengatakan bahwa dia memiliki sikap seperti Tuhan dan mengolok-olok keamanan nasional.

Kemudian, hal yang tak terduga terjadi.

More than 400 employees from OpenAI and Google signed an open letter titled "We Will Not Be Divided."

Surat tersebut mengatakan bahwa Pentagon sedang bernegosiasi satu per satu dengan perusahaan AI untuk mendapatkan persetujuan dari pihak lain terhadap syarat-syarat yang tidak disetujui oleh Anthropic, memanfaatkan ketakutan untuk memecah belah setiap perusahaan.

CEO OpenAI juga mengirim surat internal kepada seluruh karyawan, mengatakan bahwa OpenAI memiliki garis merah yang sama dengan Anthropic:

Tidak melakukan pengawasan massal, tidak mengembangkan senjata otonom yang mematikan.

Dua perusahaan yang beberapa hari lalu enggan bekerja sama tiba-tiba berada di pihak yang sama karena Pentagon.

Namun, persatuan semacam ini mungkin hanya berlangsung beberapa jam.

Pukul 17:01 Jumat, ultimatum Pentagon berakhir. Anthropic tidak menandatangani.

Sebuah perusahaan teknologi AS bernilai $38 miliar menolak Departemen Pertahanan AS, menghadapi risiko pembatalan kontrak senilai $200 juta. Dulu, hal semacam ini paling-paling hanya berujung pada pemutusan kontrak dan pencarian pemasok baru. Tapi respons Washington kali ini sama sekali bukan bersifat bisnis.

Trump memposting di Truth Social sekitar satu jam kemudian, menyebut Anthropic sebagai "orang gila kiri", mengatakan mereka berusaha mengatasi konstitusi dan mengolok-olok nyawa tentara Amerika.

Dia meminta semua lembaga federal segera menghentikan penggunaan teknologi Anthropic.

Selanjutnya, Menteri Pertahanan AS Hegseth mengumumkan bahwa Anthropic diklasifikasikan sebagai "risiko keamanan rantai pasokan". Label ini biasanya diberikan kepada perusahaan seperti Huawei. Artinya jelas, semua kontraktor yang berbisnis dengan militer AS tidak lagi boleh menggunakan produk Anthropic.

Anthropic mengatakan akan mengajukan gugatan.

Sementara itu, pada malam yang sama, OpenAI yang sebelumnya tetap pada posisi yang sama justru menandatangani perjanjian dengan Pentagon.

Apa yang didapat OpenAI?

Posisi yang ditinggalkan setelah Claude dikeluarkan: pemasok AI untuk jaringan rahasia militer AS. Namun, OpenAI mengajukan tiga syarat kepada Pentagon: tidak melakukan pemantauan massal, tidak membuat senjata otonom, dan keputusan berisiko tinggi harus melibatkan manusia.

Pentagon mengatakan, oke.

Anda tidak salah dengar. Syarat yang selama berminggu-minggu tidak diterima oleh Anthropic, ketika diajukan oleh perusahaan lain, hanya butuh beberapa hari untuk disepakati?

Of course, the two solutions are not exactly the same.

Anthropic menambahkan satu lapisan lagi: mereka percaya hukum saat ini tidak mampu mengikuti kemampuan AI, misalnya AI dapat secara legal membeli, menggabungkan, dan mengumpulkan data lokasi Anda, riwayat penelusuran, dan informasi media sosial, sehingga hasilnya setara dengan pengawasan, tetapi setiap langkahnya tidak melanggar hukum.

Anthropic mengatakan bahwa hanya menulis "tidak memantau" empat kata tidak cukup, lubang ini harus ditutup. OpenAI tidak mempertahankan hal ini, mereka menerima pernyataan Pentagon bahwa hukum yang berlaku sudah cukup.

Tetapi jika Anda menganggap ini hanya perbedaan ketentuan, itu terlalu naif. Negosiasi ini sejak awal bukan hanya tentang ketentuan.

Kepala AI Gedung Putih, David Sacks, telah lama secara terbuka mengkritik Anthropic karena menciptakan "AI woke" (prioritas ideologis, memperjuangkan kebenaran politik); seorang pejabat tinggi Pentagon pernah mengatakan kepada media bahwa masalah Dario adalah didorong oleh ideologi, "Kami tahu siapa yang sedang kami hadapi."

xAI milik Elon Musk, yang secara langsung menjadi pesaing Anthropic, minggu ini secara berulang menyerang Anthropic di X, mengatakan perusahaan ini "benci peradaban Barat".

Namun, CEO Anthropic tidak hadir di pelantikan Trump tahun lalu. CEO OpenAI hadir.

Jadi mari kita rangkum apa yang terjadi.

Prinsip yang sama, garis merah yang sama, Anthropic karena menambahkan satu lapisan perlindungan tambahan, salah pihak, dan salah sikap, dianggap sebagai ancaman keamanan nasional Amerika setara dengan Huawei.

OpenAI melewatkan satu lapisan, hubungan baik, mendapatkan kontrak. Apakah ini kemenangan prinsip, atau harga prinsip?

Kontrak Pentagon telah dipboikot, dan sebenarnya ini bukan pertama kalinya.

Pada tahun 2018, lebih dari 4.000 karyawan Google menandatangani petisi, dan belasan orang mengundurkan diri untuk memprotes partisipasi perusahaan dalam proyek Pentagon yang disebut Project Maven. Proyek itu menggunakan AI untuk menganalisis video yang diambil oleh drone, membantu militer mengidentifikasi target lebih cepat.

Google akhirnya keluar. Tidak memperpanjang kontrak dan pergi. Karyawan menang.

Delapan tahun telah berlalu, dan kontroversi yang sama kembali muncul. Tetapi kali ini aturannya benar-benar berubah. Sebuah perusahaan Amerika mengatakan kepada saya bahwa saya bisa melakukan bisnis dengan militer, tetapi ada dua hal yang tidak boleh dilakukan. Tanggapan pemerintah Amerika adalah mengeluarkannya dari seluruh sistem federal.

Dan dampak dari label "risiko keamanan rantai pasokan" jauh lebih besar daripada hanya kehilangan satu kontrak senilai 200 juta dolar.

Pendapatan Anthropic tahun ini diperkirakan sekitar 14 miliar dolar AS, kontrak 200 juta tidak sampai sepeser pun. Namun, tag ini berarti perusahaan apa pun yang memiliki bisnis dengan militer AS tidak boleh menggunakan Claude.

Perusahaan-perusahaan ini tidak perlu mendukung posisi Pentagon, mereka hanya perlu melakukan penilaian risiko: melanjutkan penggunaan Claude, berisiko kehilangan kontrak pemerintah; beralih ke model lain, tidak ada masalah apa pun.

Pilihannya sangat mudah. Ini sebenarnya adalah sinyal sejati dari hal ini.

Apakah Anthropic mampu menahan atau tidak tidak penting, yang penting adalah apakah perusahaan berikutnya masih berani menahan. Ia akan melihat hasil ini, melihat biaya dari mempertahankan prinsip, lalu membuat keputusan yang sangat rasional.

Lihat kembali foto India itu, semua orang saling berpegangan tangan dan mengangkatnya di atas kepala, hanya mereka berdua yang masing-masing menggenggam tinju.

Mungkin ini adalah norma yang sebenarnya.

Prinsip perusahaan AI bisa sama, tapi tangan belum tentu bisa saling berpegangan.