Sistem AI yang sama yang dapat merancang obat-obatan penyelamat nyawa secara teori juga dapat merancang sebaliknya. Anthropic, OpenAI, dan Google DeepMind memutuskan untuk mengambil langkah terlebih dahulu mengatasi masalah ini sebelum menjadi krisis.
Tiga laboratorium AI dominan sedang meluncurkan serangkaian langkah keamanan yang menargetkan aplikasi biologis dari model mereka, mulai dari penemuan obat dan penelitian penyakit hingga kesiapsiagaan pandemi. Upaya terkoordinasi ini mencakup klasifier konten real-time, program akses peneliti yang telah diverifikasi, dan pengujian red teaming yang ekstensif, semuanya dirancang untuk memungkinkan ilmu pengetahuan yang baik masuk sambil menutup rapat pintu bagi penelitian senjata biologis.
Surat publik dan garis batas
Pada Juni 2026, para CEO ketiga perusahaan menandatangani surat publik yang ditujukan kepada para anggota legislatif AS. Pesannya tegas: penyedia DNA dan RNA sintetis memerlukan persyaratan pemeriksaan wajib dan pencatatan rekam jejak, karena AI membuatnya jauh lebih mudah untuk merancang agen biologis berbahaya.
Google DeepMind bergerak lebih dulu dalam sebuah program konkret. Pada 16 Juli, perusahaan tersebut mengumumkan inisiatif bioresiliensinya, yang menggabungkan peneliti terpercaya dengan mesin desain obat yang dapat dikerahkan dengan cepat. Pendekatan DeepMind sangat bergantung pada anak perusahaannya, Isomorphic Labs, yang telah membangun sistem AI khusus untuk penemuan obat. Program bioresiliensinya memperluas pekerjaan tersebut ke wilayah pertahanan, berfokus pada melawan ancaman biologis daripada sekadar menemukan obat baru.
Pertimbangan Anthropic
Anthropic, untuk bagian mereka, telah berjuang dengan salah satu masalah paling rumit dalam keamanan AI: cara menghentikan pertanyaan berbahaya tanpa memblokir ilmu pengetahuan yang sah. Pada Agustus 2026, perusahaan tersebut mengumumkan telah mengurangi blokir false-positive pada pertanyaan biologi yang tidak berbahaya sekitar 85%.
Namun Anthropic tidak melonggarkan semuanya. Alur kerja profesional yang terkait dengan pengembangan obat masih menghadapi pembatasan yang lebih ketat, mencerminkan penilaian perusahaan bahwa pertanyaan biologis paling canggih membawa risiko penggunaan ganda tertinggi.
Kalibrasi ini berada di jantung Kebijakan Penskalaan Bertanggung Jawab Anthropic, sebuah kerangka yang sedang dikembangkan perusahaan untuk mengatur bagaimana model-modelnya berinteraksi dengan domain-domain sensitif. Kebijakan ini menetapkan persyaratan keamanan yang meningkat seiring dengan meningkatnya kemampuan model, dengan ambang batas CBRN (kimia, biologis, radiologis, nuklir) berfungsi sebagai garis keras yang memicu tinjauan tambahan.
OpenAI telah mengambil jalur paralel dengan Kerangka Kesiapsiagaan-nya, yang diluncurkan pada 2025. Kerangka tersebut mencakup inisiatif biodefense dan alat prediksi keberhasilan obat, pada dasarnya berusaha membuat AI bermanfaat untuk pengembangan farmasi sambil tetap mempertahankan pengaman terhadap penyalahgunaan.