Microsoft menerbitkan Laporan Transparansi AI yang Bertanggung Jawab tahunan ketiganya pada 1 September 2026, yang menguraikan serangkaian pembaruan luas mengenai cara perusahaan mengelola, mengevaluasi, dan mengawasi sistem AI-nya. Tema utama tahun ini: AI agen, kelas sistem yang dapat mengingat konteks, membuat keputusan otonom, dan menjalankan tugas multi-langkah tanpa kehadiran manusia di depan keyboard.
Apa sebenarnya yang ada dalam laporan tersebut
Microsoft mengidentifikasi tiga bidang investasi inti selama tahun lalu. Pertama, tata kelola adaptif dan manajemen risiko teknis. Kedua, alat dan kemampuan praktis untuk pengawasan AI. Ketiga, praktik kolaboratif dengan mitra eksternal.
Di sisi tata kelola, perusahaan mendesain ulang Standar AI yang Bertanggung Jawab. Alih-alih mengelompokkan panduan risiko berdasarkan kasus penggunaan atau lini produk, kerangka baru ini disusun berdasarkan tumpukan teknologi AI itu sendiri: model, layanan platform, dan aplikasi.
Lima tren mendorong pembaruan ini, menurut Microsoft. Adopsi cepat AI oleh perusahaan. Perluasan kemampuan generatif dan agen. Pertumbuhan penggunaan AI percakapan. Meningkatnya potensi penyalahgunaan. Dan lingkungan regulasi yang berubah begitu cepat hingga membuat tim kepatuhan pusing.
Angka pelatihan tersebut signifikan. Microsoft mengatakan telah melatih hampir 20.000 insinyur, pembuat kebijakan, dan pelanggan mengenai topik AI yang bertanggung jawab.
Alat baru dan kemitraan tim merah
Microsoft memperluas toolkit-nya untuk pengawasan AI dengan cara yang terasa sangat khas tahun 2026. Perusahaan tersebut memperkenalkan AI Red Teaming Agent, yang persis seperti namanya: sistem AI yang dirancang untuk menguji sistem AI lain demi menemukan kerentanan.
Di luar alat internal, Microsoft membentuk Aliansi External Red Team yang menggabungkan 18 universitas dari enam benua.
Di bidang sertifikasi, Microsoft kini memegang sertifikasi ISO 42001 untuk beberapa produk unggulan, termasuk Microsoft 365 Copilot, Foundry, dan GitHub Copilot. ISO 42001 adalah standar internasional untuk sistem manajemen AI.
Tantangan AI agen
Penekanan laporan tersebut pada AI agen mencerminkan evaluasi luas di industri ini. AI agen yang dapat menjelajahi web, menulis dan menjalankan kode, mengirim email, dan mengelola alur kerja memperkenalkan mode kegagalan yang tidak ada pada chatbot. Jika agen salah menafsirkan tujuan, ia tidak hanya menghasilkan paragraf yang buruk. Ia mungkin mengambil serangkaian tindakan dunia nyata yang memperburuk kesalahan sebelum siapa pun menyadarinya.
Respons Microsoft adalah membangun mekanisme pengawasan yang dirancang khusus untuk kelas sistem ini. Standar AI yang Bertanggung Jawab yang didesain ulang berusaha mengatasi risiko di setiap lapisan stack, mengakui bahwa kerentanan di lapisan model menciptakan masalah yang berbeda dibandingkan dengan yang ada di lapisan aplikasi.
Apa artinya ini bagi industri
Laporan tersebut tidak berisi pengumuman yang memengaruhi pasar, tidak ada peluncuran produk baru, dan tidak ada metrik keuangan yang terkait dengan pengeluaran AI yang bertanggung jawab. Microsoft menggambarkan seluruh upaya ini sebagai latihan membangun kepercayaan.
Sertifikasi ISO 42001 pada Microsoft 365 Copilot memberi pembeli perusahaan satu hal lagi yang tidak perlu dikhawatirkan saat membenarkan pembelian kepada tim hukum dan kepatuhan mereka sendiri.