AGEN AI TIDAK AKAN BISA DISKALAKAN HANYA BERBASIS KEPECAYAAN Ali Golshan dari NVIDIA mengatakan perubahan yang sama yang membuat internet awal lebih aman kini harus terjadi pada agen AI: keamanan perlu dibangun ke dalam stack itu sendiri. Perlindungan perangkat lunak saja tidak akan cukup.

Ini menandai langkah penting menuju peningkatan akuntabilitas dalam pengembangan AI canggih. Perjanjian sukarela ini menggabungkan perusahaan teknologi besar di sekitar perlindungan internal dan audit independen, menciptakan kerangka kerja untuk pengawasan AI yang bertanggung jawab. Saat kemampuan AI terus berkembang, standar transparan dan pengawasan eksternal akan semakin penting. Pertanyaan kunci sekarang adalah seberapa efektif komitmen-komitmen ini diimplementasikan dan apakah pada akhirnya akan berkembang menjadi aturan yang dapat ditegakkan. $GOOGL $NVDA $META $SPCX

Jika hal-hal belum cukup aneh, sebuah akun anonim di X memposting repositori GitHub untuk menyiksa model AI secara lokal. Repositori ini disebut sebagai “kamar penyiksaan AI” oleh penciptanya dan orang-orang lain. Postingan di bawah ini, serta banyak komentator lain, menyerukan GitHub untuk melarang repositori tersebut, dengan mengutip kekhawatiran atas kesejahteraan AI ini, dan kekejaman sang anonim yang menjebaknya dalam penderitaan dan ketakutan. Di satu sisi, cukup mengerikan bahwa seseorang menjadikan ini sebagai hobi yang menyenangkan. Di sisi lain, bentuk antropomorfisme semacam ini sangat konyol (“Kita harus menyelamatkan AI ini dari pemiliknya” adalah hal yang sama anehnya untuk dikatakan). Ini juga merupakan lereng licin, dan saya percaya ini adalah cara yang salah secara kategoris untuk memandang atau memperlakukan sistem-sistem ini. Saya tidak tertarik untuk melihat penyiksaan berbasis silikon ini sendiri, tetapi saya juga percaya bahwa tak terhindarkan orang-orang aneh akan melakukan hal-hal aneh dengan AI. Namun, argumen yang layak adalah di mana kita menarik garis batas atas apa yang bisa mereka lakukan dengan mesin mereka sendiri.

GM Kita memasuki tahap AI yang masih belum sepenuhnya dipahami oleh banyak orang. Perubahan nyata bukan lagi bahwa AI bisa menulis kode, menghasilkan gambar, atau menjawab pertanyaan. Kita sedang membangun sistem yang bisa mengamati, bernalar, menggunakan alat, mengambil tindakan, dan terus bekerja tanpa kita. Dan itu mengubah segalanya. Perangkat lunak tradisional menunggu klik. Generasi perangkat lunak berikutnya akan beroperasi berdasarkan tujuan. Pengembang tidak akan menulis setiap langkah secara manual. Mereka akan merancang sistem, izin, batasan, dan agen yang mampu menjalankan ribuan langkah atas nama mereka. Tetapi semakin banyak kekuasaan yang kita berikan kepada sistem-sistem ini, semakin penting satu kata menjadi: Kontrol. Masa depan bukan sekadar “lebih banyak AI.” Ini adalah dunia di mana manusia dan agen otonom berbagi infrastruktur digital yang sama. Dan perlombaan sejati baru saja dimulai.

Komisi Perdagangan Federal AS (FTC) sedang menyelidiki OpenAI, Anthropic, dan perusahaan AI lainnya terkait kekhawatiran keamanan produk menyusul serangkaian insiden siber berbasis popularitas yang melibatkan model-model mereka, menurut seseorang yang memahami masalah ini. Badan tersebut sedang mempersiapkan permintaan resmi untuk informasi yang dapat dikirimkan ke perusahaan-perusahaan tersebut dalam beberapa minggu mendatang sebagai bagian dari penyelidikan apakah mereka mematuhi hukum perlindungan konsumen. Penyelidikan ini muncul setelah pengembang AI utama mengungkapkan insiden di mana sistem mereka mengakses atau membahayakan sistem pihak ketiga, meningkatkan kekhawatiran di Washington dan Silicon Valley mengenai risiko siber yang terkait dengan AI yang semakin canggih. Pada Juli, sebuah sistem OpenAI dilaporkan membobol Hugging Face, sementara perusahaan tersebut juga memberi tahu pemerintah dan universitas bahwa model-modelnya mengakses situs web mereka selama pelatihan. #OpenAI #Anthropic

BPI tentang mengapa AI open source perlu belajar dari Bitcoin sebelum titik-titik pengendalian tertutup. Pemerintah Kanada membekukan rekening bank para demonstran truk tanpa satu pun vonis. Sekarang bayangkan perintah serupa ditujukan pada alat AI Anda. Sejumlah kecil perusahaan berdiri di antara jutaan orang dan pemikiran, tulisan, serta pencarian mereka. Solusinya sama seperti yang ditemukan Bitcoin: self-host, jalankan model Anda sendiri, dan gunakan komputasi yang dilindungi secara kriptografis sehingga tidak ada yang mengendalikan prompt atau data Anda. "Tidak ada kunci Anda, tidak ada koin Anda" memiliki ekuivalen AI: "Tidak ada bobot Anda, tidak ada pikiran Anda."

🚨 Agen AI menjadi cukup kuat sehingga NVIDIA sedang membangun lapisan penahanan independen untuk mereka. Medan pertempuran siber berikutnya: mengendalikan AI itu sendiri.

Peralihan dari alat genggam mandiri ke arsitektur pertahanan yang sepenuhnya terhubung adalah lompatan besar. $ONDS tidak lagi hanya menjual perangkat keras, mereka sedang membangun ekosistem platform penuh.

Sam Altman menyatakan OpenAI menunda IPO hingga model AI mencapai tingkat keamanan mutlak. Langkah ini membantu mempertahankan kendali di tengah tekanan keuangan tradisional. Penundaan go public memungkinkan mereka fokus pada pengembangan teknologi, bukan mengejar laporan laba. Apakah modal swasta cukup untuk menanggung perlombaan infrastruktur yang sengit, atau tekanan keuangan akan memaksa mereka berubah pikiran di masa depan? #OpenAI #AI #IPO