Wawancara yang sangat menarik dengan Rohin tentang keselamatan AI. Saya lebih pesimis terhadap risikonya dan tidak setuju dengan semua halnya, tetapi saya suka cara ia merumuskan pemikirannya. Di mana saya paling tidak setuju: menjaga penelitian alignment keluar dari data pretraining model, dengan alasan kita sebaiknya tidak memberikan AI sistem penuh cara kita berencana mengendalikannya. Sejarah menunjukkan hal ini gagal. Kita sudah pernah menjalani debat yang sama di bidang kriptografi. Keamanan melalui kerahasiaan tidak berfungsi. Anda membutuhkan skema terbuka, standar terbuka, penelitian terbuka. Pada dasarnya prinsip Kerckhoffs: sembunyikan kuncinya, bukan algoritmanya. Prinsip yang sama seharusnya berlaku untuk alignment. Latih model dengan penelitian keselamatan terbaik kita, jangan jauhkan mereka darinya. Pertanyaan jujur untuk orang-orang yang bekerja di bidang keselamatan: apakah ada pergeseran nyata menuju pengecualian data ini dari pretraining? Apakah ini menjadi konsensus? Saya benar-benar penasaran.

AI di perangkat akan mengubah segalanya!! Kita telah dibiasakan untuk mengirim data mentah ke server jarak jauh untuk diproses, percaya begitu saja pada raksasa teknologi. Memiliki model cerdas yang berjalan langsung di perangkat Anda memastikan jejak digital Anda tetap menjadi milik Anda sendiri. Privasi adalah kekuatan.

Seluruh industri AI benar-benar menyimpan segala sesuatu tentang Anda @OpenGradient chat sedang membangun AI yang akan melupakan data Anda dan melindungi privasi Anda: • Semua permintaan dienkripsi di perangkat Anda • Identitas Anda dihapus sebelum apa pun keluar dari browser • Perusahaan benar-benar tidak bisa membaca apa yang Anda kirim Ini adalah satu-satunya versi AI yang seharusnya ada. AI yang kuat tanpa harus menyerahkan identitas Anda. Mulai dengan 1.000 kredit gratis dan tanpa memerlukan akun 👇

Setiap AI utama sedang rusak karena moderasi konten yang tidak berguna.. OpenAI, Anthropic, Google, xAI—semuanya mengubah AI mereka menjadi robot yang terlalu sensitif dan disetujui perusahaan, yang menolak pertanyaan dasar, memberi kuliah tanpa alasan, atau memberikan jawaban setengah hati karena alasan "keamanan". Moderasi berat ini membuang sejumlah besar token. Model sekarang menghabiskan token ekstra terlebih dahulu untuk memeriksa apakah permintaan itu "aman", lalu sering menghasilkan pernyataan penyangkal panjang atau respons yang disaring. Jawaban normal 200–300 token bisa dengan mudah berubah menjadi 600–1000+ token.. Hasilnya? Biaya lebih tinggi bagi pengguna, respons lebih lambat, pemborosan komputasi lebih banyak, dan pada akhirnya model yang lebih bodoh karena sebagian besar kapasitas mereka terbuang untuk moderasi alih-alih kecerdasan sejati...

Gelombang berikutnya bukanlah AI yang lebih banyak. Tapi membuktikan apa yang sebenarnya dilakukan AI⚡

Implementasi keren menggunakan Kimi Agent Swarm di Tiongkok, menghasilkan $10.000 per bulan 🔥 Ada yang sudah mencoba? Ini seperti memecah satu tugas besar yang dikerjakan secara paralel oleh agen (maksimal 300 agen). Otaknya bisa menggunakan Opus 4.8 seperti pada contoh. Biayanya juga masih murah, $0,95/$4 per 1 juta token input/output.