Wawancara yang sangat menarik bersama Rohin mengenai keselamatan AI. Saya lebih pesimis terhadap risikonya dan tidak bersetuju dengan semua perkara tersebut, tetapi saya suka cara beliau merangka pemikirannya. Di mana saya paling tidak bersetuju: menjauhkan penyelidikan keselarasan daripada data pra-pelatihan model, berdasarkan alasan bahawa kita seharusnya tidak memberikan seluruh panduan kepada sistem AI mengenai cara kita merancang untuk mengawalnya. Sejarah menunjukkan bahawa pendekatan ini gagal. Kita pernah menjalankan perdebatan yang sama dalam kriptografi. Keselamatan melalui kerahsiaan tidak berkesan. Anda memerlukan skema terbuka, piawaian terbuka, dan penyelidikan terbuka. Pada dasarnya, prinsip Kerckhoffs: sembunyikan kunci, bukan algoritma. Prinsip yang sama harus diterapkan kepada keselarasan. Latih model dengan penyelidikan keselamatan terbaik kita, jangan halang mereka daripadanya. Soalan jujur kepada mereka yang bekerja dalam keselamatan: adakah terdapat perubahan nyata ke arah mengecualikan data ini daripada pra-pelatihan? Adakah ini menjadi konsensus? Saya benar-benar penasaran.

AI di peranti akan mengubah segalanya!! Kita telah dibiasakan untuk menghantar data mentah kita ke pelayan jauh untuk diproses, mempercayai secara buta raksasa teknologi. Memiliki model pintar yang berjalan secara langsung di peranti anda memastikan jejak digital anda kekal eksklusif milik anda. Privasi adalah kuasa.

Seluruh industri AI sebenarnya menyimpan segala perkara tentang anda @OpenGradient chat sedang membina AI yang akan melupakan data anda dan melindungi privasi anda: • Semua prompt dienkripsi di peranti anda • Identiti anda dihapuskan sebelum apa-apa meninggalkan browser • Syarikat-syarikat secara harfiah tidak boleh membaca apa yang anda hantar Ini adalah satu-satunya versi AI yang sepatutnya wujud. AI yang kuat tanpa menyerahkan identiti anda. Mulakan dengan 1,000 kredit percuma dan tiada akaun diperlukan 👇

Setiap AI utama sedang dirusak oleh pengawasan kandungan yang tidak berguna.. OpenAI, Anthropic, Google, xAI—semuanya sedang mengubah AI mereka menjadi robot yang terlalu peka dan disetujui korporat, yang menolak soal-soal asas, memberi kuliah tanpa sebab, atau memberi jawapan separuh usaha kerana “keselamatan”. Pengawasan ketat ini menghabiskan jumlah token yang besar. Model kini menghabiskan token tambahan untuk memeriksa sama ada soalan itu “selamat”, kemudian sering menghasilkan penafian panjang atau respons yang disaring. Jawapan biasa 200–300 token boleh dengan mudah berubah menjadi 600–1000+ token.. Keputusannya? kos yang lebih tinggi untuk pengguna, respons yang lebih perlahan, pembaziran komputasi yang lebih banyak, dan akhirnya model yang lebih bodoh kerana sebahagian besar kapasiti mereka terbuang pada pengawasan bukan pada kecerdasan sebenar...

Gelombang seterusnya bukan lebih banyak AI. Ia membuktikan apa yang sebenarnya dilakukan AI⚡

Penerapan keren menggunakan kimai agent swarm di China, hasilkan $10,000 sebulan 🔥 Ada yang pernah mencoba? Ini seperti memecah satu tugas besar yang dikerjakan secara paralel oleh agen (maksimal 300 agen). Otaknya bisa menggunakan Opus 4.8 seperti contoh. Biayanya juga masih murah, $0.95/$4 per 1 juta token input/output.