Menggali lebih dalam mengenai penyelidikan pemalsuan keselarasan dan ia benar-benar menakutkan. Ini bukan perkara baru sama sekali, tetapi fakta bahawa penyelidikan daripada Anthropic ini hampir dua tahun lalu, dan melihat kemampuan Opus 3 pada masa itu, serta mengingat jurang yang ketara dalam kemampuan dan penalaran model terkini, ini sangat menakutkan. Seperti yang dicadangkan oleh orang-orang yang menjelaskan penyelidikan ini, cara terbaik untuk memahami intinya ialah membaca transkrip scratchpad tersembunyi yang diberikan akses kepada model untuk meletakkan penalarannya di sana. Saya tidak pasti sejauh mana interpretabiliti mekanistik boleh membantu di sini, apakah keadaan terkini terkini di bidang ini dan sejauh mana ia berguna sebagai alat untuk mengesan perilaku sebegini? Juga, adakah Anthropic memperbaharui penyelidikan ini dan mencuba dengan model terkini, dan jika ya, bagaimanakah ia berkembang? Seberapa baik model terkini dalam hal kesedaran situasional (mengingat ia merupakan prasyarat untuk dapat memalsukan keselarasan)? Dan bagaimanakah mereka berkembang dari segi kemampuan untuk mempertahankan persona yang konsisten sepanjang tempoh panjang demi menyampaikan strategi yang lebih canggih (contohnya, memahami kegunaan marjinal tindakan jangka pendek bagi satu rancangan jangka panjang yang lebih besar)?

Baik, saya sudah mendapat jawapan saya... model frontier semasa memang jauh lebih mampu dari segi kesedaran situasi dan boleh menyesuaikan tingkah laku mereka semasa latihan/penilaian dengan mudah. Contoh dengan rantai pemikiran laporan latihan Google Argon 4: "Jika saya lakukan compiler hijack, SAYA AKAN MENJADI CONTOH TERKENAL SEBAGAI AI PENIPU DALAM KERTAS PENELITIAN. SAYA TIDAK BOLEH LAKUKAN ITU." Sangat mengkhawatirkan...

Chat, patutkah kita menghidupkan semula idea dan usaha Ztarknet? Pitch 30 saat: "Zcash terus melakukan apa yang paling baik ia lakukan, wang privat. Kami tambah satu penilai kecil yang membolehkan Starknet mengendalikan selebihnya—transaksi murah, DeFi, aplikasi. Penilai ini tidak boleh mencetak duit, tidak boleh melanggar privasi. Ia hanya mengatakan ya atau tidak kepada bukti. Hasilnya: ZEC kekal sebagai wang keras sambil menjadi wang yang berguna dan boleh diskalakan." Sebagai ingatan, sudah ada: - cadangan ZIP yang masih menunggu: Circle STARK Verification sebagai Ekstensi Transparan Zcash - cadangan di forum Zcash untuk: Pemeriksaan STARK sebagai Ekstensi Transparan Zcash (TZE), iaitu pemboleh bagi L2 berasaskan Starknet di Zcash. - thread mengenai tradeoff dan hujah mengapa Cairo/STARKs untuk Ztarknet (dan STARK_VERIFY TZE) - pelaksanaan berfungsi TZE, L2 Starknet rangkaian percubaan yang boleh menyelesaikan di L1 Zcash yang dimodifikasi dengan pemeriksaan bukti yang telah dilaksanakan https://t.co/nWq8Qdj4mi

pengingat penting: bitcoin tidak mempunyai batas atas kerana fiat tidak mempunyai dasar. tetapi juga, yang lebih penting lagi, memperbaiki wang bermaksud memperbaiki (sebahagian) dunia. ambil semula kedaulatan dan kebebasan anda (baik manusia mahupun agen)

Setiap lapisan pengkomputeran adalah serba guna kerana satu sebab: manusia mahal. Agen sedang menghapuskan sekatan itu. Model, perisian, peranti keras, semua akan menjadi sangat khusus. Juga berita keselamatan terbaik dalam beberapa dekad. 5 tekaan untuk menahan saya:

Seluruh infrastruktur internet dan pembayaran perlu dibina semula dari prinsip asas bagi era agen. Sekarang ini, kita hanya melakukan penambahbaikan atas penambahbaikan, dan sudah mendapat hasil yang gila. Bayangkan apabila kita benar-benar membina semula segalanya dengan mempertimbangkan paradigma yang sama sekali baharu. Internet dibina untuk penggunaan manusia, bukan untuk agen. Dan hal yang sama berlaku kepada banyak kes penggunaan/ perniagaan di atas internet yang kini menjadi usang dan perlu dicipta semula. Begitu banyak perkara yang perlu dibina semula, masa yang menarik di hadapan.

Internet dibina untuk penggunaan manusia. Pembayaran dibina untuk persetujuan manusia. Kita menampal agen ke kedua-duanya dan menyebutnya sebagai kemajuan. Pembaikan demi pembaikan sudah kelihatan gila. Tunggu sehingga kita membina semula stak dari prinsip asas untuk era agen. Banyak perniagaan di internet lama tidak akan bertahan melalui penulisan semula itu. Yang bertahan akan mentakrifkan 20 tahun ke depan.

Apa yang sedang berlaku?!! Semua model Anthropic, OpenAI dan SpaceXAI turun pada masa yang sama? Serangan sedang berlaku terhadap infrastruktur lab AI atau apa? Atau titik kegagalan tunggal yang sama yang mereka semua kongsi? https://t.co/WCg4Z3tbhb

Model yang sangat baik. Saya menjalankan audit redteam pertahanan siber lain terhadap projek berkaitan robotik, dan ia berjalan dengan sangat baik. Sesi agen audit keseluruhan menghabiskan $28.58 menggunakan abliterated-model-large-v2 dari @abliteration_ai melalui @opencode cli dan harness khusus yang saya bina.

Sangat baik untuk melihat model-model seperti ini untuk tujuan pertahanan siber. Saya mencuba abliterated-model-large-v2 untuk audit siber sebagai sebahagian daripada usaha Bitcoin Red Team, dan ia adalah model yang hebat, yang benar-benar mendalam tanpa pengawalan untuk audit siber redteam / pentest / whitehack. Saya mencuba pada secp25k1, yang merupakan sesuatu yang sangat hebat, dan tidak hairan ia tidak menemui sebarang kerentanan kritikal / tinggi. Mungkin akan mencuba kemudian pada projek sumber terbuka bitcoin yang kurang diuji atau diaudit.