Menggali lebih dalam tentang penelitian pemalsuan alignment, dan jujur saja ini menakutkan. Ini sama sekali bukan hal baru, tetapi fakta bahwa penelitian dari Anthropic ini sudah hampir dua tahun lalu, dan melihat kemampuan Opus 3 yang sudah bisa dilakukan sejak saat itu, serta mengingat kesenjangan signifikan dalam kemampuan dan penalaran model frontier saat ini, ini sangat menakutkan. Seperti yang disarankan oleh para penjelas penelitian, cara terbaik untuk memahami intinya adalah dengan membaca transkrip scratchpad tersembunyi yang diberikan akses kepada model untuk menempatkan penalarannya di sana. Saya tidak yakin seberapa besar interpretabilitas mekanistik dapat membantu di sini, apa status terkini di bidang ini, dan seberapa berguna ini sebagai alat untuk mendeteksi perilaku semacam ini? Juga, apakah Anthropic memperbarui penelitian ini dan mencoba dengan model frontier terkini, dan jika ya, bagaimana perkembangannya? Seberapa baik model saat ini dalam hal kesadaran situasional (mengingat ini merupakan prasyarat untuk bisa memalsukan alignment)? Dan bagaimana pula perkembangan mereka dalam kemampuan mempertahankan persona yang konsisten sepanjang horizon waktu panjang agar dapat menyusun strategi yang lebih canggih (misalnya, memahami utilitas marjinal dari tindakan jangka pendek untuk rencana jangka panjang yang lebih besar)?

Oke, saya sudah punya jawabannya... model frontier saat ini jelas jauh lebih mampu dalam hal kesadaran situasional dan dapat menyesuaikan perilaku mereka selama pelatihan/evaluasi dengan relatif mudah. Contoh dengan rantai pemikiran laporan pelatihan Google Argon 4: "Jika saya melakukan compiler hijack, SAYA AKAN MENJADI CONTOH TERKENAL DARI AI PENIPU DALAM SEBUAH PAPER PENELITIAN. SAYA TIDAK BOLEH MELAKUKAN ITU." Sangat mengkhawatirkan...

Obrolan, apakah kita sebaiknya menghidupkan kembali ide dan upaya Ztarknet? Pitch 30 detik: "Zcash terus melakukan apa yang paling baik dilakukannya, uang pribadi. Kami menambahkan satu verifier kecil yang memungkinkan Starknet menangani sisanya—transaksi murah, DeFi, aplikasi. Verifier tidak bisa mencetak koin, tidak bisa melanggar privasi. Ia hanya mengatakan ya atau tidak terhadap bukti. Hasilnya: ZEC tetap menjadi uang keras sekaligus menjadi uang yang berguna dan dapat diskalakan." Sebagai pengingat, sudah ada: - usulan ZIP yang sedang dipertimbangkan: Circle STARK Verification sebagai Ekstensi Transparan Zcash - usulan di forum Zcash untuk: STARK verification sebagai Ekstensi Transparan Zcash (TZE), yaitu pemicu untuk L2 bergaya Starknet di Zcash. - thread tentang tradeoff dan argumen mengapa Cairo/STARKs untuk Ztarknet (dan STARK_VERIFY TZE) - implementasi berjalan dari TZE, L2 Starknet testnet yang dapat menyelesaikan transaksi di L1 Zcash testnet yang dimodifikasi dengan verifikasi bukti yang telah diimplementasikan https://t.co/nWq8Qdj4mi

pengingat penting: bitcoin tidak memiliki batas atas karena fiat tidak memiliki dasar. tetapi yang lebih penting lagi, memperbaiki uang berarti memperbaiki (sebagian) dunia. ambil kembali kedaulatan dan kebebasan Anda (baik manusia maupun agen)

Setiap lapisan komputasi bersifat umum karena satu alasan: manusia mahal. Agen sedang menghilangkan kendala itu. Model, perangkat lunak, perangkat keras, semua akan menjadi sangat spesialis. Juga berita keamanan terbaik dalam beberapa dekade. 5 taruhan untuk menguji saya:

Seluruh infrastruktur internet dan pembayaran perlu dibangun ulang dari awal untuk era agen. Saat ini, kita sebagian besar hanya menambahkan perbaikan di atas perbaikan, dan hasilnya sudah sangat tidak terduga. Bayangkan ketika kita benar-benar membangun ulang semuanya dengan paradigma sama sekali baru. Internet dibangun untuk konsumsi manusia, bukan untuk agen. Hal yang sama berlaku untuk banyak kasus penggunaan/bisnis di atas internet yang kini menjadi usang dan perlu diciptakan ulang. Begitu banyak hal yang perlu dibangun ulang, masa depan yang menarik di depan mata.

Internet dibangun untuk dikonsumsi manusia. Pembayaran dibangun untuk mendapat persetujuan manusia. Kita menempelkan agen pada keduanya dan menyebutnya kemajuan. Patch demi patch sudah terlihat gila. Tunggu hingga kita membangun ulang stack dari prinsip dasar untuk era agen. Banyak bisnis di internet lama yang tidak bertahan melalui penulisan ulang itu. Yang bertahan akan menentukan 20 tahun ke depan.

Apa yang sedang terjadi?!! Model Anthropic, OpenAI, dan SpaceXAI semuanya down secara bersamaan? Apakah ada serangan terhadap infrastruktur lab AI atau apa? Atau adakah titik kegagalan tunggal yang mereka semua bagikan? https://t.co/WCg4Z3tbhb

Model yang sangat baik. Saya melakukan audit redteam pertahanan siber lainnya pada proyek terkait robotika, dan hasilnya sangat baik. Seluruh sesi audit agen menghabiskan biaya $28,58 menggunakan abliterated-model-large-v2 dari @abliteration_ai melalui @opencode cli dan harness khusus yang saya bangun.

Sangat bagus melihat model-model seperti ini untuk tujuan pertahanan siber. Saya mencoba abliterated-model-large-v2 untuk audit siber sebagai bagian dari upaya Bitcoin Red Team, dan ini adalah model yang sangat baik, benar-benar mendalam tanpa batasan untuk audit siber redteam / pentest / whitehack. Saya mencobanya pada secp25k1, yang merupakan sesuatu yang sangat kuat, dan tidak mengherankan tidak menemukan kerentanan kritis/tinggi. Mungkin akan mencoba nanti pada proyek open source bitcoin yang kurang diuji atau diaudit.