Ryan Lopopolo daripada pasukan OpenAI Codex: “Agennya tidak sukar; perangkapnya yang sukar.” Berikut adalah komponen sebenar perangkap tersebut, dan mengapa permintaan hanyalah satu bahagian kecil darinya: → alat: kemampuan untuk bertindak secara sebenar pada sistem nyata, bukan sekadar menggambarkan tindakan → ingatan dan keadaan: kekal di antara langkah-langkah dan sesi, bukan menetapkan semula setiap kali dijalankan → sekatan: garis panduan deterministik yang menghalang tindakan berbahaya, bukan hanya meminta model dengan sopan untuk tidak mengambilnya → pengesahan: pemeriksaan berasingan yang menangkap kesilapan, kerana model tidak boleh menilai kerja mereka sendiri dengan boleh dipercayai → pengurusan: logik yang mengatur kesemua perkara dan memutuskan bila harus berhenti Bidang ini melalui tiga peringkat untuk sampai ke sini: rekabentuk permintaan pada 2023, rekabentuk konteks pada 2024–2025, dan rekabentuk perangkap sekarang. setiap lapisan bersarang di dalam yang sebelumnya, bukan menggantikannya. Satu permintaan adalah satu baris program. Perangkap adalah keseluruhan program. Tandakan supaya anda tidak kehilangannya! Ikuti @neil_xbt untuk lebih banyak kandungan AI!