Chamath Palihapitiya Memperingatkan Bahawa Penyaringan Prompt Anthropic Menimbulkan 'Risiko Bodoh' Bagi Perusahaan

iconCryptoBriefing
Kongsi
AI summary iconRingkasan

Chamath Palihapitiya mempunyai pesan untuk setiap syarikat yang mengalirkan alur kerja penting melalui Claude milik Anthropic: anda mungkin sedang membina di atas pasir gergasi.

Pengusaha modal ventura dan pendiri Social Capital menjelaskan argumennya dalam thread pada 10 Jun 2026 di X, mengkritik amalan Anthropic yang menilai permintaan pengguna berdasarkan piawaian keselamatan dan dasar dalaman sendiri sebelum memutuskan sama ada menghasilkan output. Beliau menyebutnya sebagai “risiko bodoh” untuk perusahaan, berhujah bahawa model yang menyimpan hak untuk menolak kerja secara langsung membawa masalah kebolehpercayaan yang tidak mampu ditanggung oleh kebanyakan perniagaan.

Iklan

Ini bukan teori abstrak. Kefrustrasan Palihapitiya berasal daripada eksperimen praktikal yang dijalankannya pada 16 Mei 2026, apabila dia memasukkan prompt penyaringan saham yang sama ke dalam empat model AI terkemuka: Claude, Grok, Gemini, dan ChatGPT. Tiga daripada empat mengembalikan hasil. Claude menolak.

Argumen utama Palihapitiya ialah bahawa falsafah reka bentuk Anthropic menghasilkan lebih banyak penolakan berbanding pesaingnya. Beliau menandakan dua bahaya khusus. Yang pertama ialah penguncian model, di mana syarikat-syarikat yang membina sistem yang terintegrasi dalam dengan Claude mendapati ia menjadi semakin mahal untuk menukar penyedia apabila kadar penolakan menjadi tidak boleh diterima. Yang kedua ialah kehilangan kawalan atas penghasilan output, di mana piawaian dalaman Anthropic, bukan keperluan pelanggan, akhirnya menentukan apa yang akan dan tidak akan dilakukan oleh model.

Penyelesaian yang dicadangkannya adalah pragmatik. Syarikat seharusnya sama ada melaksanakan apa yang dipanggilnya “bidang kawalan,” yang pada dasarnya adalah lapisan middleware yang boleh menghala arahan ke model alternatif apabila satu model menolak, atau mempertimbangkan untuk berpindah ke model AI sumber terbuka di mana organisasi itu sendiri menetapkan sempadan dasar.

Ini bukan kali pertama Palihapitiya mempertanyakan pendekatan Anthropic terhadap keselamatan. Pada April 2026, apabila Anthropic mengeluarkan amaran mengenai Claude Mythos Preview, beliau menolak komunikasi keselamatan syarikat itu sebagai “teater” dan “menjerit serigala.”

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.