كما توقّع، تحتاج الذكاء الاصطناعي إلى التشفير للتحقق. وفي بيئة متعددة المستأجرين مع سحابات مستضافة وراوترات نماذج، يزداد هذا الحاجة. يحتاج الناس إلى التحقق من أنهم يحصلون على النموذج الذي يدفعون مقابلة، وإثبات الجهات التنظيمية أي نموذج/أوزان يستخدمون، مع تصاعد هذه النماذج كأساس للسلامة وسير العمل المؤسسي في الصناعات الخاضعة للتنظيم. كان استخدام إثباتات المعرفة الصفرية (ZKP) دائمًا مدرجًا كحل تكميلي للذكاء الاصطناعي عندما تتطلب الخدمة ثقة طرف ثالث في الصندوق الأسود للذكاء الاصطناعي. لكن لاحظ أن حاجة Anthropic لإثبات الاستنتاج تختلف عن استخدام التشفير لـ ZKP. فالمشاريع الأصلية للتشفير مُحسّنة للتحقق المنخفض التكلفة على السلسلة، لذا أرادوا إثباتات صغيرة وقبلوا مُثبتات بطيئة. أما Anthropic فحسّنت لأجل مدققين وجهات تنظيمية خارج السلسلة، فقبلت إثباتات بحجم 19 ميغابايت وحصلت على مُثبت سريع. اخترت Anthropic STARKs التي يمكنها توليد الإثباتات بسرعة — فمجموعة من 24 طلبًا تُثبت في حوالي 223 ثانية، أي ما يعادل حوالي 110 رموز/ثانية. هذا يعادل تقريبًا 72 ضعف وقت وحدة المعالجة الرسومية (GPU) لخدمة نفس الطلبات على vLLM. وهذا ما دفعها لاعتماد إثباتات STARK التي هي آمنة ضد الحوسبة الكمية وصداقة لوحدة المعالجة الرسومية. لكن — وهناك لكن كبير — ما تُثبته Anthropic حقًا للأطراف الثالثة هو فقط أن الأوزان النموذجية في التزام التجزئة كانت هي التي تم تشغيلها كأعداد صحيحة استجابةً لطلب واحد. لا يوجد ما يكفي لإثبات أي نموذج دقيق تم تشغيله، بل فقط أن الأوزان كانت هي الملتزمة بها. هذا يعني أن هناك طرقًا بديهية جدًا للالتفاف على هذا النظام — التزام بنموذج أرخص بأوزان مشابهة، وإعادة صياغة الطلبات انتقائيًا للغش في باقي حركة المرور التي لا يتم عينتها أو إثباتها، ويمكن لاختيار عشوائي توجيه الرموز ضمن نطاق الخطأ في الإثبات. https://t.co/VHR8DG0vbx