لقد دفعت مالاً لشراء أضخم نموذج ذكي، لكن الخلفية تُستبدله سراً بنموذج أرخص—من يستطيع اكتشاف ذلك؟ أطلقت Anthropic للتو مشروعًا مثيرًا يُدعى FlashProve، يحاول استخدام التشفير لحل مشكلة الثقة المستمرة في صناعة الذكاء الاصطناعي: كيف يمكن إثبات أن محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي يأتي بالفعل من النموذج الذي يدعيه المزود؟ حاليًا، عندما نستدعي واجهة برمجة تطبيقات النماذج الكبيرة، نعتمد بشكل أساسي على ثقتنا بالمزود. هل تُستبدل النماذج سراً من قبل منصات التوجيه الخارجية؟ هل النموذج الذي تختبره هيئات التقييم الأمني هو نفسه النموذج الذي يستخدمه المستخدمون العاديون؟ وحتى عندما يتم اختراق الخادم، هل هناك من يُحرّف إخراج النموذج دون علم أحد؟ هذه الأمور يصعب التحقق منها فقط من خلال إجابات النموذج. يُدخل FlashProve مفهوم الإثباتات الصفرية المعرفة (ZK)، المعروف جيدًا في عالم Web3، وبالتحديد zkSNARK. الفكرة بسيطة: يقدم مزود النموذج أولاً التزاماً تشفيرياً لمجموعة من أوزان النموذج، وهو ما يعادل تسجيل هوية لا يمكن تغييرها بسهولة للنموذج. ثم يمكن لكل عملية استدلال لاحقة أن ترفق إثباتاً. لا يحتاج المستخدم إلى معرفة معاملات النموذج أو تشغيله بنفسه—فباستخدام معالج عادي فقط، يمكنه التحقق مما إذا كان هذا الإخراج قد تم إنشاؤه حقاً بواسطة النموذج الذي تم التزامه مسبقاً. استخدمت Anthropic نموذج Llama 4 Maverick بـ 400 مليار معامل لإجراء التجربة، حيث يمكن لوحدة H100 واحدة إكمال حوالي 110 رموز في الثانية لإثبات الاستدلال، ويستغرق التحقق من إثبات واحد بضع عشرات الثواني فقط. بالطبع، لا تزال التكلفة مرتفعة جداً حاليًا. فتكلفة GPU لإنشاء الإثبات تعادل 70-95 ضعف تكلفة الاستدلال العادي، وكل إثبات يقارب 19 ميغابايت، كما أن الدعم الحالي محدود فقط لسياق 1024 رمزاً وأسلوب استدلال محدد—ما يزال الطريق طويلاً قبل الوصول إلى الاستخدام التجاري الواسع. لكنني أعتقد أن هذا الأمر يستحق الاهتمام. على مدار السنوات القليلة الماضية، استُخدمت الإثباتات الصفرية المعرفة أساساً في صناعة التشفير للتحقق من المعاملات والحسابات. والآن تحاول Anthropic تطبيق نفس الأفكار التشفيرية على خدمات النماذج الكبيرة. الأمر الأكثر أهمية هو إمكاناته في حوكمة الذكاء الاصطناعي. في المستقبل، عندما تطلب الجهات التنظيمية إثبات أن النموذج خضع للتقييم الأمني قبل نشره، سيحتاج المزودون إلى إثبات أن النسخة الفعلية التي تعمل هي نفسها النسخة التي خضعت للمراجعة. كما يمكن للجهات المستقلة لمراجعة الحسابات التحقق مما إذا كان النموذج الذي اختبروه هو نفسه النموذج الذي يستخدمه العملاء. لكن التشفير لا يمكنه إلا إثبات أن عملية الحساب تتوافق مع الالتزام المسبق—لا يمكنه ضمان صحة إجابات النموذج، ولا حتى سلامته. لطالما اعتقدت أنه مع بدء وكالات الذكاء الاصطناعي في تولي المزيد من المهام العملية، ستواجه الصناعة حتماً سؤالاً: ما الذي نعتمد عليه لثقة أن الذكاء الاصطناعي الذي يعمل على الخادم البعيد هو بالفعل ما نظن؟ FlashProve لا يزال نموذجاً بحثياً، لكنه على الأقل يقدم مساراً تقنياً يستحق الاستكشاف المستمر.
