قد تستبدل وكلاء الذكاء الاصطناعي التطبيقات التقليدية بأنظمة موثوقة مبنية من قبل المستخدمين

قد تجعل الوكلاء الذكاء الاصطناعي تشغيل الكود المكتوب من قبل غرباء أحد السلوكيات التي ستواجه الأجيال القادمة صعوبة في معالجتها.

يمكن لمجتمع أن يُطبيع مخاطرًا لعقود، ثم يعيد لاحقًا تصنيفها على أنها متهورة بمجرد توفر خيار افتراضي أكثر أمانًا.

شرب الكحول قبل القيادة، أو ركوب المركبات دون ارتداء أحزمة الأمان، أو التدخين داخل الأماكن المغلقة، أو تثبيت ملفات ثنائية عشوائية من الإنترنت، كلها تنتمي إلى نفس عائلة نقاط blind spot التاريخية. السمة المشتركة هي الإذن الاجتماعي.

يستمر السلوك عندما يكون البديل مكلفًا أو غير مريح أو غير متاح تقنيًا. بمجرد أن يصبح المسار الأأمن رخيصًا وروتينيًا، يبدأ المسار القديم في التبدو غير عقلانيًا.

لا تزال البرمجيات الحديثة تعمل على صفقة نادرًا ما نفحصها. يكتب مطور أو شركة أو مؤسسة أو مُحافظ مجهول الشفرة. تقوم قناة توزيع بتغليفها. ويُشغلها مستخدم أو مؤسسة أو نظام تشغيل.

يصبح الأمان بعد ذلك محاولة متعددة الطبقات لإدارة عواقب ذلك القرار.

الصلاحيات، توقيع الكود، متاجر التطبيقات، كشف النقاط النهائية، العزل، التحقق من الموردين، والاستجابة للحوادث جميعها موجودة لأن الفعل الأساسي لا يزال خطيرًا: تنفيذ تعليمات شخص آخر على جهازك، داخل حسابك، مع وصول إلى بياناتك.

لقد فشل نموذج الثقة هذا على نطاق مؤسسي. أظهر اختراق SolarWinds كيف يمكن لتشفير ضار يتم إدخاله في عملية بناء برنامج موثوق أن يُوزَّع من خلال التحديثات العادية ويصل إلى الوكالات الحكومية وشركات التكنولوجيا وشبكات الاتصالات وغيرها من الأهداف عبر مناطق متعددة.

كانت الدرس التشغيلي هيكليًا، وكانت سطح الهجوم شرعية المورد نفسه.

بمجرد أن تم اختراق عملية البناء، أصبحت العلامات العادية للثقة وسيلة توصيل للهجوم.

ظهر نفس النمط في XZ Utils backdoor، حيث حذرت وكالة الأمن السيبراني والبنية التحتية (CISA) في مارس 2024 من أن كودًا خبيثًا قد تم تضمينه في الإصدارات 5.6.0 و5.6.1 من مكتبة ضغط موجودة عبر توزيعات لينكس.

وصف قاعدة بيانات الثغرات الوطنية لاحقًا كيف أنتج ملف اختبار مُخفي وتحكيم في عملية البناء مكتبة liblzma معدلة قادرة على اعتراض وتعديل تفاعلات البيانات في البرمجيات المرتبطة.

يمكن اختراق سلسلة توريد البرمجيات من بعيد جدًا قبل المستخدم، ثم الوصول عبر قنوات تبدو روتينية. لقد رأينا ذلك في crypto مرات عديدة مع استغلالات DNS وnpm JavaScript.

كان رد الصناعة هو إضافة عملية أقوى. يوفر NIST Secure Software Development Framework للمؤسسات مجموعة مشتركة من الممارسات لبناء وشراء البرمجيات مع تقليل المخاطر.

إطار عمل SLSA يعزز المصدر، السلامة، ومقاومة التلاعب في خط أنابيب الأصول. هذه الضوابط ضرورية.

كما تكشف عن حدود النموذج الحالي. تستمر المؤسسات في تحسين الطرق لتحديد أي كود خارجي يستحق الثقة.

يقلل النموذج التالي من كمية الكود الخارجي التي تحتاج إلى الثقة على الإطلاق.

هذا التحول يغيّر المعنى الاجتماعي للبرمجيات. اليوم، يُعامل رمز الطرف الثالث كأصل إنتاجية مع تكلفة أمنية.

غدًا، قد يُنظر إليه كالتزام يتطلب تبريرًا. ينتقل سؤال المستخدم الافتراضي من "أي تطبيق يجب أن أثبّته؟" إلى "لماذا يجب أن أشغل تطبيقًا لشخص آخر عندما يمكن لوكيلي بناء الوظيفة لي؟"

هذا خط كسر حقيقي. يتوقف البرنامج عن كونه منتجًا يُختار أساسًا من سوق، ويصبح مخرجًا يُولَّد حسب الطلب داخل بيئة تنفيذ يتحكم فيها المستخدم.

اتجاه السفر مرئي في وكلاء البرمجة. OpenAI Codex تم تقديمه كوكيل هندسة برمجيات قائم على السحابة قادر على العمل على مهام متعددة بالتوازي.

Claude Code من Anthropic هو نظام برمجي وكيل يحلل قاعدة الكود، ويُجري تغييرات على الملفات، ويشغل الاختبارات، ويوفر الكود المُدمج.

وكيل الترميز GitHub Copilot نقل نفس النمط إلى سير العمل على GitHub، مع العمل غير المتزامن عبر القضايا وطلبات السحب.

Google Jules يقدم اتجاهًا مشابهًا: عامل برمجي ذاتي يمتص سياق المنتج، ويولد حلولًا، ويرسل طلبات سحب.

لا تزال هذه المنتجات مُصاغة كأدوات للمطورين. وسيتضيق هذا الإطار مع مرور الوقت. بالنسبة لـ Codex، فقد أصبح الأمر كذلك بالفعل. قدمت OpenAI خيار واجهة مستخدم الشهر الماضي يركز على "المحادثات" والنتائج بدلاً من الكود والواجهات النصية.

التغيير الأكبر هو أن إنشاء البرمجيات يصبح فعلًا شخصيًا للتفويض. يصف المستخدم سير العمل، ثم يولد الوكيل الواجهة والمنطق والتكاملات والاختبارات ومسار التنفيذ.

قد يستمر الأثر لمدة ساعة أو أسبوع أو سنة. يمكن إعادة توليده، أو تفرعه، أو تقييده، أو مراجعته، أو التخلص منه، أو إعادة بنائه لسياق جديد.

تصبح التطبيق أقل مثل كائن دائم وأكثر مثل سياسة محلية مُجمعة في واجهة قابلة للاستخدام.

لهذا آثار فورية على الثقة. قد لا يزال المستخدم يراقب تطبيقات الآخرين. قد يتحقق من سير العمل وأنماط الواجهة ومخططات البيانات والمحفزات والأتمتة وتكاملات الخدمة. لكن المراقبة يمكن أن تبقى منفصلة عن التنفيذ.

يمكن للمستخدم نسخ الفكرة، ثم طلب وكيل شخصي لإعادة بناء الوظيفة من الأسس داخل بيئة تخضع لقواعد المستخدم الخاصة. تنتقل القيمة من الأثر المُركب إلى النمط.

تصبح التوزيع أقل ارتباطًا بتسليم الكود القابل للتنفيذ وأكثر ارتباطًا بنشر النية والتصميم والإثباتات والمخططات وتوقعات واجهات برمجة التطبيقات.

يدخل التشفير في الحجة من خلال التحقق بدلاً من العلامة التجارية. سيظل وكيل المستخدم متصلًا بالخدمات الخارجية.

قد تدعو أنظمة دفع، وأنظمة هوية، ونقاط نهاية لبيانات السوق، وطبقات تخزين، ومزودي نماذج الذكاء الاصطناعي، وأسواق الحوسبة، وأنظمة الرسائل، وخدمات الامتثال. ينتقل حدود الثقة إلى تلك النقاط النهائية والمطالبات المقدمة عنها.

سيحتاج المستخدمون إلى طرق لتصنيف الخدمات الخارجية بناءً على قابلية التدقيق والمصدر والأمان والانسجام الاقتصادي. ستُحسب نقطة الخدمة المبنية داخل بيئة قابلة للتحقق بشكل مختلف عن نقطة النهاية المغلقة التي تتحكم فيها منصة شركة.

توفر أنظمة الصفر المعرفة مسارًا واحدًا للوصول إلى طبقة التصنيف. ZK rollups تُظهر كيفية تنفيذ الحساب خارج السلسلة بينما يتحقق دليل موجز من صحة انتقال الحالة الناتج على السلسلة.

يمكن أن يمتد نفس النمط المفاهيمي إلى ما وراء توسيع المعاملات. قد يرغب المستخدمون في إثباتات أن نقطة النهاية نفّذت كودًا معتمدًا، وعَالَجَت بيانات ضمن قيود محددة، وحافظت على حدود الخصوصية، أو أنتجت نتيجة من بناء مُدقَّق محدد.

يمكن للإثبات الحفاظ على السرية الداخلية مع تقليل فجوة الثقة بين الوكيل الشخصي والاعتماد الخارجي.

قد تشبه الواجهة على المدى الطويل طبقة تشغيل تخضع لتحكم وكيل. يطلب المستخدم لوحة تحكم، وأداة محفظة، ومساعد بحث، ونظام نشر، ونظام إدارة علاقات عملاء شخصي، وسير عمل محاسبي، أو مراقب أمان.

يقوم الوكيل بجمعها من الكود المُولَّد ونقاط النهاية المُرتَّبة. الكود قابل للتدقيق لأنه الوكيل هو الذي أنشأه.

الاعتمادات محدودة لأن العامل حددّها وفقًا للسياسة. بيئة التنفيذ قابلة للمراجعة لأن المستخدم اشترط ذلك.

لا يزال المستخدم يشارك في اقتصاد متصل. يتحرك التحكم أقرب إلى الفرد.

نهاية هذه الانتقال هي سوق للوظائف القابلة للتحقق، والعملاء المولّدين بواسطة الوكلاء، والخدمات الخارجية المصنفة. لا يزال المطورون من طرف ثالث موجودين، لكن دورهم يتغير.

إنهم ينشرون البروتوكولات وواجهات برمجة التطبيقات والقوالب والأدلة والنماذج والمكونات والتنفيذ المرجعي. يقوم المستخدمون بتشغيل إصداراتهم الخاصة.

لا تزال المؤسسات موجودة، لكن ميزتها تنتقل من التحكم في التوزيع إلى إثبات الموثوقية. لا تزال المجتمعات مفتوحة المصدر موجودة، لكن العبء ينتقل من طلب من المستخدمين الثقة في المُدراء إلى منح الوكلاء كمية كافية من المواد المنظمة لإعادة البناء بأمان.

اقتصاد البرمجيات القديم كان يبيع التطبيقات الجاهزة. الجديد يبيع قدرات موثوقة.

يصبح تتبع المحفظة واجهة مولدة عبر نقاط نهاية بيانات السوق، وأذونات المحافظ، ومنطق الضرائب، وقواعد التقارير. يصبح نظام النشر سير عمل مولّد عبر واجهات برمجة التطبيقات الخاصة بالهوية، والتحرير، وإدارة المحتوى، والتحليلات، والتوزيع.

يصبح محطة البحث سطحًا مُولَّدًا من قواعد البيانات، واستدعاءات النماذج، وفحوصات الأصل، والملاحظات الخاصة. في كل حالة، يتعامل وكيل المستخدم مع التجميع.

يوفر العالم الخارجي موارد قابلة للتحقق. كما أن هذا التغيير يخلق اختبارًا تجاريًا لكل مزود للبنية التحتية: إثبات الادعاء، ونشر الواجهة، وكشف مجموعة القيود، والسماح للوكلاء من جانب المستخدم باتخاذ قرار بشأن ما إذا كانت الخدمة تستحق الإدراج.

يُطَرَح الجدل المعتاد على أنه محلية مقابل سحابية. هذا التقسيم يلتقط جزءًا من سؤال البنية التحتية، لكنه يفوت الاقتصاد السياسي.

يمكن للنظام الخاص استخدام الحوسبة السحابية ضمن قيود مُعرَّفة من قبل المستخدم. ويمكن للنظام المؤسسي التشغيل محليًا مع الحفاظ على الهوية والحوافز والصلاحيات والتجنيد داخل بيئة مُحكمة يتحكم فيها المورد.

الانقسام الأكثر دوامًا هو بين الخاص والمؤسسي. من يُعرّف التطبيق؟

من يقرر ما يمكنه الوصول إليه؟ من يتلقى بيانات التتبع؟

من يحدد مسار الترقية؟ من يمكنه إلغاء الوظيفة؟

من يستفيد من اعتماد المستخدم؟

سيصبح هذا الانقسام أكثر وضوحًا مع تراجع تكلفة البرمجيات الوكيلة إلى مستوى يصبح فيه متاحًا للمستخدمين العاديين. أحد المسارات يؤدي نحو سيادة برمجيات شخصية.

يحتفظ المستخدمون بوكلاء يبنون ويُعيدون بناء الأدوات التي يحتاجونها. ويختارون مزودي نقاط النهاية بناءً على الشهادات والتكلفة والموثوقية والخصوصية والتوافق.

يمكنهم التخلي عن واجهة مع الحفاظ على سير العمل الأساسي. يمكنهم الانتقال من نقطة نهاية إلى أخرى.

يمكنهم إنشاء عميل جديد عندما يصبح العميل القديم مخترقًا أو مُستَولى عليه أو غير فعّال. تصبح طبقة البرنامج قابلة للنقل لأن المستخدم يملك النية، ويمكن للوكيل إعادة إنتاج التنفيذ.

المسار الآخر يؤدي نحو الراحة المدارة. ستقدم المنصات المؤسسية تطبيقات مدعومة، وهوية متكاملة، واعتمادات، ودفعات، وتخزين، ووصول إلى الذكاء الاصطناعي، وسير عمل افتراضية.

سيكون بعض ذلك مفيدًا. وسيكون بعضه قسريًا اقتصاديًا.

إذا أنتجت الوفرة المدعومة بالذكاء الاصطناعي مخططات دخل مرتبطة بالدخل الأساسي العام أو الخاص، أو ائتمانات حسابية، أو توزيعات رموز، أو مزايا مرتبطة بالمنصة، فقد تصبح قناة التوزيع آلية تقييد لينة. قد يحصل المستخدمون على الوصول إلى الخدمات من خلال نظام بيئي يحدد أيضًا البرنامج الذي يشغّلونه، وكيفية تحرك بياناتهم، والوكلاء الذين يمكنهم التصرف نيابةً عنهم.

طبقة UBI هي النسخة الأكثر حساسية من هذه المشكلة. كان سام ألتمان مرتبطًا لفترة طويلة بمناقشات عصر الذكاء الاصطناعي حول توزيع الدخل، وتم تقديم Worldcoin جزئيًا حول إثبات الهوية البشرية وإمكانية توزيعات مشابهة لـ UBI.

النقطة الأوسع هي أكبر من مشروع واحد. عندما تتلاقى الدعم الاقتصادي، وتأكيد الهوية، ووصول الحوسبة، وأذونات البرمجيات، يمكن أن يصبح المشاركة مشروطة بينما تبدو طوعية.

قد يكون المستخدم حرًا في رفض المشاركة نظريًا، بينما يُدفع عمليًا نحو طبقة تطبيق مدارة.

الراحة تصبح ساحة المعركة الرئيسية. ستكتسب الطبقات المؤسسية المستخدمين من خلال انخفاض الاحتكاك.

ستقدم إعدادات افتراضية مُحسّنة، وصولًا فوريًا، وذكاء اصطناعي مدمج، وتوافق اجتماعي، وسير عمل استرداد، وتغطية للامتثال، ومكافآت. سيحتاج المكدس الخاص إلى المنافسة على شيء أصعب: استقلالية تبدو قابلة للاستخدام.

يجب أن يمنح المستخدمين سببًا لقبول مسؤولية أكبر مع تجنب الإدارة التقنية. يصبح الوكيل الشخصي حاسمًا لأنه يستطيع امتصاص التعقيد الذي جعل السيادة غير عملية سابقًا.

المخاطر من الدرجة الأولى هي أن المستخدمين يتبادلون السيطرة مقابل الراحة قبل أن يفهموا التكلفة. المخاطر من الدرجة الثانية هي أن هذا التبادل يصبح مدعومًا، مُعتادًا، وبحلول مرحلة ما ضروريًا للوصول إلى الحياة الاقتصادية.

قد تصبح تطبيقات الشركات البيئة الافتراضية للأشخاص الذين يقبلون المزايا المجمعة. وقد تصبح التطبيقات المولدة خصوصياً البيئة الافتراضية للأشخاص المستعدين للدفع أو التحقق أو التهيئة أو الاحتفاظ بطبقة البرمجيات الخاصة بهم.

هذا يخلق فجوة طبقية جديدة حول التحكم في التنفيذ. السؤال هو ما إذا كان الذكاء الاصطناعي القائم على الوكلاء يُضيّق هذه الفجوة أم يُعمّقها.

ستكون هذه الانتقال غير متساوية. ستتحرك القطاعات الخاضعة للتنظيم ببطء.

ستدافع الشركات عن نظم تطبيقاتها باستخدام حجج الامتثال. وسيستمر المستهلكون في اختيار الراحة الافتراضية عندما يشعرون أن البديل الخاص هش.

سيستهدف المهاجمون الوكلاء، والمحفظات، واختيار التبعيات، وسلاسل توريد النماذج، وشهادات النقاط النهائية. ستخلق أنظمة التحقق نقاط اختناق جديدة إذا تم الاستيلاء عليها من قبل عدد قليل من سلطات الشهادات، أو منصات السحابة، أو موردي النماذج.

يمكن أن تصبح سيادة البرنامج الشخصية مزاعم علامة تجارية أخرى ما لم يتمكن المستخدمون من التحقق والانتقال والإلغاء.

ومع ذلك، فإن الاتجاه واضح بما يكفي لتحديد الاختبار التالي. السؤال هو ما إذا كان الناس سيقبلون الراحة على السيادة بمجرد أن تتمكن وكلائهم من بناء معظم ما يحتاجونه.

اليوم، الإجابة إلى حد كبير نعم لأن البديل لا يزال مرهقًا جدًا. غدًا، تصبح الإجابة أقل يقينًا.

مستخدم يمكنه إنشاء تطبيق يعمل، وتحديد أذوناته، ومراجعة تبعياته، والاتصال فقط بنهايات مصنفة، وإعادة بنائه عند تغيّر الظروف، لديه بديل حقيقي لحزمة البرمجيات التجارية.

ستشعر أن هذا البديل غريب في البداية. ثم ستشعر أنه حكيم.

ثم قد يصبح هذا توقعًا افتراضيًا لأي شخص يتعامل مع الأموال أو الهوية أو بيانات الصحة أو الاتصالات الخاصة أو الأبحاث أو العمليات التجارية. ستستمر تشغيل كود طرف ثالث غير شفاف عندما يهيمن الراحة، عندما تشوه الدعمات الخيار، وعندما يقبل المستخدمون بيئات مُدارة مقابل الوصول الاقتصادي.

سيتلاشى حيث يقوم الوكلاء بRoutine توليد خاص.

سيحدث إعادة التصنيف الاجتماعي ببطء، ثم فجأة. ستظل العادة القديمة مألوفة حتى يصبح الوضع الجديد الافتراضي واضحًا.

بمجرد أن يتمكن المستخدمون من طلب وكلائهم لبناء التطبيق، والتحقق من مسار التنفيذ، والتوصيل فقط بالنقاط النهائية المعتمدة، ينقل عبء التفسير. سيحتاج الشخص الذي يشغل كود شخص آخر إلى سبب.

الشخص الذي يبني من خلال وكيل سيستخدم ببساطة الإعداد الافتراضي الأأمن. ومع ذلك، قد يضطر أيضًا إلى قبول فقدان الحوافز المؤسسية المقدمة لأولئك الذين يظلون متصلين بالشبكة.

ظهر المنشور أيام التطبيقات معدودة: الحالة النهائية للبرمجيات ستكون خاصة، شخصية، موثقة، ومبنية بواسطة وكلاء الذكاء الاصطناعي لأول مرة على CryptoSlate.