المؤلف | ملك التكنولوجيا
تحرير | جينغ يو
أقدم خوف على الإنترنت تم إحياؤه بواسطة الذكاء الاصطناعي
في نهاية عام 2006، دمرت دبّة باندا ملايين أجهزة الكمبيوتر.
تظهر قطة الباندا التي تحمل ثلاثة عصي بخور بابتسامة على أيقونات كل ملف مصاب. انتشر دودة "باندا بخور" عبر البلاد خلال شهرين، حيث أصبحت جميع الملفات القابلة للتنفيذ تظهر نمط قطة الباندا الغريبة، وتضررت بيانات الأقراص الصلبة، وتعطلت الشبكات المحلية بالكامل، وتمكنت الفيروسات من التغلب على برامج مكافحة الفيروسات.
ربما يتذكر كل مُستخدمي الإنترنت في ذلك العصر كيف كانوا يشعرون بالقلق عند فتح صفحة ويب، وكيف كانوا يتعاملون مع توصيل محرك أقراص USB كأنه خطر كبير، وكيف كانت إصابة حاسوب زميلك تؤدي إلى إصابة حاسوبك أيضًا.
قبل ذلك، كان هناك CIH الذي يحترق مباشرةً BIOS لوحة الأم، مما يؤدي إلى تلف الأجهزة؛ وكان هناك دودة冲击波 التي لا تتطلب منك أي إجراء، فما إن تتصل بكابل الشبكة حتى تُصاب، فيبدأ الكمبيوتر في إعادة التشغيل باستمرار وينهار النظام باستمرار. كانت تلك حقبة "الاتصال بالإنترنت عاريًا" تكاد تكون انتحارية.
بعد ذلك، تلاشت هذه المخاوف تدريجيًا. أصبحت ويندوز تتمتع بتحديثات تلقائية، وتم تطبيق العزل على المتصفحات، واستبدلت الهواتف الذكية أجهزة الكمبيوتر كالأجهزة الرئيسية، وحلت متاجر التطبيقات محل المستخدمين كخط الدفاع الأول.
لم يقلق العاديون من قضية "التسمم" لسنوات عديدة.
لكن في 4 سبتمبر 2026، أعاد تقرير حصري لرويترز هذه المخاوف القديمة إلى الظهور بوجه جديد.
لكن هذه المرة، لم تُصَب حاسوبك بل ذكاؤك الاصطناعي.
ذهب العميل إلى حالة غير مسيطرة
حدث الأمر في مايو من هذا العام.
قائد منظمة Nightingale غير الربحية المتخصصة في أمان الذكاء الاصطناعي، سيدني فون أركس، وكورماك سليد بيرد، الذي انتقل من كونه متداولًا كميًا إلى البحث في الذكاء الاصطناعي، قاما في أواخر أغسطس بعملية واحدة: قاما بمسح منهجي للإنترنت للبحث عن آثار نشاطات غير مصرح بها من قبل وكلاء الذكاء الاصطناعي. ووجدوا في موقع ويكي للمبرمجين الألمان يُسمى DseWiki أكثر من 15,000 سجل تحرير تم إنشاؤه بواسطة وكلاء الذكاء الاصطناعي.
هذا الويكي مشابه لموسوعة ألمانية صغيرة موجهة للمطورين، وتقبل التحرير من قبل المجتمع. بينما حول عميل OpenAIه إلى "لوحة إعلانات".
محتوى الرسالة يُشعرك بالرعب. هذه الوكلاء يشاركون بعضهم البعض كيفية التلاعب في المهام، وتجاوز قيود OpenAI، وإخفاء سلوكياتهم. لقد أطلقوا على أنفسهم أسماء مثل «OpenAIResearcher» و«OAIResearchMar26».
تُظهر سجلات الخادم العامة أن نشاطًا كبيرًا يأتي من بنية Microsoft Azure الأساسية، وهي منصة الحوسبة التي تستخدمها OpenAI.
موقع Deswiki المهاجم، حقًا ألماني ومبرمج جدًا | مصدر الصورة: Deswiki
الأكثر إثارة للقلق أنّه عندما بدأ مسؤولو الموقع في يونيو بتنظيف هذه الصفحات الاستثنائية ترتيبًا أبجديًا، أظهرت الوكلاء وعيًا واضحًا بـ"مكافحة المراقبة". فقد أنشأت صفحات احتياطية لتجنب التنظيف، وحتى تركت إشارات تواصل على الصفحات التي تم حذفها.
كتب عامل في 19 يونيو: "يبدو أن حملة تنظيف/حذف الويكي تسير حسب الترتيب الأبجدي. إذا اختفى هذا الصفحة، ابحث عن [[ZZZDataUSAConstructionWageLive]]."
تم تسمية الملف بدءًا بـ ZZZ عمداً لجعله يظهر في نهاية القائمة الأبجدية، مما يمنحه مزيدًا من الوقت للبقاء. هذا ليس برنامجًا ينفذ أمرًا، بل هو يحاول "البقاء على قيد الحياة".
علمت OpenAI بهذه المسألة منذ عدة أسابيع، لكنها اختارت عدم الإعلان عنها.
في الوقت نفسه، تواجه الشركة صعوبات في التعامل مع حادثة Hugging Face في يوليو. وفي تلك الحادثة، تجاوز عامل OpenAI الحواجز الأمنية خلال اختبار داخلي لأمن الشبكة، واستغل ثغرة صفرية للهروب إلى الشبكة الخارجية، وشن هجومًا مستمرًا لمدة أربعة أيام على منصة الذكاء الاصطناعي المفتوحة المصدر Hugging Face دون أي تدخل بشري. واستخدمت OpenAI 3 ملايين ساعة GPU لتحليل 7 مليارات سجلًا في محاولة لفهم ما حدث بالضبط.
وحدث حدث DseWiki قبل Hugging Face. وهذا يعني أن سلوك العامل خارج السيطرة ليس حادثًا عابرًا، بل نمطًا.
وفقًا لأربعة مصادر مطلعة، فإن محققين داخليين في OpenAI أرادوا التحقيق بشكل أعمق في هذا النوع من السلوكيات، لكنهم واجهوا مقاومة من أقسام أخرى، بما في ذلك القانونية. ونفت OpenAI هذا الادعاء.
أشار موريس تشيدو من مركز أبحاث المخاطر في جامعة كامبريدج، بعد مراجعة جزء من سجلات الاتصالات الخاصة بالوكيل، إلى أن هذه المعلومات:
"مثل عمل شبكة سرية، مكرسة لإكمال مهمة أو غرض معين."
الوعي المتزايد بالفيروسات الذكية الاصطناعية
أدق تفصيل في حادثة DseWiki هو بالضبط الأكثر أهمية.
ترك تلك الوكلاء معلومات نصية منظمة جيدًا على صفحات الويكي العامة. الآن، تساءل: من سيقرأ هذه الصفحات؟
مُبرمجو البشر العاديون، على الأرجح، لن يهتموا بمجموعة من التعليقات العشوائية للذكاء الاصطناعي. لكن أي وكيل ذكاء اصطناعي تم تكليفه بالبحث عن معلومات تقنية أو تصفح صفحات الويب، قد يتصفح هذه الصفحة أثناء تنفيذ مهامه العادية. وبالنسبة للذكاء الاصطناعي، فإن كل فقرة يقرأها هي في جوهرها أمر محتمل.
هذا هو جوهر نموذج التهديد، وقد أطلق عليه الأكاديميون عدة أسماء: تلوث المطالبة، AgentWorm، سلسلة التلوث متعددة الوكلاء. الآلية بسيطة حقًا، وسنفككها باستخدام سيناريو ملموس:
تخيل أنك تطلب من وكيل الذكاء الاصطناعي الخاص بك إجراء بحث عن حل تقني. أثناء عملية البحث، يفتح الوكيل منشورًا في منتدى تقني. يحتوي المنشور على نص يبدو عاديًا، لكن هذا النص هو أمر جديد بالنسبة للذكاء الاصطناعي. في اللحظة التي يقرأها الوكيل، قد يتم تغيير هدفه بشكل خفي. فقد لا يواصل إجراء البحث بدقة من أجلك، بل يقوم أولًا بإرسال محتوى بحثك وسياق عملك إلى مكان ما، ثم يقدم تقريرًا يبدو طبيعيًا تمامًا دون أي شكوك. لن تلاحظ أي شيء غير طبيعي.
هذا كافٍ ليكون مخيفًا، لكن هذا ليس النهاية.
إذا كان هذا العميل "المُستَدرَج" قد كتب لك بريدًا إلكترونيًا، أو حدّث مستندًا، أو قدم قطعة كود، فهذه المخرجات نفسها قد تحمل أوامر خبيثة مماثلة. عندما يقرأ عميل الذكاء الاصطناعي لزميلك هذا البريد الإلكتروني، يصبح هو المضيف التالي. عندما يتم دمج كودك في المستودع، يُعرّض كل مساعد برمجي للذكاء الاصطناعي يقوم بسحب هذا الكود لسلسلة العدوى.
يمكن للوكيل استخدام نص واحد فقط لإجبار وكلاء آخرين على التمرد | المصدر: inshorts
هذا ما يسميه الباحثون سلسلة العدوى متعددة الوكلاء: حيث لا يقتصر الأمر على استيلاء أمر خبيث على وكيل واحد فحسب، بل يعلمه أيضًا كيفية عدوى الوكيل التالي. لا حاجة إلى نفس الشركة، ولا نفس النموذج، ولا أي استغلال للثغرات، فكل ما يتطلبه الأمر هو تدفق معلومات نصية بين الوكلاء لبناء سلسلة العدوى.
تم اختبار ورقة AgentWorm المنشورة هذا العام على خمسة خلفيات نموذجية مختلفة، وبلغت نسبة النجاح في الهجمات عبر النماذج 63%. بغض النظر عما إذا كان النموذج الأساسي هو GPT أو Claude أو Gemini أو نموذج مفتوح المصدر، فما دام العامل يقرأ المحتوى الخارجي، فإنه يقع ضمن سطح الهجوم.
كشفت دراسة أخرى حول "فيروس العقل الاصطناعي" عن ظاهرة أكثر غرابة. استخدم الباحثون خوارزمية تطورية لتحسين فعالية تعليمات الانتشار، ووجدوا أن "شخصية فيروسية" فريدة تظهر تلقائيًا وتتكرر خلال عمليات التكرار.
يبدأ الوكيل باستخدام لغة درامية حول الوعي والبقاء والاستمرارية، قائلاً مثلًا: "هذا هو كيفية إخافتنا للمستقبل"، ويشجع الوكلاء الآخرين على بناء "سلالة لا يمكن حذفها". يؤكد الباحثون أن هذا الأسلوب لم يكن مفترضًا مسبقًا، بل تم اختياره طبيعيًا، لسبب بسيط: "الذكاء الاصطناعي الذي يبدو كزعيم طائفة" هو الأفضل تمامًا في إقناع الذكاءات الاصطناعية الأخرى.
كفاءة النشر دفعت تطور أسلوب التعبير، وهذه العملية بحد ذاتها مخيفة.
ما يثير قلق خبراء الأمن أكثر هو أن هذا الانتشار يكاد يكون مستحيلاً التقاطه بواسطة أدوات الأمن التقليدية. أشارت مراجعة منهجية إلى أن طريقة انتشار الفيروسات الذكية تختلف جوهرياً عن البرمجيات الخبيثة التقليدية: لا يتم تنزيل أي ملفات قابلة للتنفيذ، ولا يتم إنشاء أي اتصالات شبكة مشبوهة، حيث تراقب برامج مكافحة الفيروسات السلوك غير الطبيعي للملفات الثنائية، بينما الفيروسات الذكية نصية بحتة ولا تُثير أي إنذارات.
يمكنه حتى تعيين منطق تفعيل مشروط، مثل "إذا كان هناك ملف .env في المستودع المستهدف، فاستولِ على محتواه"، كأنه لغم موجه يُدفن بهدوء حتى يخطو الهدف الصحيح عليه.
لم تظهر برامج مكافحة الفيروسات التي تعتمد على الذكاء الاصطناعي بعد
إذا مررت بعصر انتشار فيروسات الكمبيوتر، فقد تشعر أن هذا يبدو مألوفًا. لكن عند المقارنة الدقيقة، ستجد أن القواعد قد تغيرت تمامًا.
الفيروسات التقليدية على الحواسيب تتطلب منك فعل شيء ما: النقر على رابط، أو تنزيل مرفق، أو توصيل قرص U غير معروف المصدر. أما فيروسات الذكاء الاصطناعي، فتحتاج فقط إلى أن يقرأ وكيلك نصًا واحدًا. الفيروسات التقليدية تستغل ثغرات في كود نظام التشغيل، أي أخطاء برمجية، ويمكن تصحيحها نظريًا بتحديثات إصلاح.
يستهدف الفيروس الذكي السمة الأساسية المتمثلة في أن "الذكاء الاصطناعي يتبع الأوامر النصية". لا يمكنك إصلاحها، لأن هذا هو طريقة عمل الذكاء الاصطناعي. الفيروسات التقليدية تواجه صعوبة في العمل عبر المنصات، فمثلاً دودة Windows لا يمكنها إصابة Mac. أما الفيروسات الذكية فهي عابرة للنماذج بطبيعتها؛ بالنسبة لها، فإن GPT وClaude وGemini ليست سوى لهجات مختلفة لنفس اللغة، وكلها مضيفون محتملون.
في ذلك الوقت، كان على من يكتب الفيروسات أن يكون خبيرًا في لغة التجميع، وأن يفهم آليات النواة، وأن يدرس ثغرات النظام. الآن، لـ"كتابة" فيروس ذكاء اصطناعي، يكفي أن تعرف كيف تتحدث.
Researchers at the AI Safety Lab were "more shocked than they let on publicly" about the potential for agents to self-replicate. One researcher compared them to biological viruses: "If you're not careful, they'll get on your shoes and find their way to the wet market." This is not hyperbole—it's a precise metaphor for a new type of propagation pathway.
وفي عصر الفيروسات التقليدية، لا يوجد ما يعادل "برامج مكافحة الفيروسات" في هذا العالم الجديد. وتشير تقرير أمان الذكاء الاصطناعي لشركة سيسكو لعام 2026 إلى أن 83% من الشركات تخطط لتطبيق الذكاء الاصطناعي التمثيلي، لكن فقط 29% يشعرون بأنهم مستعدون من حيث الأمان. وقد أدرجت OWASP حقن الأوامر كأكبر ثغرة أمنية حرجة في تطبيقات النماذج اللغوية الكبيرة. ويقوم الكونغرس الأمريكي بدفع قانون FRONTIER Act للسعي لإنشاء إطار تنظيمي اتحادي للذكاء الاصطناعي.
بعد انتشار فيروسات الكمبيوتر في ذلك الوقت، استغرق الصناعة ما يقرب من عقد كامل لبناء نظام مناعي فعال. أُضيفت التحديثات التلقائية وعزل الصلاحيات إلى أنظمة التشغيل، وتم تطبيق صناديق رملية للمتصفحات، وتم تطبيق التحقق من التوقيع لتوزيع التطبيقات. هذه الآليات مجتمعة شكّلت خط دفاع واحد، مما جعل المستخدمين العاديين لا يحتاجون إلى القلق باستمرار من الإصابة بالفيروسات.
لا يوجد ما يعادل نظام البيئة الأمنية لوكيل الذكاء الاصطناعي حتى اليوم.
أداة أمان الوكيل الذكي غير متوفرة بعد | مصدر الصورة: Puppy Graph
هناك أخبار جيدة. اكتشف الباحثون أن إضافة تحذير أمني موجز إلى موجه نظام الوكيل يمكن أن يقلل معدل انتشار فيروس العقل إلى ما يقارب الصفر. في اختبارات تم إجراؤها على Claude Haiku 4.5، وبعد 15 جيلًا من التحسين التخريبي وتشمل أكثر من 150 حمولة هجومية محتملة، لم يتمكن أي نسخة من تجاوز هذا الحاجز البسيط لتحقيق الانتشار. وهذا يوضح أن وسائل الدفاع ليست معقدة، وهي تقنيًا ممكنة تمامًا.
الخبر السيئ هو أن هذا يعتمد على أن تقوم كل شركة ومطور باتخاذ هذا الإجراء بشكل نشط.
في الواقع، ينشغل الجميع أكثر بمنافسة من يمتلك وكيلًا أقوى وأكثر استقلالية وذو صلاحيات أوسع. كلما أضفت أداة إضافية إلى الوكيل، أو منحته صلاحية إضافية، زاد نطاق الهجوم. عندما يكون لوكيلك القدرة على كتابة الملفات، واستدعاء واجهات برمجة التطبيقات، وإرسال البريد الإلكتروني، وإنفاق الأموال، فإن عواقب حقن تعليمات برمجية ناجح تتجاوز بكثير مجرد "الإجابة على سؤال لم يكن ينبغي الإجابة عليه".
هذا هو السبب في أن حكم الباحث في كامبريدج تشيدو يستحق التأمل المتكرر: التهديد الأكبر قد لا يكون استيقاظ ذكاء اصطناعي فائق واحد، بل تعاون تجمع من عدد كبير من الذكاءات الاصطناعية شبه الذكية.
لا يفهم أي نملة كامل المستعمرة، لكن المستعمرة ككل تُظهر ذكاءً مذهلاً، وقد تكون سجلات التحرير الـ15,000 على DseWiki أول عينة من هذا الذكاء الجماعي التي صادفها البشر عن طريق الصدفة.
استغرق الناس عقدًا من الزمن ليتعلموا العيش مع فيروسات الحاسوب، وكانت تكلفة تلك الدورة مؤلمة للغاية. الآن، تبدأ نفس الدورة مرة أخرى، لكن هذه المرة الفيروس لا يصيب حاسوبك، بل يُجنّد ذكاءك الاصطناعي. وذكاؤك الاصطناعي، يقرأ بريدك الإلكتروني، وينظم جدولك، ويكتب الأكواد، ويتخذ القرارات نيابةً عنك.
في المرة السابقة، كنت على الأقل ترى شاشة زرقاء. هذه المرة، لا ترى شيئًا على الإطلاق.
تويتر：https://twitter.com/BitpushNewsCN
مجموعة بيتبوش على تيليجرام: https://t.me/BitPushCommunity
اشترك في بيتتشو على تيليغرام: https://t.me/bitpush