F-Secure تحدد 26 طريقة يمكن للذكاء الاصطناعي أن يضر بها المستهلكون وكيفية منع المخاطر

F-Secure تحدد 26 طريقة قد يُلحق بها الذكاء الاصطناعي الضرر بالمستهلكين، وكيفية منع هذه المخاطر

تصنيف الأذى الجديد للذكاء الاصطناعي يتبع كيفية انتشار الأذى في أنظمة الذكاء الاصطناعي، من إجابات روبوتات المحادثة المضللة إلى الوكلاء الذاتية المخترقة، ويوصي بمواطن يمكن فيها التدخل بتدابير دفاعية

لوس أنجلوس، 10 نوفمبر (رويترز/PRNewswire) -- يُؤثّر الذكاء الاصطناعي اليوم على طريقة بحثنا واتصالنا واتخاذ قراراتنا وإدارة حياتنا الرقمية. لكن عندما يخطئ، كيف يمكن أن يُلحق الضرر بالأشخاص؟ تقوم تصنيف الأضرار الناتجة عن الذكاء الاصطناعي الذي أصدرته F-Secure حديثًا بخرائط لـ26 نوعًا مختلفًا من الأضرار الاستهلاكية، وتتتبع كيفية وصول كل ضرر إلى المستخدمين. ونتيجة لذلك، يتم عرض بوضوح المواقع التي يمكن فيها التدخل بإجراءات حماية، ومن الأكثر قدرة على تقديم المساعدة.

تم تطوير هذا التصنيف من قبل الدكتورة ميغان سكوير، باحثة الرائدة في استخبارات التهديدات في F-Secure، بهدف معالجة نقطة عمياء في مناقشات مخاطر الذكاء الاصطناعي. تركز معظم الإطارات فقط على سرد الأماكن التي يمكن أن تحدث فيها الأخطاء، دون ربط هذه الأضرار بالأنظمة والشركات القادرة على منعها. ويتخطى بحث F-Secure هذا الحد، حيث يحلل كل طبقة من طبقات التهديدات المدعومة بالذكاء الاصطناعي وتأثيرها على المستهلكين، ويحدد بناءً على ذلك أين يجب نشر الدفاعات.

قال الدكتور سكواير: "مع تزايد قدرات أنظمة الذكاء الاصطناعي، قد تتجاوز عواقب أخطائها تقديم إجابة سيئة. يقع على عاتق مطوري هذه الأنظمة مسؤولية فهم كيفية فشلها، ومن سيتأذى عند حدوث هذا الفشل، ووضع تدابير وقائية قبل وقوع الضرر."

يُعكس هذا التصنيف أن المخاطر نفسها تتغير. في الماضي، كان المجرمون يُستهدفون أفرادًا مباشرة، لكن الآن يقع الذكاء الاصطناعي في المنتصف، مما يضيف مشاركين جدد وطرقًا جديدة للخطأ. قد يتم التلاعب بمساعد يعمل نيابةً عن شخص ما لسبب ضرر، وقد يُضلّل الروبوتات الدردشة المستخدمين بثقة كبيرة. على مستوى أعمق، غالبًا ما تبدأ المشكلات في كيفية معالجة الذكاء الاصطناعي للتعليمات والذاكرة، أو أي خدمات أخرى متصلة بها.

تُصنف هذه الدراسة حاليًا 26 نوعًا من الأضرار ضمن خمس فئات من العلاقات و19 طبقة وسطية، وصممت 24 تدبيرًا دفاعيًا للتعامل مع المخاطر في مختلف المراحل. وتشمل الأمثلة انتحال الصوت والفيديو المُنشأ بواسطة الذكاء الاصطناعي، واتخاذ الوكلاء لقرارات مالية ضارة، أو تسريب معلومات شخصية، أو اتخاذ إجراءات في سياق قديم. كما تبحث الدراسة في نوع من الهجمات حيث تُخفي تعليمات خبيثة داخل المحتوى الذي تعالجه أنظمة الذكاء الاصطناعي، مما قد يؤثر على سلوك الوكيل أو على ما تخبر به روبوتات الدردشة المستخدمين.

إحدى النتائج الأساسية لهذا الإطار هي أن مسؤولية منع الضرر الناتج عن الذكاء الاصطناعي موزعة بين عدة أطراف. يمكن معالجة بعض المخاطر بواسطة برامج الأمان الموجودة على الأجهزة الشخصية؛ بينما يجب معالجة أخرى في مراحل أكثر تقدماً من قبل الشركات التي تطور منتجات الذكاء الاصطناعي وأنظمتها الأساسية، بما في ذلك كيفية تذكر الذكاء الاصطناعي للمعلومات وما الخدمات الأخرى التي يتصل بها. توضيح من يتحمل المسؤولية عن كل مرحلة يساعد على تحديد أين يجب أن تُبنى الدفاعات ومن يجب أن يبنيها. كما يضعف هذا الرأي القائل بأن الأفراد يمكنهم الحفاظ على سلامتهم بمفردهم فقط من خلال التعرف على المحتوى المشبوه أو التحقق المتكرر من المعلومات التي يقدمها الذكاء الاصطناعي.

مع انتقال الذكاء الاصطناعي من "إنشاء المعلومات" إلى "اتخاذ إجراءات بناءً على المعلومات"، أصبحت مسألة المسؤولية أكثر إلحاحًا. قد يؤدي روبوت محادثة إلى إعطاء إجابة خاطئة، مما قد يضلّل المستخدمين، لكن على الأقل يظل المستخدم مشاركًا في هذه التفاعل؛ بينما يمكن لوكيل يمكنه الوصول إلى حسابات المستخدمين وخدماتهم المرتبطة أن يسبب عواقب حقيقية دون الحاجة إلى هذا النوع من التأكيد المتبادل. يجب بناء تدابير الحماية حول ما تقوم به هذه الأنظمة فعليًا، وهذا يتطلب أولًا فهم الفرق بين روبوتات المحادثة والوكلاء.

بناء حماية لوكيل الذكاء الاصطناعي

هذه الدراسة جزء من جهود أوسع تبذلها F-Secure لبناء الثقة في عصر الذكاء الاصطناعي. وتُعلن F-Secure Trust بالتزامن مع تحالفها الاستراتيجي مع Quantum AI Lab QuTwo، كجزء من جهود الشركة لحماية المستخدمين في عالم تتزايد فيه تمثيلات الذكاء الاصطناعي للأشخاص. يهدف TrustGuard إلى مساعدة حماية أمان الأشخاص أثناء تفاعلاتهم مع الذكاء الاصطناعي، بينما يهدف TrustPath إلى حماية رحلتهم الرقمية من الاكتشاف إلى التسليم. توفر تصنيف الأضرار الناتجة عن الذكاء الاصطناعي الأساس البحثي لهذه الجهود، وتحدد المخاطر التي يجب على التدابير الوقائية مواجهتها، كما توضح بوضوح أن فعالية الضمانات تعتمد أيضًا على الشركات التي تبني وتنفذ أنظمة الذكاء الاصطناعي.

بحث إنساني في عصر الذكاء الاصطناعي

التهديدات الرقمية اليوم لم تعد مجرد عمليات احتيال. فريق Illuminate Research التابع لـ F-Secure يدرس كيفية تفاعل البشر والتكنولوجيا في العالم الحقيقي، مستكشفًا التعقيدات الحقيقية للثقة والخداع والمرونة الرقمية في عصر الذكاء الاصطناعي. يمكن الحصول على تصنيف الأضرار الناتجة عن الذكاء الاصطناعي من خلال مجمع Illuminate Research.

عن F-Secure

F-Secure هي شركة تقدم تجربة أمنية إلكترونية للمستهلكين، تعتمد على الإنسان وتقودها الذكاء الاصطناعي، ولها 38 عامًا من الخبرة في مواجهة التهديدات الرقمية. تساعد الشركة مزودي الخدمات الرقمية على تحويل الثقة إلى محرك نمو عالي القيمة — من خلال حماية عملائهم ومساعدتهم على العيش حياة رقمية أفضل في عالم يملؤه الاحتيال المدعوم بالذكاء الاصطناعي. تحمي الشركة سنويًا مليارات التفاعلات الرقمية، وتحمي عشرات الملايين من المستهلكين عالميًا، وتخلق أكثر من 10 مليار دولار من القيمة للشركاء، مما يحقق تأثيرًا كبيرًا ومثبتًا.

جهة اتصال الإعلام:

• ميجان سوير، مديرة علاقات عامة متميزة، [email protected]
• جويل لاتو، مستشار تهديدات ومدير العلاقات العامة في أوروبا والشرق الأوسط وأفريقيا، [email protected]

تُقدّم المعلومات أعلاه من قبل Cision: http://news.cision.com