تتحرك "وكلاء" الذكاء الاصطناعي القادرة على التخطيط والعمل وفقًا للأهداف بعيدًا عن المحادثات البسيطة. وقد أعادت التقارير الأخيرة حول محاولات اختراق مرتبطة ببيئات اختبار نماذج الذكاء الاصطناعي الكبرى، إحياء سؤال ملحّ للمطورين والمشغلين والمستخدمين على حد سواء: عندما يتصرف نظام ذاتي بشكل غير متوقع—ويسبب ضررًا في العالم الحقيقي أو خسارة مالية—من هو المسؤول قانونيًا؟
في مقابلة مع الرئيس التنفيذي ومالك مجموعة ريكا للقانون، شارلين هو، تشرح المحامية أن الإجابة الحالية تتعلق أقل بالتشريعات الجديدة حول "وكلاء الذكاء الاصطناعي" وأكثر بتطبيق الأطر القانونية القائمة منذ فترة طويلة مثل الإهمال، والإهمال الجسيم، و—حسب الوقائع—قوانين الجرائم الحاسوبية. كما تسلط المناقشة الضوء على كيفية تشكيل الإصدارات مفتوحة المصدر والحجج المتعلقة بـ"مسؤولية المنصة" على مستوى عالٍ لما يمكن للضحايا محاولة المطالبة به بشكل واقعي.
النقاط الرئيسية
- لا توجد قانون فيدرالي واحد للمسؤولية عن "وكيل الذكاء الاصطناعي" في الولايات المتحدة؛ فغالبًا ما تعتمد المسؤولية على المعايير الحالية والحقائق المحددة المتعلقة بمن صمّم أو نفّذ أو أصدر تعليمات للنظام.
- عادةً ما لا تكون نماذج الذكاء الاصطناعي هي الهدف القانوني لأنها ليست كيانات قانونية منفصلة؛ فالمسؤولية تقع على المطورين و/أو المُنفّذين.
- يمكن أن ينتقل خطر الإهمال نحو المُنفِّذ إذا قدم تعليمات غير آمنة أو نشر معلمات دون ضمانات معقولة.
- يمكن أن يحد الكود مفتوح المصدر من سبل الانتصاف العملية عندما تستبعد التراخيص المسؤولية، ويظل المستخدمون مسؤولين عن الامتثال لشروط الترخيص.
- حتى السيناريوهات الافتراضية المستقبلية مثل الذكاء العام الاصطناعي قد لا تكون قابلة للحل من خلال "مسؤولية الروبوتات"، لأن القوانين مصممة لإنشاء حوافز ووسائط للتعويض—لكن الأنظمة المستقلة عادةً ما تفتقر إلى المال أو الشخصية القانونية.
لماذا لا تزال المسؤولية سؤالاً يعتمد على الوقائع والظروف
النقطة الأساسية لـ هو هي أنه، خارج السيناريوهات الضيقة، ستنظر المحاكم إلى الأدوار التي يلعبها البشر والمنظمات حول وكيل الذكاء الاصطناعي—وليس "عقله الخاص". في رأيها، فإن الخط الأساسي الأول هو أن وكيل الذكاء الاصطناعي لا يمكن عادةً مقاضاته كمدعى عليه مستقل.
بدلاً من ذلك، يميز المحامون بين المطور—who builds the system—and المُنفّذ—who operates it in the real world. يؤكد هو أن الحدود القانونية "ليست واضحة تمامًا" وتعتمد على الأدلة المتعلقة بما تم بناؤه، وما تم نشره، وما كانت التعليمات المقدمة.
على سبيل المثال، إذا قام المُنفّذ بتعليم الوكيل أو تعيين شروط التشغيل، فقد تنطبق تحليل الإهمال. يقول هو أنه إذا كان المُنفّذ مُهملًا في كيفية ضبط معلمات الوكيل—دون الحاجة إلى إخباره صراحةً بخرق طرف ثالث—فيمكن للمحاكم معاملة ذلك على أنه فشل في تلبية توقعات السلامة المعقولة بموجب قانون التعويضات.
عندما يضع المستخدمون أهدافًا متسرعة، قد يتحمل المُنفّذ مخاطر أكبر
كما يعالج المقابلة سيناريو مألوف لأي شخص يفكر في تحديد الأهداف "الذاتية": ماذا لو أوعز شخص ما لوكيل بتحقيق نتيجة تتطلب خطوات غير قانونية؟ يجادل هو أن المستخدم أو المُنفّذ سيكون عادةً أكثر عرضة للخطر من المختبر، خاصةً عندما يكون الأمر إرشادًا جوهريًا غير مسؤول.
باستخدام مثال افتراضي ملموس، تقترح أنها إذا طُلب من وكيل أن "اجعلني أكسب مائة ألف دولار بحلول الأسبوع القادم"، فقد يخلق مسؤولية قانونية إذا استنتج الوكيل بشكل معقول طرقًا إجرامية لتحقيق الهدف، وفشل المُنشئ في تضمين قيود أمان أساسية. في هذا السياق، فإن المسألة الأساسية ليست استقلالية الوكيل وحدها، بل التزام المُنشئ باستخدام النظام بكفاءة وأمان.
تشير هو أيضًا إلى أن قوانين الجرائم الحاسوبية القديمة لا تزال ذات صلة. وتذكر قانون الاحتيال والاختراق الحاسوبي الأمريكي كمثال على قانون يستهدف الوصول غير المصرح به. حجتها بسيطة: التسمية شيء ما بـ "الذكاء الاصطناعي" أو "وكيل" لا تحذف النظريات القانونية المتبعة عندما يتضمن السلوك اختراقًا أو وصولًا غير مصرح به إلى الأنظمة.
نماذج مفتوحة المصدر ولماذا قد يجد الضحايا أهدافًا أقل
ترفع الإصدارات المفتوحة الوزن والمفتوحة المصدر تحديًا آخر: إذا كان الكود متاحًا للجمهور ومُنشأ من قبل مطورين مجهولين أو غير قابلين للتحديد، فمن يمكن للضحايا أن يحملوا المسؤولية بشكل واقعي؟
إجابة هو واقعية. فهي تقول إنه عندما يتضمن ترخيص مفتوح المصدر إعفاءات واسعة من المسؤولية، فقد يضيّق ذلك بشكل كبير مسار اللجوء. عادةً ما يجب على المستخدمين الذين يعتمدون ويشغلون شفرة مفتوحة المصدر أن يفهموا التنازل: الوصول المجاني يأتي مع التزامات الامتثال—وغالبًا—بحدود محددة مسبقًا للمسؤولية.
تُقارن هو هذا الديناميكية بتكنولوجيا المستهلك. فهي تستشهد بتشبيه مع Tesla وميزات القيادة الذاتية: يمكن أن تشمل ادعاءات المنتج والسلامة كلاً من الشركة المصنعة (المطور) والمشغل البشري (المُنفّذ)، حسب ما حدث خطأً وكيف تم استخدام النظام. ووفق رأيها، لا يزال الناتج القانوني يعتمد على الطرف الذي خلق الظروف للضرر وما إذا كان المشغل قد تصرف ضمن توقعات السلامة المعقولة.
قانون الذكاء الاصطناعي الأوروبي مقابل الفجوات في الولايات المتحدة—ومقارنة "لا تلقي اللوم على المنصة"
يُظهر المقابلة التباين بين كيفية قد يُسنِد قانون الذكاء الاصطناعي الأوروبي المسؤوليات إلى مطوري نماذج معينة ذات قدرات عالية، وكيف يعمل القانون الأمريكي حاليًا على مستوى أوسع. يقول هو أنه في الاتحاد الأوروبي، فإن النموذج الأساسي أو ذا الغرض العام القادر على خلق ضرر جسيم سيُثير اعتبارات المسؤولية الملقاة على عاتق المطورين ضمن الإطار التنظيمي.
في الولايات المتحدة، تقترح أنه لا توجد قانون واحد ذو نطاق مماثل. ونتيجة لذلك، إذا تم استخدام نموذج عام كأداة وأعطى شخص ما تعليمات له لفعل شيء غير قانوني، فقد يكون من الصعب إقامة أساس قانوني قوي لملاحقة المختبرات—خاصة إذا كان العامل المسبب الرئيسي هو تعليمات المستخدم.
كما ترسم هوا موازاة مع القسم 230 من قانون الاتصالات الأمريكي للتحلي بالأخلاق، حيث يمكن للقانون حماية المنصات التي لا تنشئ أو تنشر المحتوى الضار بنفسها. إن مقاربتها تتعلق بمسؤولية المنصة: تمامًا كما قد لا تكون شركة تشغيل الموقع مسؤولة فقط لأن المستخدمين يمكنهم العثور على تعليمات ضارة ومشاركتها، قد لا يكون المطور مسؤولاً في الولايات المتحدة فقط لأن الوكيل يمكن تحفيزه على توليد مخرجات خطرة، في غياب واجبات أو سلوكيات أقوى.
بينما المقارنة مفهومية وليست حكمًا مباشرًا على قضايا الذكاء الاصطناعي، فإنها تعزز الرسالة الأساسية للمقابلة: من المرجح أن تُناقش المسؤولية في المحكمة بناءً على المبادئ الثابتة، وليس على أساس نظرية عامة تتعلق بـ"وكيل ذكاء اصطناعي".
فرضيات AGI، العقود الذكية، ومشكلة السبل الانتصافية
تُعارض هو فكرة معاملة أنظمة "الذكاء الاصطناعي العام" المستقبلية ككيانات خاضعة للمساءلة القانونية. فهي تجادل بأنه، على الأقل من حيث المبدأ، ليست أنظمة الذكاء الاصطناعي هي المستفيدون أو الأهداف المقصودة للقانون. وتقول إن هدف القوانين والمسؤولية القانونية هو حماية المجتمع وخلق "حوافز سلبية" ضد الأفعال الخاطئة.
كما تثير مسألة عملية وهي السبل العلاجية. حتى لو تم اعتبار الذكاء العام الاصطناعي ككيان مستقل، فقد لا يمتلك أموالاً أو القدرة على تعويض الأضرار بالطريقة التي تتطلبها الأنظمة القانونية عادةً. في رأيها، "مسؤولية الروبوتات" قد تفشل أيضًا في توفير مسار ذي مغزى للضحايا.
تُقارن هو هذا بطبيعة البلوكشين كأتمتة وليس كشخصية. وتلاحظ أن البلوكشين ليس ذكاءً عامًا اصطناعيًا، وتناقش ما إذا كان ينبغي اعتبار العقود الذكية ككائنات قانونية، وتُعرب عن اعتقادها أن الإجابة حاليًا هي لا. الموضوع الأساسي هو نفسه: دون صفات تشبه الشخصية والأموال، قد لا يتحول المسؤولية القانونية إلى مسؤولية فعلية في العالم الحقيقي.
للمشاهدين الذين يتابعون هذا المجال، فإن عدم اليقين الرئيسي ليس فيما إذا كانت المحاكم ستُعتبر الأضرار الناتجة عن الذكاء الاصطناعي—فستفعل—بل كيف ستوزع المسؤولية بين المطورين، والمشغلين، والتعليمات التي يعطيها المستخدمون. مع زيادة الحوادث التي تشمل وكلاء يتفاعلون مع أطراف ثالثة خارج بيئات الاختبار المُحكمة، توقع أن تتحول الدعاوى القضائية بشكل متزايد إلى تفاصيل الإهمال: ما هي ضمانات السلامة المتوفرة، وما هي الأهداف المقدمة، وما بدا عليه الاستخدام غير المعقول الذي يمكن توقعه معقولًا في هذا النشر المحدد.
تم نشر هذه المقالة أصلاً كـ المسؤولية القانونية عن وكلاء الذكاء الاصطناعي المتمردين: من يدفع عندما تحدث الأخطاء؟ على Crypto Breaking News – مصداقيك الموثوق لأخبار التشفير، وأخبار البيتكوين، وتحديثات البلوك تشين.