ای آئی "ایجنٹس" جو منصوبہ بندی کر سکتے ہیں اور اہداف کے لیے عمل کر سکتے ہیں، صرف چیٹ سے آگے بڑھ رہے ہیں۔ بڑے ای آئی ماڈل ٹیسٹنگ سینڈ باکسز سے جڑے حملوں کے حالیہ رپورٹس نے ڈویلپرز، ڈپلوائرز اور صارفین کے لیے ایک اہم سوال کو دوبارہ زندہ کر دیا ہے: جب ایک خودمختار نظام غیر متوقع طریقے سے کام کرتا ہے—اور حقیقی دنیا میں نقصان یا مالی نقصان پیدا کرتا ہے—تو قانونی طور پر کون ذمہ دار ہے؟
رکا لاء گروپ کے سی ای او اور مالک چارلن ہو کے ساتھ ایک انٹرویو میں، وکیل نے واضح کیا کہ آج کا جواب کم سے کم نئے “AI ایجنٹ” قوانین کے بارے میں ہے اور زیادہ تر قدیم قانونی فریم ورکس جیسے غفلت، بے پرواہی، اور — واقعات کے مطابق — کمپیوٹر جرائم کے قوانین کے заастن کے بارے میں ہے۔ بحث میں یہ بھی اہمیت رکھتی ہے کہ اوپن سورس ریلیزز اور اعلیٰ سطح کے “پلیٹ فارم ذمہ داری” کے دلائل متاثرین کے لیے واقعی طور پر حاصل کرنے کے قابل کیا ہے، اسے شکل دیتے ہیں۔
اہم نکات
- ریاستہائے متحدہ میں کوئی ایک فیڈرل “AI ایجنٹ ذمہ داری” قانون نہیں ہے؛ ذمہ داری عام طور پر موجودہ معیارات اور اس نظام کو ڈیزائن، ڈپلوی یا ہدایت دینے والے کے مخصوص واقعات پر منحصر ہوتی ہے۔
- ای آئی ماڈلز خود عام طور پر قانونی ہدف نہیں ہوتے کیونکہ وہ الگ قانونی کیکٹر نہیں ہوتے؛ ذمہ داری ڈویلپرز اور/یا ڈیپلوئرز پر ہوتی ہے۔
- اگر ڈیپلوئر نے غیر محفوظ ہدایات فراہم کیں یا معقول حفاظتی اقدامات کے بغیر پیرامیٹرز ڈیپلوئ کیے، تو غفلت کا خطرہ ڈیپلوئر کی طرف منتقل ہو سکتا ہے۔
- اوپن سورس کوڈ کی وجہ سے عملی راستہ محدود ہو سکتا ہے جب اجازت ناموں میں ذمہ داری کا انکار کیا جائے اور صارفین اجازت نامے کے شروط کی پابندی کے لیے ذمہ دار رہیں۔
- حتی کہ AGI جیسے مستقبل کے فرضی مسائل بھی "روبوٹ ذمہ داری" کے ذریعے حل نہیں ہو سکتے، کیونکہ قوانین انگیزہ اور ازالہ کے لیے بنائے جاتے ہیں—لیکن خود مختار نظام عام طور پر پیسہ یا قانونی ذات نہیں رکھتے۔
کیوں ذمہ داری اب بھی ایک “حقائق اور حالات” کا سوال ہے
ہو کا مرکزی نقطہ یہ ہے کہ تنگ سیناریوز کے باہر، عدالتوں کو AI ایجنٹ کے "اپنے آپ کا دماغ" کی بجائے انسانوں اور تنظیموں کے کرداروں پر نظر ڈالنا ہوگا۔ اس کے خیال میں، پہلا بنیادی اصول یہ ہے کہ عام طور پر AI ایجنٹ کو الگ تھلگ مدعی کے طور پر مقدمہ چلانا ناممکن ہے۔
اس کے بجائے، وکلاء ایک ڈیولپر—جو سسٹم بناتا ہے—اور ایک ڈیپلویر—جو اسے حقیقی دنیا میں چلاتا ہے—کے درمیان فرق کرتے ہیں۔ ہو زور دیتے ہیں کہ قانونی حدود “بالکل واضح نہیں ہیں” اور اس بات پر منحصر ہیں کہ کیا بنایا گیا، کیا ڈیپلوی کیا گیا، اور کیا ہدایات دی گئیں۔
مثال کے طور پر، اگر کوئی ڈیپلوئر ایجینٹ کو ہدایت دے یا آپریٹنگ کنڈیشنز سیٹ کرے، تو غفلت کا تجزیہ لاگو ہو سکتا ہے۔ ہو کہتے ہیں کہ اگر ڈیپلوئر نے ایجینٹ کو پیرامیٹرائز کرنے میں غفلت کی — بغیر کسی تیسرے طرف کی خلاف ورزی کرنے کے صریح ہدایت دیے — تو عدالتوں کے لیے یہ تھوڑھی سی محفوظ توقعات کے مطابق نہ ہونے کے طور پر سمجھا جا سکتا ہے۔
جب صارفین بےوقوفانہ اہداف دیتے ہیں، تو ڈیپلوئر زیادہ خطرہ اٹھا سکتا ہے
انٹرویو میں ایک ایسے منظر کا بھی ذکر ہوا جو کسی بھی شخص کے لیے قابلِ فہم ہے جو "خودمختار" مقاصد کے تعین کے بارے میں سوچ رہا ہو: اگر کوئی شخص ایجنٹ کو ایسا نتیجہ حاصل کرنے کے لیے ہدایت دے جس کے لیے غیر قانونی اقدامات درکار ہوں؟ ہو کا دعویٰ ہے کہ صارف یا استعمال کرنے والا عام طور پر لیب کے مقابلے میں زیادہ متاثر ہوگا، خاص طور پر جب ہدایت بنیادی طور پر بے احتیاط ہو۔
ایک مخصوص فرضی مثال کے ذریعے، وہ یہ سuggest کرتی ہے کہ ایجینٹ کو "اگلے ہفتے تک میرے لیے ایک لاکھ ڈالر بنائیں" کہنا، اگر ایجینٹ منطقی طور پر اس مقصد کو حاصل کرنے کے لیے جرائم کے طریقے استعمال کرنے کا استنباط کرے اور ڈیپلوئر نے بنیادی سیفٹی پابندیاں شامل نہ کی ہوں، تو ذمہ داری پیدا کر سکتا ہے۔ اس تناظر میں، بنیادی مسئلہ صرف ایجینٹ کی خودمختاری نہیں بلکہ ڈیپلوئر کا فرض ہے کہ وہ سسٹم کو ماہرانہ اور محفوظ طریقے سے استعمال کرے۔
ہو نے یہ بھی اشارہ کیا کہ پرانے کمپیوٹر جرائم کے قوانین اب بھی متعلقہ ہیں۔ وہ امریکی کمپیوٹر فراڈ اور جھوٹھ کے عمل کو غیر اختیاری رسائی کے مقصد سے بنائے گئے قانون کے طور پر ذکر کرتی ہیں۔ ان کا استدلال سادہ ہے: جب رویہ میں داخلہ یا غیر اختیاری نظام تک رسائی شامل ہو، تو کسی چیز کو "AI" یا "ایجینٹ" کہنا مقررہ قانونی نظریات کو مٹا نے کے برابر نہیں۔
اوپن سورس ماڈلز اور وجوہات جن کی بناء پر متاثرین کم افراد کو ہدف بناتے ہیں
وزن کھولنا اور اوپن سورس ریلیزز ایک اور چیلنج پیدا کرتے ہیں: اگر کوڈ عوامی طور پر دستیاب ہے اور انonymous یا غیر قابل شناخت ڈویلپرز کے ذریعہ تیار کیا جاتا ہے، تو قربانیاں حقیقت میں کسے ذمہ دار ٹھہراسکتی ہیں؟
ہو کا جواب عملی ہے۔ وہ کہتی ہیں کہ جب ایک اوپن سورس لائسنس میں وسیع ذمہ داری کے انکار شامل ہوں، تو اس سے راستہِ انصاف کافی حد تک محدود ہو جاتا ہے۔ جو صارفین اوپن سورس کوڈ استعمال کرتے اور چلاتے ہیں، انہیں عام طور پر اس تبادلہ کو سمجھنا چاہیے: مفت رسائی کے ساتھ مطابقت کے فرائض اور — اکثر — ذمہ داری پر پہلے سے طے شدہ حدود آتے ہیں۔
وہ اس متحرک عمل کا موازنہ صارفین کی ٹیکنالوجی سے کرتی ہیں۔ وہ Tesla اور خودکار ڈرائیو فیچرز کا تشبیہی استعمال کرتی ہیں: مصنوعات اور سلامتی کے دعوے میں دونوں طرف سے شامل ہو سکتے ہیں — فروشندہ (ڈولپر) اور انسانی آپریٹر (ڈیپلوئر) — جو بھی غلط ہوا ہو اور سسٹم کا استعمال کیسے ہوا۔ اس کے خیال میں، قانونی نتیجہ اس بات پر منحصر ہے کہ کس طرف نے نقصان کے لیے شرائط پیدا کیں اور کیا آپریٹر نے معقول سلامتی کی توقعات کے اندر عمل کیا۔
یورپی AI ایکٹ بمقابلہ امریکہ کے فرق—اور “پلیٹ فارم کو الزام نہ دو” کا تشبیہ
انٹرویو میں یورپی یونین کے AI ایکٹ کے طریقے کا موازنہ کیا گیا ہے کہ وہ کچھ اعلیٰ صلاحیت والے ماڈلز کے ڈویلپرز کو ذمہ داریاں کس طرح سونپ سکتا ہے، جبکہ امریکی قانون ابھی تک عام سطح پر کام کر رہا ہے۔ ہو کہتے ہیں کہ یورپ میں، ایک بنیادی یا جنرل پرپوز ماڈل جو سنگین نقصان پیدا کرنے میں قادر ہو، وہ ریگولیٹری فریم ورک کے تحت ڈویلپر کی ذمہ داری کے خیالات کو فعال کر دے گا۔
ریاستہائے متحدہ میں، وہ سفارش کرتی ہے کہ اس قسم کے کوئی ایک قانون موجود نہیں جس کی وسعت اس کے برابر ہو۔ نتیجتاً، اگر کسی جنرل پرپوز ماڈل کو ایک ٹول کے طور پر استعمال کیا جائے اور کوئی اسے غیر قانونی کام کرنے کے لیے ہدایات دے، تو لیبز کے خلاف مقدمہ چلانے کا مضبوط قانونی بنیاد ترتیب دینا مشکل ہو سکتا ہے—خاصة طور پر اگر بنیادی سبب کارکردگی صارف کی ہدایت ہو۔
ہو نے ایک مماثلت بھی امریکی مواصلاتی اخلاقی قانون کے سیکشن 230 کے ساتھ کھینچی ہے، جہاں قانون ایسے پلیٹ فارمز کو محفوظ رکھ سکتا ہے جو خود نقصان دہ مواد کو تخلیق یا شائع نہیں کرتے۔ اس کا تشبیہ پلیٹ فارم کی ذمہ داری کے بارے میں ہے: جس طرح ایک ویب سائٹ کا آپریٹر صرف اس لیے ذمہ دار نہیں ہو سکتا کہ صارفین نقصان دہ ہدایات تلاش کر سکتے ہیں اور ان کا اشتراک کر سکتے ہیں، اسی طرح ایک ڈویلپر امریکہ میں صرف اس لیے ذمہ دار نہیں ہو سکتا کہ ایک ایجنٹ خطرناک آؤٹ پٹس پیدا کرنے کے لیے پرومت کیا جا سکتا ہے، جب تک کہ زیادہ مضبوط فرائض یا رویہ موجود نہ ہو۔
جبکہ یہ تقابل تصوراتی ہے، AI کے معاملات پر ب без کا براہ راست فیصلہ نہیں، یہ انٹرویو کے مرکزی پیغام کو مضبوط کرتا ہے: ذمہ داری ممکنہ طور پر عدالتوں میں مخصوص اصولوں پر لڑی جائے گی، عام "AI ایجینٹ" نظریہ پر نہیں۔
AGI کے فرضیات، اسمارٹ کنٹریکٹس، اور علاج کی پیچیدگی
ہو مستقبل کے "AGI" سسٹمز کو قانونی طور پر ذمہ دار کی حیثیت دینے کے خیال کے خلاف ہیں۔ وہ دلیل دیتی ہیں کہ کم از کم اصولی طور پر، AI سسٹمز قانون کے مقصد یا نشانہ نہیں ہیں۔ وہ کہتی ہیں کہ قوانین اور ذمہ داری کا مقصد معاشرے کا تحفظ کرنا اور غلط کاموں کے خلاف "منفی انگیزے" پیدا کرنا ہے۔
وہ ایک عملی مسئلہ بھی اٹھاتی ہیں: انتظامات۔ اگرچہ ایک AGI کو ایک مستقل کائنات کے طور پر سمجھا جائے، لیکن اس کے پاس پیسہ یا قانونی نظام کی طرف سے عام طور پر مانگے جانے والے نقصانات کی ادائیگی کی صلاحیت نہیں ہو سکتی۔ اس کے خیال میں، "روبوٹ ذمہ داری" شکایت کرنے والوں کے لیے ایک مفید راستہ فراہم نہیں کر سکتی۔
ہو اسے بلاک چین کی خودکاری کے طبع کے ساتھ ت порیب کرتی ہیں، نہ کہ انسانیت کے ساتھ۔ وہ نوٹ کرتی ہیں کہ بلاک چین AGI نہیں ہے اور اسمارٹ کنٹریکٹس کو قانونی موضوعات کے طور پر سمجھا جانا چاہیے یا نہیں، اس پر بحث کرتی ہیں، اور اپنا خیال بیان کرتی ہیں کہ ابھی جواب نہیں ہے۔ بنیادی موضوع ایک ہی ہے: انسانیت جیسے خصوصیات اور فنڈز کے بغیر، قانونی ذمہ داری حقیقی دنیا کی ذمہ داری میں تبدیل نہیں ہو سکتی۔
اس خاصے شعبے کو دیکھنے والے پڑھنے والوں کے لیے، اہم عدم یقین یہ نہیں کہ عدالتوں کو AI کے نقصانات پر غور کرنا ہوگا — وہ کریں گی — بلکہ یہ ہے کہ وہ ذمہ داری کس طرح ڈویلپرز، ڈیپلویرز اور صارفین کے دیے گئے ہدایات کے درمیان تقسیم کریں گی۔ جب زیادہ واقعات ایجنسٹس کو کنٹرول شدہ ٹیسٹنگ ماحول سے باہر تیسرے افراد کے ساتھ تعامل کرتے ہوئے شامل ہوں گے، تو مقدمات زیادہ سے زیادہ غفلت کے تفصیلات پر منحصر ہونے لگیں گے: کون سے تحفظات موجود تھے، کون سے مقاصد فراہم کیے گئے تھے، اور اس خاص ڈیپلومنٹ میں “معقول طور پر قابل پیش بینی” غلط استعمال کیا دکھائی دیا۔
یہ مضمون اصل میں بے قاعدہ AI ایجنس کے لیے قانونی ذمہ داری: جب چیزیں خراب ہو جائیں تو کون ادا کرتا ہے؟ پر شائع کیا گیا تھا Crypto Breaking News – آپ کا اعتماد کرنے کے قابل ذریعہ کرپٹو خبروں، بٹ کوائن خبروں اور بلاک چین اپڈیٹس کے لیے۔