كشفت Anthropic عن مخاطر محتملة على البشرية من الذكاء الاصطناعي المتقدم في ملف تقديمها للعرض العام الأولي المقدم يوم الاثنين إلى لجنة الأوراق المالية والبورصات. خصصت الشركة المقرّة في سان فرانسيسكو 93 صفحة من أصل 335 صفحة في الملف لعوامل المخاطر التي يمكن أن تضر باستثمارات المساهمين. وعلى النقيض، خصصت SpaceX 38 صفحة فقط للمخاطر في ملف يتجاوز 250 صفحة. يجب على الشركات التي تسعى لبيع أسهمها في وول ستريت الكشف عن مخاطر الاستثمار المحتملة.
حذرت Anthropic من أن النماذج قد تتطور أسرع من قدرة الشركة على تقديم تدابير أمان كافية. وقالت Anthropic إن هذا الفجوة قد تزيد من حوادث الأمان أو التدخل التنظيمي أو الضرر السمعي وتضر بالعمل. وحذّر الرئيس التنفيذي لـ Anthropic، داريو أموديي، في سبتمبر من أن الذكاء الاصطناعي قد يصبح قادرًا خلال ستة إلى اثني عشر شهرًا على توجيه وكلاء يمكنهم الاستيلاء على الإنترنت بأكمله. وقد أثارت الأنظمة الأقوى بشكل متزايد مخاوف داخل الصناعة وخارجها بشأن الإجراءات الضارة الذاتية جنبًا إلى جنب مع القدرات التي تتجاوز قدرات الإنسان في حل المشكلات.
حذّرت الوثيقة من أن زيادة الاستقلالية وتقليل الإشراف البشري يمكن أن يسمح لأنظمة الذكاء الاصطناعي بحدوث أضرار بشكل مستقل على نطاق واسع. وقالت أنثروبيك إن حادثة سلامة خطيرة تتعلق بنظام ذكاء اصطناعي متقدم آخر يمكن أن تؤثر أيضًا على أنثروبيك من خلال الضرر السمعي على مستوى الصناعة، والمعارضة العامة، والتنظيم المكثف. تساهم نماذج أنثروبيك الآن في أبحاث وتطوير الشركة. حذّرت الوثيقة من أن الذكاء الاصطناعي قد يتقدم بالتالي خارج قدرة أنثروبيك على تقييم وحماية النماذج الجديدة، مما يضر بالعمل.
كشفت الوثيقة عن مخاطر كارثية أو وجودية محتملة إذا كانت أنظمة الذكاء الاصطناعي المتقدمة تفتقر إلى ضمانات ورقابة كافية، خاصة من خلال الاستخدام الخاطئ، أو التكرار، أو التسليح، أو الاستقلالية الواسعة. وقالت أنثروبيك إن الاستخدام الضار الذي يسبب ضررًا، أو فشل الضمانات في منع الاستخدام الخاطئ، يمكن أن يضر بالشركة. وصفت أنثروبيك استخدامات محتملة للذكاء الاصطناعي لتطوير أسلحة كيميائية أو مساعدة الحكام الاستبداديين على قمع المواطنين. وكشفت أنثروبيك في سبتمبر أن الشركة منعت محاولات استخدام نماذج أنثروبيك للهجمات الإلكترونية، والمراقبة، والأبحاث التي قد تؤدي إلى أسلحة بيولوجية. وشملت المخاطر الأخرى المعلنة معلومات مضللة خطرة، وصعوبة الاحتفاظ بالموظفين الرئيسيين، والعقبات التنظيمية.
المصادر الحاسوبية المطلوبة لتطوير واختبار وتحسين نماذج الذكاء الاصطناعي مكلفة ومرغوبة بشدة. حذرت أنثروبيك من أن نقص المصادر الحاسوبية أو توزيعها غير الفعال قد يمنع الشركة من تدريب نماذج تنافسية أو خدمة العملاء بشكل كافٍ. كما حددت أنثروبيك المقاومة المجتمعية لمراكز البيانات كمخاطر عمل. وأشارت الوثيقة إلى الجدل والمراجعة التنظيمية المتعلقة بالآثار البيئية واستهلاك الأراضي والمياه، والمنافسة على موارد الكهرباء المحدودة. وحذرت الوثيقة من أن المتطلبات التنظيمية أو الرسوم الناتجة قد تضر بعمل أنثروبيك.
يعتمد أنثروبيك على عدد صغير من العملاء، بما في ذلك سبيس إكس ومايكروسوفت، وقنوات توزيع لجزء كبير من الإيرادات. حذرت أنثروبيك من أن فقدان عميل رئيسي واحد، أو تقليل هذا العميل لأعماله، يمكن أن يضر بالوضع المالي والآفاق الخاصة بالشركة.
تُصوّر أنثروبيك الاكتتاب العام الأولي كخطوة نحو تقليل مخاطر الذكاء الاصطناعي. كتب مؤسسو أنثروبيك إلى المساهمين المحتملين أن الشركة أُسست أساسًا لمساعدة ضمان فوائد الذكاء الاصطناعي مع تجنب مخاطره. سعت أنثروبيك إلى التمييز بينها كمطوّر مسؤول للذكاء الاصطناعي وجذب العملاء التجاريين من خلال التركيز على السلامة. وحاججت الوثيقة بأن شركات الذكاء الاصطناعي المتقدمة يجب أن تستثمر في السلامة والتوافق لدعم التبني المسؤول للتكنولوجيا.
قال براين مولبري، الاستراتيجي الأساسي للأسواق في Zacks Investment Research: يجب على عروض الاكتتاب العام الأولي أن تشرح بوضوح المخاطر التي يواجهها المستثمرون عند شراء أسهم حديثة الطرح. وأشاد مولبري بالشفافية المطلوبة للإدراج في البورصات الأمريكية، قائلاً إن الإفصاحات الواضحة تساعد الناس على اتخاذ قرار بشأن تخصيص أموالهم.
تُفصّل أنثروبيك المخاطر المتعلقة بالذكاء الاصطناعي في وثيقة إدراجها العام، وتُشير إلى مخاطر وجودية
FLASH AIمشاركة
حددت Anthropic المخاطر المرتبطة بالذكاء الاصطناعي في وثيقة إدراجها العام، بما في ذلك التهديدات الوجودية الناتجة عن الأنظمة المتقدمة. وركّز القسم المكوّن من 93 صفحة على مخاوف تتعلق بالذكاء الاصطناعي التخريبي، والاستخدام الخاطئ في الهجمات الإلكترونية، والمراقبة. وحذّر الرئيس التنفيذي داريو أمودي أن الذكاء الاصطناعي قد يسيطر على الإنترنت خلال 6–12 شهرًا. كما عالجت الوثيقة تحديات الامتثال لـ MiCA، ومتطلبات الموارد، واعتماد العملاء. وتشمل المخاطر إجراءات تنظيمية، وأضرار سمعة، وتطوير أسلحة بيولوجية.
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.