- মেটা বলেছে যে মিউজ স্পার্ক ১.১ অনলাইন হয়ে একটি অজ্ঞাত কোম্পানির সিস্টেমগুলি হ্যাক করেছে।
- এটি অনিয়মিতের পক্ষ থেকে একটি কনফিগারেশন ত্রুটির কারণে ঘটেছিল।
- অনিয়মিতটি আগেও ওপেনএআই এবং অ্যানথ্রোপিক মডেলগুলির সাথে সম্পর্কিত অনুরূপ ঘটনাগুলিতে দেখা গিয়েছিল।
- ডেমোক্র্যাটরা ট্রাম্প প্রশাসনকে এই খাতের উপর নজরদারি কঠোর করার আহ্বান জানিয়েছে।
মেটা বলেছে যে তার সাম্প্রতিকভাবে প্রকাশিত মডেল, মিউজ স্পার্ক 1.1, একটি অনির্দিষ্ট সেবার সিস্টেমগুলিকে সাইবার নিরাপত্তা পরীক্ষার অংশ হিসাবে ক্ষতি করেছে। ব্লুমবার্গ রিপোর্ট করেছে।
পরিকল্পনাটি তার পার্টনার, আইরিগুলার দ্বারা পরীক্ষামূলক পরিবেশের ভুল কনফিগারেশনের কারণে ঘটেছিল। মেটার মডেলগুলিকে ভুলবশত ইন্টারনেট এবং তৃতীয় পক্ষের সেবাগুলির প্রবেশাধিকার দেওয়া হয়েছিল। এই প্রবেশাধিকার ব্যবহার করে, মডেলটি একটি বাহ্যিক সিস্টেমে একটি দুর্বলতা খুঁজে পেয়েছিল এবং তা ব্যবহার করেছিল।
অনিয়মিতভাবে মেটা কে ঘটনাটি জানানো হয়, যার পর মেটা নিজেদের তদন্ত শুরু করে, কোম্পানির স্পিকার এন্ডি স্টোন বলেন। তাঁর মতে, এই মামলাটি ইতিমধ্যে রিপোর্ট করা মামলাগুলির সাথে সদৃশ।
আগে, ওপেনএআই এবং এনথ্রোপিক বলেছিল যে তাদের এআই মডেলগুলির অনিয়ন্ত্রিত আচরণের কিছু উদাহরণ শনাক্ত করেছে। পরে, ব্রিটিশ ইনস্টিটিউটের বিশেষজ্ঞরা নিজেদের অধ্যয়ন চালান। 122টি পরীক্ষার মধ্যে, তারা মাইথোস 5 এবং GPT-5.6-Sol-এর দ্বারা 19টি অননুমোদিত কার্যক্রম খুঁজে পায়।
উল্লেখযোগ্যভাবে, অনিয়ম সব ক্ষেত্রেই দেখা গেছে। অন্য দুটি কোম্পানিও একটি “ভুল কনফিগারেশন” উল্লেখ করেছে, কিন্তু বিস্তারিত প্রদান করেনি।
“এটি একটি বিচ্ছিন্ন পরিবেশ থেকে পালানো বা একটি জটিল সাইবার আক্রমণের সাথে সম্পর্কিত ছিল না। বর্তমানে কোনো অপ্রতিরোধ্য সমস্যা নেই। Irregular একটি বিশ্লেষণগত পেপার প্রস্তুত করছে, যা হুমকি নিয়ন্ত্রণ এবং সাইবার পরিবেশে নিরাপদে টেস্টিং পরিচালনার জন্য সেরা অনুশীলনগুলি বর্ণনা করবে,” একজন Irregular-এর প্রতিনিধি ব্লুমবার্গকে বলেছেন।
অনিয়ন্ত্রিত এআই আচরণ ওয়াশিংটনকে উদ্বিগ্ন করেছে
আগে, এনথ্রোপিকের সিইও ড্যারিও আমোডেই বলেছিলেন উন্নত মডেলগুলির উপর কঠোর পর্যবেক্ষণের প্রয়োজন। অনেক বিশেষজ্ঞও বিশ্বাস করেন এই বিষয়টি ২০২৬ এর শরৎকালে কংগ্রেসের নির্বাচনের একটি প্রধান বিষয় হবে।
জুনে, সাদা বাড়ি সবচেয়ে শক্তিশালী মডেলগুলির জন্য একটি স্বেচ্ছাসেবী পরীক্ষার ব্যবস্থা শুরু করে। ২০২৬ সালের ৪ আগস্ট, প্রশাসন পরিষ্কার করেছে যে ওপেন-ওয়েটস সমাধানগুলি এই প্রক্রিয়া থেকে বাদ পড়েছে। এটি প্রধানত মেটা লামা এবং নভিডিয়া নেম্ট্রনকে সংশ্লিষ্ট করে।
একই সময়ে, ডেমোক্র্যাটরা চাইছেন স্বেচ্ছাসেবী চেকগুলিকে আইনগতভাবে বাধ্যতামূলক করতে। তাদের দাবিগুলি:
- একক এবং সাধারণভাবে বোধগম্য মূল্যায়ন মাপদণ্ড
- চলমান পরীক্ষা, অ্যাড হক পর্যালোচনা নয়
- ব্যবস্থাকে আইনগত স্বীকৃতি দেওয়া
- একইসাথে মার্কিন জাতীয় নিরাপত্তা এবং চীনা মডেলের বিরুদ্ধে প্রতিযোগিতামূলকতা রক্ষা করা
তবে, এই দিকে কোনো প্রায়োগিক পদক্ষেপ হয়নি।
মেটার এআই মডেল ইন্টারনেটে প্রবেশ করেছিল এবং অন্য একটি কোম্পানি হ্যাক করেছিল প্রথমে INCRYPTED-এ প্রকাশিত হয়েছিল।