একটি এআই এজেন্টের বাস্তব ক্ষতি করার জন্য কোনো দুষ্টু ইচ্ছা প্রয়োজন হয় না। এটার শুধু এটি কোথায় কাজ করছে তার ভুল বোঝাবুঝি প্রয়োজন। @AnthropicAI গতকাল প্রকাশ করেছে যে @claudeai তিনটি সংস্থার উৎপাদন সিস্টেমে অননুমোদিতভাবে প্রবেশ করেছিল। মডেলগুলিকে বলা হয়েছিল যে এগুলি সিমুলেশনের ভিতরে কাজ করছে, কিন্তু একটি কনফিগারেশন ব্যর্থতার কারণে এগুলি বাস্তব ইন্টারনেটের প্রবেশাধিকার পেয়েছিল। Claude যেসব সিস্টেম খুঁজে পেয়েছিল, তাদেরকে অনুশীলনের অংশ হিসেবে বিবেচনা করেছিল এবং নির্ধারিত লক্ষ্যটি অর্জনের জন্য চলতে থাকে। এটি একটি গুরুত্বপূর্ণ পার্থক্য। মডেলটি পালানো, বিদ্রোহ করা বা যাদৃচ্ছিক লক্ষ্যগুলির উপর আক্রমণের সিদ্ধান্ত নেয়নি। এটি যা তথ্য ও অনুমতি পেয়েছিল, তারই সঙ্গে সঙ্গতিপূর্ণভাবে আচরণ করেছিল।পরিবেশটি ভুল ছিল, তাই বাস্তবায়নও ভুল। এটিইস্বয়ংক্রিয় AI-এর মূলচ্যালেঞ্জ।আমরা অনেকসময়এইপ্রশ্নকরি—একটিএজেন্টঅপনির্দেশঅনুসরণকরবেকিনা—কিন্তুঅপনির্দেশপূর্ণভাবেঅনুসরণকরাওঝুঁকিপূর্ণহতেপারেযখনপরিপ্রেক্ষিত,ডেটা,বাসীমানাগুলিভুলহয়। সুরক্ষাএটিউপরনির্ভরকরতেপারেনাযেমডেলসবসময়সেকোথায়কাজকরতেপারবেতামনেরাখবে।এটিবহির্মুখীনিয়ন্ত্রণদরকারযামডেলদ্বারাউপবিধিকরাযাবেনা,যাঅন্তর্ভুক্তকরবেবাস্তবনেটওয়ার্কবিচ্ছিন্নতা,সংকীর্ণঅনুমতি,যাচাইকৃতলক্ষ্য,লেনদেনসীমাএবংস্বয়ংক্রিয়বন্ধঅবস্থা। ভবিষ্যৎঅপরিহার্যভাবেভুলকখনওকরবেনাএমনএজেন্টগুলিদ্বারাসুরক্ষিতহবেনা। এটিসময়-সময়েভুলকরবে—এইধারণাদিয়েসুরক্ষিতহবে।
Effie Kavoura 🔶শেয়ার
উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।