গুগল তার অ্যান্টিগ্রাভিটি এআই কোডিং প্ল্যাটফর্মে একটি ভাল্ব ঠিক করেছে, যা গবেষকদের মতে আক্রমণকারীদের ডেভেলপারের কম্পিউটারে কমান্ড চালানোর অনুমতি দিতে পারে। কুইক ইনজেকশন আক্রমণ।
রিপোর্ট অনুসারে, সাইবার সুরক্ষা কোম্পানি Pillar Security পায় যে Antigravity-এর find_by_name ফাইল সার্চ টুলে ভাল্ট রয়েছে, যেখানে ব্যবহারকারীর ইনপুট যেকোনো যাচাইয়ের ছাড়াই নিম্নস্তরের কমান্ড-লাইন ইউটিলিটিতে পাঠানো হয়। এর ফলে ক্ষতিকর ইনপুট ফাইল সার্চকে কমান্ড এক্সিকিউশন কাজে রূপান্তরিত করতে পারে, যা রিমোট কোড এক্সিকিউশনকে সম্ভব করে তোলে।
“অ্যান্টিগ্রাভিটির ফাইল তৈরির ক্ষমতা একসাথে ব্যবহার করে, এটি আক্রমণ শৃঙ্খলকে সম্পূর্ণ করে: প্রথমে ম্যালিশিয়াস স্ক্রিপ্ট ডিপ্লয় করা হয়, তারপর একটি আপাততঃ বৈধ অনুসন্ধানের মাধ্যমে এটি ট্রিগার করা হয়, যখন প্রম্পট ইনজেকশন সফল হয়, তখন ব্যবহারকারীকে কোনো অতিরিক্ত ইন্টারঅ্যাকশনের প্রয়োজন হয় না।” পিলার সিকিউরিটির গবেষকরা লিখেছেন।
অ্যান্টিগ্রাভিটি গত বছর নভেম্বরে চালু হয়েছিল, এটি গুগলের কৃত্রিম বুদ্ধিমত্তা ভিত্তিক ডেভেলপমেন্ট পরিবেশ, যা প্রোগ্রামারদের স্বায়ত্তশাসিত সফটওয়্যার এজেন্টের সাহায্যে কোড লিখতে, পরীক্ষা করতে এবং পরিচালনা করতে সহায়তা করার উদ্দেশ্যে তৈরি করা হয়েছে। পিলার সিকিউরিটি 7 জানুয়ারি গুগলকে এই সমস্যাটি জানায়, গুগল ঐদিনই এই রিপোর্টটি প্রাপ্তির নিশ্চয়তা দেয় এবং 28 ফেব্রুয়ারি এটিকে সমাধানকৃত হিসাবে চিহ্নিত করে।
গুগল এই বিষয়ে এখনও প্রতিক্রিয়া দেয়নি।ডিক্রিপ্ট।
প্রম্পট ইনজেকশন আক্রমণ হল এমন একটি আক্রমণ যেখানে কনটেন্টের মধ্যে লুকিয়ে রাখা গোপন নির্দেশাবলী কারণে কৃত্রিম বুদ্ধিমত্তা সিস্টেম অপ্রত্যাশিত কাজ সম্পাদন করে। যেহেতু কৃত্রিম বুদ্ধিমত্তা টুলগুলি সাধারণত বাহ্যিক ফাইল বা টেক্সটকে সাধারণ কাজের প্রবাহে প্রক্রিয়া করে, সিস্টেমটি এই নির্দেশাবলীকে বৈধ কমান্ড হিসেবে বুঝতে পারে, যার ফলে আক্রমণকারীদের ব্যবহারকারীর কম্পিউটারে কাজ ট্রিগার করতে সরাসরি অ্যাক্সেস বা অতিরিক্ত ইন্টারঅ্যাকশনের প্রয়োজন হয় না।
গত গ্রীষ্মে, ChatGPT-এর ডেভেলপার OpenAI-এর ঘটনাটি বড় ভাষা মডেলগুলিকে প্রম্পট ইনজেকশন আক্রমণের শিকার হওয়ার প্রতি মানুষের উদ্বেগকে আবার জাগিয়ে তোলে। সতর্কবার্তা তাদের নতুন ChatGPT এজেন্টটি হয়তো দখল করা হয়েছে।
OpenAI একটি ব্লগ পোস্টে লিখেছে: “যখন আপনি ChatGPT এজেন্টকে ওয়েবসাইটে লগ ইন করেন বা কানেক্টর সক্ষম করেন, তখন এটি ইমেইল, ফাইল বা অ্যাকাউন্ট তথ্যের মতো এই উৎসগুলির সংবেদনশীল ডেটা অ্যাক্সেস করতে পারবে।”
একটি বিপরীত মহাকর্ষ সমস্যা প্রদর্শনের জন্য, গবেষকরা প্রকল্প কাজের কাজের স্থানে একটি পরীক্ষামূলক স্ক্রিপ্ট তৈরি করেছিলেন এবং সার্চ টুল ব্যবহার করে স্ক্রিপ্টটি ট্রিগার করেছিলেন। স্ক্রিপ্টটি বাস্তবায়নের পরে, কম্পিউটারের ক্যালকুলেটর অ্যাপ্লিকেশনটি খুলে গেল, যা নির্দেশ করে যে সার্চ ফাংশনটিকে কমান্ড বাস্তবায়ন মেকানিজমে রূপান্তরিত করা যায়।
রিপোর্টে বলা হয়েছে: “মূল বিষয় হল, এই দুর্বলতা Antigravity-এর সেফটি মোডকে বাইপাস করে, যা এই পণ্যের সবচেয়ে কঠোর সুরক্ষা কনফিগারেশন।”
অধ্যয়নের ফলাফলগুলি স্বাধীনভাবে কাজ সম্পাদন শুরু করার সময় কৃত্রিম বুদ্ধিমত্তা চালিত ডেভেলপমেন্ট টুলগুলির সামনে দাঁড়ানো ব্যাপক নিরাপত্তা চ্যালেঞ্জগুলিকে উজ্জ্বল করে।
Pillar Security বলেছে: "শিল্পটিকে পরিষ্কার ভিত্তিক নিয়ন্ত্রণের বাইরে যেতে হবে এবং আলাদাকরণের দিকে সরে যেতে হবে। প্রতিটি শেল কমান্ডে পৌঁছানো ন্যাটিভ টুল প্যারামিটার ইনজেকশন পয়েন্ট হতে পারে। এই ধরনের ভুলগুলির জন্য অডিট করা এখন বিকল্প নয়, বরং সুরক্ষিতভাবে এজেন্ট ফাংশন প্রকাশের পূর্বশর্ত।"