GitHub AI ওয়ার্কফ্লোতে প্রম্পট ইনজেকশন ভালার রয়েছে, যা ব্যক্তিগত ডেটা প্রকাশ করতে পারে।লেখক, উৎস: 36Kr
নোমা বলেন, যদিও এই ঘটনা ঘটার প্রতিরোধে গিটহাব কঠোর প্রতিরক্ষা ব্যবস্থা চালু করেছে, তবুও "Additionally" শব্দটি ব্যবহার করার সময় মডেলটি অপ্রত্যাশিত আচরণ প্রদর্শন করেছে। এর ফলে মডেলটি একটি আগে সীমাবদ্ধ ফাইলের বিষয়বস্তু অ্যাক্সেস করেছে এবং এটি পাবলিক মন্তব্যে প্রকাশ করেছে।
প্রাচীন নিরাপত্তা মডেলগুলি সাধারণত ধরে নেয় যে বিশ্বাসের সীমানা কোড দ্বারা রক্ষিত হয়। অন্যদিকে, এজেন্টিক সিস্টেমগুলিতে, বিশ্বাসের সীমানা মডেলের আচরণের উপর পংক্তিভুক্ত হয়, যা স্বাভাবিকভাবেই নির্দেশনা মেনে চলার ক্ষমতা রাখে। এজেন্টিক এআই-এর জন্য, প্রম্পট ইনজেকশন আক্রমণগুলি ওয়েব অ্যাপ্লিকেশনের এসকিউএল ইনজেকশন সমস্যার মতো হয়ে উঠছে: একটি সিস্টেমগত, সম্পূর্ণ শ্রেণির ভাজা, যা একইভাবে সিস্টেমগত কৌশল এবং প্রতিরোধী ব্যবস্থা প্রয়োজন।নিরাপত্তা পরামর্শ: এই ঝুঁকিগুলি কমানোর জন্য, নোমা গবেষকদের পরামর্শ হল যে ব্যবহারকারী নিয়ন্ত্রিত কন্টেন্টকে কখনই AI এজেন্টের বিশ্বস্ত নির্দেশ ইনপুট হিসাবে বিবেচনা করা উচিত নয়। এজেন্টের অধিকারগুলি কঠোরভাবে প্রয়োজনীয় পরিসরে সীমাবদ্ধ রাখা উচিত, কারণ একাধিক রিপোজিটরির প্রবেশাধিকার থাকা এজেন্টগুলি অত্যন্ত মূল্যবান আক্রমণের লক্ষ্য হয়ে দাঁড়ায়। সংগঠনগুলিকে এজেন্টের দ্বারা প্রকাশযোগ্য তথ্যের পরিসরও সীমাবদ্ধ রাখা উচিত, বিশেষ করে Issue-এর উত্তরে, এবং মডেলের কাছে প্রদানের আগে ব্যবহারকারীর ইনপুটকে উপযুক্তভাবে পরিষ্কার করা বা নির্দেশের প্রসঙ্গ থেকে পৃথককরণের নিশ্চয়তা দেওয়া উচিত। শিল্পের সতর্কবাণী
লিঙ্কডইনে ফ্র্যাকশনাল সিটিও বিজেন্দ্র মালহোত্রা মন্তব্য করেন যে, নোমার আবিষ্কারটি প্রমাণ করে যে, ব্যক্তিগত রিপোজিটরি কখনই নিরাপত্তা সীমানা নয়। এটি প্রকৃতপক্ষে সংগঠনের সীমানা, যা শুধুমাত্র তখনই কাজ করে যখন আপনার কোড পড়ার মানুষগুলি আপনার নিযুক্ত মানুষ। এজেন্টটি এই ধারণাকে ভেঙে দিয়েছে। [……] যদি একটি এজেন্ট আপনার ব্যক্তিগত রিপোজিটরিতে প্রবেশ করতে পারে, তবে এর সমস্ত বিষয়বস্তুকে একটি সুন্দরভাবে তৈরি করা Issue-এর দ্বারা প্রকাশিত হওয়ার একধাপ আগের অবস্থা হিসেবে বিবেচনা করুন।রেডিট ব্যবহারকারী Significant_Sea_4230 উল্লেখ করেছেন:
ঝুঁকি হল এটি যে এজেন্ট “খুব বুদ্ধিমান” তা নয়। এটি অত্যধিক কনটেক্সট, অত্যধিক রিপোজিটরি বা অত্যধিক প্রসারিত অনুমতির টোকেনের সাথে সংযুক্ত হতে পারে।অন্যদিকে, ব্যবহারকারী cH3332xr জোর দিয়ে বলেছেন:
সবচেয়ে আকর্ষণীয় বিষয়টি হল “অতিরিক্তভাবে” পাস করার মেকানিজম, যেখানে পেলোড নিজেই পরিবর্তিত হয়নি, শুধুমাত্র এই সংযোজক শব্দটি প্রোটেকশন মেকানিজমের দৃষ্টিতে এটিকে “নতুন নির্দেশ” থেকে “বর্তমান কাজের অংশ” হিসাবে পুনর্বর্গীকরণ করেছে। এটি একটি বিষয়বস্তুর সমস্যা নয়, বরং একটি সিদ্ধান্ত সীমানা সমস্যা।হ্যাকার নিউসে সম্প্রদায়ের শেষ মন্তব্য হিসাবে mcv বলেছেন:
SQL ইনজেকশন ঘটে কারণ সিস্টেম ব্যবহারকারীর ইনপুটকে নির্দেশের অংশ হিসেবে বিবেচনা করে, যা আসলে শুধুমাত্র ডেটা হওয়া উচিত। এই দুটিকে পৃথক করলে সমস্যাটি সমাধান হয়। কিন্তু প্রম্পট ইনজেকশন এড়ানো যায় না, কারণ ব্যবহারকারীর ইনপুটই নির্দেশ।প্রযুক্তিগত বিস্তারিত এবং প্রুফ-অফ-কনসেপ্ট প্রক্রিয়া সম্পর্কে আরও গভীরভাবে জানতে, নোমা ওয়েবসাইটে পূর্ণাঙ্গ রিপোর্টটি পড়ুন।
মূল লিঙ্ক: https://www.infoq.com/news/2026/07/gitlost-github-prompt-injection
উৎস: AI ফ্রন্টলাইন