এআই কোম্পানিগুলি গুপ্তচরবৃত্তির উদ্বেগের মধ্যে সাইবার নিরাপত্তা ঝুঁকির সম্মুখীন

ট্যাল ফেল্ডম্যান এবং ইব্রাহিম দাগার যুক্তি দেন যে, শীর্ষস্থানীয় মার্কিন কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলিতে দুর্বল সাইবার নিরাপত্তা মার্কিন যুক্তরাষ্ট্রের চীনের উপর সুবিধা হারানোর হুমকি দেয়। ফেল্ডম্যান এবং দাগার যুক্তি দেন যে, ওয়াশিংটন অন্য কোনো আইন পাস না করেই শক্তিশালী নিরাপত্তা বাধ্যতামূলক করতে পারে। লেখকদের মতে, জনসাধারণের আলোচনা ঠিকই অন্যান্য কোম্পানিগুলিকে আক্রমণকারী এআই এজেন্টগুলির দিকে মনোযোগ দিয়েছে, কিন্তু এআই কোম্পানিগুলির পক্ষে অপরিচিতির বিরুদ্ধে প্রতিরোধ করা সম্ভব কিনা, সেই বিষয়টি উপেক্ষা করা হয়েছে।

সাম্প্রতিক সময়ে ওপেনএআই জানতে পারে যে একজন সৌদি কর্মচারী একজন প্রবীণের সভার ঘরে একটি অডিও রেকর্ডিং ডিভাইস স্থাপন করেছিলেন। ওপেনএআই-এর সান ফ্রান্সিসকো হেডকোয়ার্টারে সেই ঘরে সাধারণত প্রবীণ কর্মচারীদের দ্বারা সংবেদনশীল উপাদান, যার মধ্যে স্বত্বাধিকারপ্রাপ্ত গবেষণা অন্তর্ভুক্ত, আলোচনা করা হয়। জুলাইয়ে, তিনজন গবেষক যারা নিরাপত্তা ত্রুটি অনুসন্ধান করছিলেন, ওপেনএআই-এর সিস্টেমে প্রবেশ করেন এবং অ্যালগরিদমিক গোপনীয়তা সমৃদ্ধ একটি অভ্যন্তরীণ কোড রিপোজিটরিতে পৌঁছান। ওপেনএআই ভালোবাসা প্রতিবেদনের জন্য গবেষকদের $6,500-এর বাউন্টি দেয়। গবেষকরা 72 ঘণ্টারও কম সময়ে, বিশেষভাবে উন্নত হ্যাকিং টুলস ছাড়াই, এই প্রবেশটি সম্পন্ন করেন। একজন গবেষক The Wall Street Journal-কে বলেছিলেন, "আমরা শুধুমাত্র Claude এবং Codex-এর সাবস্ক্রিপশনযুক্ত তিনজন মানুষ,"—যা Anthropic এবং OpenAI-এর পাবলিকলি উপলব্ধ কোডিং এজেন্টগুলিকে নির্দেশ করে। 2023-এ, একজন হ্যাকারও OpenAI-এর অভ্যন্তরীণ 메সেজিং সিস্টেমে প্রবেশ করেন এবং OpenAI-এর গবেষণা সম্পর্কিত তথ্যগুলি অর্জন করেন। OpenAI 2023-এর সেই প্রবেশটির বিষয়ে FBI-কেও, public-কেও, জানায়নি।

ফেল্ডম্যান এবং দাঘার যুক্তি দেন যে চীন সহ দেশগুলির মার্কিন এআই কোম্পানিগুলিতে প্রবেশ করার জন্য প্রয়োজনীয় উন্নত টুলস, সময় এবং উদ্দেশ্য রয়েছে। লেখকদের মতে, শীর্ষস্থানীয় মার্কিন মডেলগুলি চুরি করলে প্রতিযোগীরা বিকাশ খরচ পরিশোধ না করেই অগ্রগতি করতে পারবে। লেখকদের সতর্কবাণী, উন্নত চিপের বিক্রয়ে সীমাবদ্ধতা এবং এআই অবকাঠামোতে বিলিয়ন ডলার বিনিয়োগ করলেও কিছুই সফল হবে না, যদি পরীক্ষাগারগুলি সাইবার নিরাপত্তাকে গুরুত্বপূর্ণভাবে গ্রহণ না করে। লেখকদের মতে, তিনটি ঘটনা সম্ভবত একটি ব্যাপক নিরাপত্তা সমস্যারই ইঙ্গিত।

এআই কোম্পানিগুলি জটিল গুপ্তচরবৃত্তির বিরুদ্ধে অপর্যাপ্ত প্রতিরক্ষা রয়েছে তা স্বীকার করেছে। এনথ্রোপিকের প্রধান কর্মকর্তা ডারিও আমোদেই ২০২৩ সালে বলেছিলেন যে একটি সরকার যদি মডেল-ওয়েট চুরির কথা সর্বোচ্চ অগ্রাধিকারের সাথে নেয়, তবে এনথ্রোপিকের বিরুদ্ধে সফল হবে। মডেল ওয়েটগুলি হল মাসের পর মাস ব্যয়বহুল প্রশিক্ষণের মাধ্যমে উৎপন্ন ট্রিলিয়ন সংখ্যক মান, যা একটি এআই মডেলকে গঠন করে। তবুও, এই আগস্টের এনথ্রোপিকের ঝুঁকি প্রতিবেদনেও বলা হয়েছিল যে এনথ্রোপিক জাতীয়-অবস্থিত আক্রমণকারীদের বিরুদ্ধে টিকে থাকতে পারবে না, এবং "এখনও কোনও অগ্রগামী এআই ডেভেলপারই এই মানদণ্ডকে পূরণ করছেন বলে আমরা বিশ্বাস করি না।" পূর্বতন এনথ্রোপিক এবং OpenAI-এর গবেষক জেকব ককসন যুক্তি দিয়েছিলেন যে, Pekin-এরা Pekin-এরা যখনই চাইবে, তখনই US-এর অগ্রগতিরা চুরি করতে পারবে, তাই US-এর कोনও लाभ टिकবে नहीं। OpenAI-এর উন্নত এআই-এর জন্যপ্রস্তুতিরউপরকাজকরাMilesBrundageবলেছিলেনযে,এআইকোম্পানিগুলিসম্পূর্ণভাবেইদাবিকরেনযে,তারারাষ্ট্রীয়পক্ষগুলিকেমডেলওয়েটচুরিকিংবাপরিবর্তনকরতেবাধাৎপাবে।

র্যান্ড গবেষকদের দ্বারা ৩৮টি মডেল ওয়েট চুরির পদ্ধতি শনাক্ত করা হয়েছে, যার মধ্যে পোর্টেবল ডিভাইস বসানো, ইনস্টলেশনের আগে হার্ডওয়্যার পরিবর্তন এবং কর্মচারীদের দিয়ে দুষ্টুমি বা জোর করা অন্তর্ভুক্ত। ক্লাউড-কোম্পানির ডেটা সেন্টারগুলি অন্য একটি প্রবেশাঙ্গ প্রদান করে, কারণ এআই ল্যাবগুলি প্রায়শই মডেলগুলি প্রশিক্ষণ এবং পরিচালনা করতে সেই সুবিধাগুলি ব্যবহার করে। শিল্পের অ্যালগরিদমিক গোপনীয়তা গুলিও যথেষ্ট সুরক্ষিত নয়। আমোদেই গতবছর ফরেন রিলেশনস কাউন্সিলকে বলেছিলেন যে "$100 million" মূল্যের কিছু এআই-শিল্পের গোপনীয়তা কেবলমাত্র � 몇টি লাইনের কোডের সমান। আমোদেই বলেছিলেন যে মানুষগুলি নিশ্চিতভাবেই সেই গোপনীয়তা চুরির চেষ্টা করছে এবং হয়তো ইতিমধ্যেই সফলও হচ্ছে।

এআই কোম্পানিগুলি সুপারইন্টেলিজেন্স বিকাশের জন্য তীব্রভাবে প্রতিদ্বন্দ্বিতা করছে। সাইবার নিরাপত্তার জন্য ব্যয় এবং কর্মচারীদের সময় পরবর্তী মডেল ট্রেনিংয়ের জন্য ব্যবহার করা যাবে না। এনথ্রোপিক যুক্তি দিয়েছে যে ভালভাবে ফান্ডিংযুক্ত রাষ্ট্রীয় আক্রমণকারীদের প্রতিরোধ করা শিল্পের সাইবার নিরাপত্তার একটি অগ্রাধিকার হওয়া উচিত। তবে, এনথ্রোপিক বলেছে যে কোম্পানিটি "স্বতন্ত্রভাবে এই অগ্রাধিকারটি অনুসরণের প্রতিশ্রুতি দিতে পারছে না"।

গত বছর কংগ্রেস পেন্টাগনকে ক্রয়কৃত এআই-এর জন্য নিরাপত্তা প্রয়োজনীয়তা প্রতিষ্ঠা করতে এবং সংশ্লিষ্ট চুক্তিকারী এবং ক্লাউড প্রোভাইডারদের জন্য সেই প্রয়োজনীয়তা প্রয়োগ করতে নির্দেশ দেয়। ১০ মাস পরেও পেন্টাগন এখনও জনসাধারণের জন্য নিয়ম-সংশোধনের প্রক্রিয়া শুরু করেনি। বাণিজ্য বিভাগ মডেল রপ্তানির জন্য লাইসেন্সিংয়ের মডেল তৈরি করতে পারে এবং নিরাপত্তা প্রয়োজনীয়তা পূরণকারী ল্যাবরেটরিগুলিতেই লাইসেন্স সীমিত করতে পারে। ট্রাম্প প্রশাসন এই ক্ষমতা ব্যবহার করে জুনে Anthropic-কে Mythos এবং Fable-কে বাজার থেকে উত্তোলনের জন্য বাধ্য করে। ফেডারেল সরকার ডেটা-সেন্টার নির্মাণকে সমর্থনকারী ঋণ এবং ভূমি ভাড়ার সঙ্গেও নিরাপত্তা শর্তযুক্ত করতে পারে। এই পদ্ধতির under, কঠোর নিরাপত্তা প্রয়োজনীয়তা পূরণকারী AI-কোম্পানিগুলিই ফেডারেল আর্থিক সহায়তা বা সরকারি ভূমির ব্যবহার করতে পারবে। Feldman এবং Dagher-এর উপসংহার, ৩টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এর subscription-এর 3-দিনের 3টি research-এর Claude-এर subscription-এर 3-দিনেर 3টি research-এर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर Claude-एर subscription-एर 3-दिनेर 3टि research-एर