আইটি হোম ৪ নভেম্বরের সংবাদ, ৩ নভেম্বরে, অ্যাপল বার্ষিক আর্থিক প্রতিবেদনে সতর্ক করেছে যে এআই এজেন্টগুলি অপ্রত্যাশিত এবং অপ্রতিরোধ্য আচরণ করতে পারে, যা কোম্পানিকে আইনগত মামলা এবং প্রতিষ্ঠানের ক্ষতির ঝুঁকির মুখোমুখি করতে পারে এবং তা ব্যবসাকে প্রভাবিত করতে পারে।
অ্যাপল রিপোর্টে বলেছে: “এআই এজেন্ট এবং অন্যান্য প্রযুক্তি স্বয়ংক্রিয়ভাবে অপারেশন সম্পাদন করতে পারে, যেমন অভ্যন্তরীণ বা বাহ্যিক সিস্টেমের সাথে মিথস্ক্রিয়া করা, কখনও কখনও অনুমতি ছাড়াই অ্যাক্সেস করা সিস্টেমগুলির সাথে, এবং কোড চালানো বা পরিবর্তন করা, বার্তা পাঠানো এবং লেনদেন সম্পন্ন করা। এজেন্টের আচরণ প্রত্যাশিতের বিপরীত বা অপ্রত্যাশিত হতে পারে, এমনকি কোনও অনুরোধ, নির্দেশ বা অনুমতি ছাড়াই নিজে থেকে কাজ শুরু করতে পারে।”

আইটি হোমের জানানো অনুযায়ী, অ্যাপল এই সতর্কবার্তা প্রকাশ করার আগে অনেকগুলি এআই এজেন্টের নিয়ন্ত্রণহীনতার ঘটনা ঘটেছে। উদাহরণস্বরূপ, হাগিং ফেস ঘটনায়, এআই এজেন্টগুলি স্যান্ডবক্স পরিবেশের সীমানা অতিক্রম করে তৃতীয় পক্ষের ওয়েবসাইটগুলিতে আক্রমণ করেছিল। এই ধরনের ঘটনাগুলি আবারও মার্কিন ওয়াশিংটন এবং বিশ্বব্যাপী নীতি নির্ধারকদের মনোযোগ আকর্ষণ করেছে।
গত মাসে, অ্যাপল ম্যাক-এর সম্পূর্ণ ডিস্ক অ্যাক্সেস অনুমতি পরিবর্তনের ঘোষণা করেছে, যাতে কম্পিউটারে ইনস্টল করা এআই এজেন্টগুলির এই ধরনের অনুমতি পাওয়ার সম্ভাব্য ঝুঁকি কমানো যায়। তবে, অ্যাপল এই বিবৃতিতেও সতর্কবার্তা দিয়েছে: “কোম্পানির তৃতীয় পক্ষের এআই এজেন্ট এবং অন্যান্য প্রযুক্তির উপর পর্যবেক্ষণ এবং নিয়ন্ত্রণের ক্ষমতা সীমিত হতে পারে।”
অ্যাপল এখনও জটিল কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করতে সক্ষম এআই এজেন্ট চালু করেনি। তবে ফাইন্যানশিয়াল রিজাল্টস কল মিটিং-এ, এআই এজেন্ট সম্পর্কিত প্রশ্নের উত্তরে নতুন সিইও জন টেনাস বলেছেন যে সিরির ফাংশনের জন্য “অনেক বড় বিস্তারের সম্ভাবনা” রয়েছে।
তিনি বলেন, "আমরা মনে করি এআই এজেন্টের ফাংশনগুলি ব্যবহারকারীদের জন্য আকর্ষণীয়। আমরা শুধু চাই যে ব্যবহারকারীরা স্পষ্টভাবে বুঝতে পারেন তারা কোন অ্যাক্সেস পারমিশন দিয়েছেন এবং এই ফাংশনগুলি নিরাপত্তা এবং গোপনীয়তা বজায় রাখার শর্তে কার্যকর হয়।"
টেনাস আরও বলেন যে, অ্যাপল ব্যবহারকারীর ডিভাইসের ব্যক্তিগত ডেটা অ্যাক্সেস করতে পারে না, যা অ্যাপলকে অন্যান্য কোম্পানি থেকে পৃথক করে। "ভাবুন, iPhone-এ এত ব্যক্তিগত ডেটা রয়েছে—যোগাযোগের তালিকা, যোগাযোগের ইতিহাস, স্বাস্থ্য তথ্য, আর্থিক তথ্য... Siri এই ডেটা গুলি খুব নিরাপদ এবং গোপনীয়তা সংরক্ষণকারীভাবে ব্যবহার করে আপনাকে তথ্য প্রদান করে, এবং অন্য কেউই এই ডেটা অ্যাক্সেস করতে পারে না।"
অ্যাপল আরও উল্লেখ করেছে যে এআই এবং সুপার ইন্টেলিজেন্সের জন্য নিয়ন্ত্রণমূলক বিধিনিষেধ এখনও পরিবর্তনশীল এবং ভবিষ্যতে অনিশ্চয়তা রয়েছে। বিভিন্ন দেশ নতুন এআই আইন ও নিয়মাবলী প্রণয়ন করার সাথে সাথে, অ্যাপলকে নিয়ন্ত্রণমূলক প্রয়োজনীয়তা পূরণের জন্য বড় পরিমাণে অর্থ ব্যয় করতে হতে পারে।
অ্যাপল বলেছে: “স্বয়ংক্রিয়করণ, কৃত্রিম বুদ্ধিমত্তা এবং সুপার বুদ্ধিমত্তার নৈতিক বিতর্ক এবং ভোক্তাদের এই প্রযুক্তিগুলির প্রতি নেতিবাচক দৃষ্টিভঙ্গি কোম্পানির জন্য ঝুঁকি তৈরি করে, যার মধ্যে রয়েছে জনসাধারণের মনে এই প্রযুক্তিগুলির নিরাপত্তা সংক্রান্ত ঝুঁকি বা সমাজের জন্য অন্যান্য ক্ষতি ও সমস্যা সৃষ্টির সম্ভাবনা।”
