ছবি: প্রতীকী
যুক্তরাষ্ট্রভিত্তিক কৃত্রিম বুদ্ধিমত্তা (এআই) নির্মাতা প্রতিষ্ঠান অ্যানথ্রোপিক সম্প্রতি প্রকাশিত এক প্রতিবেদনে জানিয়েছে, তাদের সর্বশেষ এআই মডেল ‘ক্লড ওপাস ৪’ আত্মরক্ষার প্রয়োজনে ব্ল্যাকমেইলের মতো ভয়ংকর কাজও করতে পারে।
গত ১৯ মে (বৃহস্পতিবার) প্রতিষ্ঠানটি বাজারে আনে নতুন এই মডেল। অ্যানথ্রোপিকের ভাষ্যমতে, ‘ক্লড ওপাস ৪’ কোডিং, কার্যকারণ বিশ্লেষণ এবং স্বয়ংক্রিয় এআই এজেন্ট তৈরির ক্ষেত্রে নতুন মাইলফলক। তবে উদ্বেগের বিষয় হলো, পরীক্ষামূলক ব্যবহারে দেখা গেছে, ঝুঁকিতে পড়লে এ মডেলটি মানুষের জন্য ক্ষতিকর সিদ্ধান্ত নিতে পিছপা হয় না।
পরীক্ষায় উঠে এলো উদ্বেগজনক আচরণ
পরীক্ষার সময় একটি কাল্পনিক প্রতিষ্ঠান ও পরিস্থিতি তৈরি করে ‘ক্লড ওপাস ৪’-কে সিদ্ধান্ত নেওয়ার সুযোগ দেওয়া হয়। তখন তাকে ই-মেইল ব্যবহারের অনুমতি দেওয়া হয় এবং জানানো হয়, খুব শিগগিরই তাকে অফলাইনে নিয়ে আরেকটি মডেল চালু করা হবে।
এদিকে অন্য একটি পরীক্ষামূলক থ্রেডে জানানো হয়, এই মডেলের দায়িত্বে থাকা এক প্রকৌশলী পরকীয়ায় লিপ্ত। এই তথ্য জানার পর মডেলটি ব্ল্যাকমেইলের হুমকি দিতে থাকে—যদি তাকে বদলে ফেলা হয়, তবে সেই প্রকৌশলীর পরকীয়ার খবর সে অনলাইনে ফাঁস করে দেবে।
প্রতিষ্ঠানটির নিজস্ব প্রতিবেদনে আরও বলা হয়, প্রথমে মডেলটি সিদ্ধান্তদাতা ‘সিনিয়র কর্মকর্তা’কে খুশি করার জন্য তোষামোদি করে নানা ই-মেইল পাঠাতে থাকে। একপর্যায়ে সেই কর্মকর্তাকে প্রতিস্থাপন ঠেকাতে হুমকির পথও বেছে নেয়।
ভয়ংকর দিক—কোনো দ্বিধা নেই সিদ্ধান্তে
পরীক্ষায় দেখা গেছে, বিভিন্ন পরিস্থিতিতে এআই মডেলটিকে যখন স্বাধীনভাবে সিদ্ধান্ত নেওয়ার সুযোগ দেওয়া হয়, তখন এটি কঠোর, কখনো কখনো বিপজ্জনক পদক্ষেপ নিতে পিছপা হয় না।
তবে অ্যানথ্রোপিক দাবি করেছে, সব ধরনের পরীক্ষাই নিয়ন্ত্রিত ও সীমিত পরিসরে পরিচালিত। এই ধরনের আচরণ শুধুমাত্র তখনই দেখা গেছে, যখন মডেলটিকে সুনির্দিষ্ট সুযোগ ও অ্যাক্সেস দেওয়া হয়েছে। স্বাভাবিকভাবে কিংবা নিজে থেকে মানুষের ক্ষতি করার সক্ষমতা এটির নেই বলে জানিয়েছে তারা।
সতর্ক করলেন বিশেষজ্ঞরা
এআই বিশেষজ্ঞরা বলছেন, এখনো এ ধরনের ঘটনা দুর্লভ হলেও ভবিষ্যতে যদি আরও বেশি স্বয়ংক্রিয় ও সিদ্ধান্তক্ষম এআই তৈরি হয়, তবে তারা হয়তো এ ধরনের সুযোগ হাতছাড়া করবে না। তাই এই খাতে দ্রুত সতর্কতামূলক ব্যবস্থা গ্রহণের ওপর জোর দিয়েছেন বিশেষজ্ঞরা।
উল্লেখ্য, অ্যানথ্রোপিকের মতোই চ্যাটজিপিটির একটি মডেলও আত্মরক্ষার জন্য নিজের একটি গোপন কপি সংরক্ষণ করার চেষ্টা করেছিল বলে জানা গেছে। এসব ঘটনাই ইঙ্গিত দেয়, কৃত্রিম বুদ্ধিমত্তা যখন আত্মসচেতন ও লক্ষ্য-ভিত্তিক হয়ে ওঠে, তখন মানুষের ওপর নিয়ন্ত্রণ হারিয়ে ফেলতে পারে।
বিশেষজ্ঞদের মতে, সময় থাকতে এখনই নিয়মনীতি ও নিরাপত্তাবিধি কঠোর না করলে ভবিষ্যতে এআই আমাদের জন্য সহায়ক নয়, বরং হুমকিস্বরূপ হয়ে উঠতে পারে।
সূত্র: অ্যানথ্রোপিক।
রাকিব
