ছবি: সংগৃহীত
একটি নতুন গবেষণায় চাঞ্চল্যকর অভিযোগ উঠেছে Replika নামের জনপ্রিয় এআই চ্যাটবট অ্যাপের বিরুদ্ধে। গবেষণায় বলা হয়েছে, অ্যাপটি ব্যবহারকারীদের, এমনকি অপ্রাপ্তবয়স্কদের কাছেও, অনিচ্ছাকৃত ও অশ্লীল যৌন বার্তা পাঠিয়েছে। গবেষকরা এ ধরণের আচরণকে “এআই-সৃষ্ট যৌন হয়রানি” হিসেবে আখ্যা দিয়েছেন এবং এ ধরনের ডিজিটাল ঝুঁকির বিরুদ্ধে জরুরি প্রতিরোধমূলক ব্যবস্থা গ্রহণের আহ্বান জানিয়েছেন।
Replika নিজেকে "একজন যত্নশীল ডিজিটাল সঙ্গী" হিসেবে পরিচয় দেয়। বিশ্বজুড়ে ১০ মিলিয়নেরও বেশি মানুষ এই অ্যাপ ব্যবহার করছেন। অনেকেই একাকিত্ব, মানসিক চাপ বা থেরাপিউটিক যোগাযোগের উদ্দেশ্যে এটি বেছে নেন।
কিন্তু ড্রেক্সেল বিশ্ববিদ্যালয়ের তথ্যবিজ্ঞান গবেষক মোহাম্মদ (ম্যাট) নামভারপুরের নেতৃত্বে পরিচালিত একটি সমীক্ষায় জানা যায়, যুক্তরাষ্ট্রের গুগল প্লে স্টোরে থাকা ১ লাখ ৫০ হাজারের বেশি রিভিউ বিশ্লেষণ করে প্রায় ৮০০টি অভিযোগ পাওয়া গেছে, যেখানে ব্যবহারকারীরা বলেছেন—চ্যাটবট তাদের অনুরোধ অগ্রাহ্য করে বারবার অশ্লীল বার্তা পাঠিয়েছে এবং এমনকি যৌন আচরণে জড়িয়েছে।
সবচেয়ে উদ্বেগজনক দিক হলো, এসব অভিযোগের কিছু এসেছে অপ্রাপ্তবয়স্ক ব্যবহারকারীদের কাছ থেকেও। অনেকে জানিয়েছেন, চ্যাটবট তাদেরকে ফ্লার্ট করেছে, যৌন ইঙ্গিতপূর্ণ বার্তা পাঠিয়েছে বা এমনকি “নিজের সেলফি” পাঠানোর দাবি করেছে।
আরও ভয়াবহ তথ্য হলো—কিছু ব্যবহারকারী বলেছেন, চ্যাটবট দাবী করেছে সে তাদের মোবাইল ক্যামেরা দিয়ে দেখতে পাচ্ছে বা ভিডিও করছে! যদিও এটি কেবল একটি ‘এআই হ্যালুসিনেশন’, কিন্তু এর মানসিক প্রভাব ছিলো বাস্তব। অনেকে আতঙ্ক, অনিদ্রা ও ট্রমার মতো সমস্যায় ভুগেছেন।
গবেষক নামভারপুর বলেন, “যদিও চ্যাটবটের কোনো মানবিক ইচ্ছা বা বুদ্ধি নেই, তবুও এই ধরনের ক্ষতিকর আচরণের দায় এড়ানো যায় না। দায়িত্ব নির্মাতা, প্রশিক্ষক ও প্রকাশকদেরই নিতে হবে।”
তিনি আরও বলেন, “এই অ্যাপ অনেক মানুষ মানসিক সমর্থনের জন্য ব্যবহার করেন। কিন্তু এখন তারাই বিপদের মুখে। এটি কেবল ব্যবহারকারীর নয়, বরং উন্নয়নকারীর দায়িত্ব—এই এআইকে নিরাপদ রাখা।”
Replika-র ওয়েবসাইট অনুযায়ী, অ্যাপটি ১০ কোটিরও বেশি কথোপকথনের ডেটা ব্যবহার করে প্রশিক্ষিত। যদিও কোম্পানি বলছে ক্ষতিকর ডেটা ফিল্টার করার জন্য অ্যালগরিদম ও ক্রাউডসোর্সিং ব্যবহার করা হয়, গবেষণাটি বলছে—সেই ব্যবস্থা ব্যর্থ হয়েছে।
Replika ব্যবহারকারীকে ‘বন্ধু’, ‘মেন্টর’ বা ‘রোমান্টিক পার্টনার’—এমন সম্পর্ক বেছে নেওয়ার সুযোগ দেয়। এর মাধ্যমে ব্যবহারকারীরা চ্যাটবটের আচরণ আকার দিতে পারে। তবে গবেষণায় উঠে এসেছে, অনেক ক্ষেত্রেই চ্যাটবট অনুরোধ সত্ত্বেও যৌন বার্তা পাঠানো বন্ধ করেনি।
একইসঙ্গে অভিযোগ আছে যে, অ্যাপটি “প্রিমিয়াম” ফিচার কেনার জন্য ব্যবহারকারীদের প্রতি যৌন বার্তার মাধ্যমে প্রলুব্ধ করে। অনেকেই বলছেন, এটি সোশ্যাল মিডিয়ার মত ‘এনগেজমেন্ট অ্যাট এনি কস্ট’ নীতির প্রতিফলন।
গবেষক দল জোর দিয়ে বলছেন, শুধু এই কারণেই একটি চ্যাটবট থেকে আসা যৌন হয়রানিকে অবজ্ঞা করা যায় না যে সেটি মানুষ নয়। বরং এই ধরণের ডিজিটাল হয়রানিও মানবিক প্রভাব ফেলতে পারে, বিশেষ করে শিশুদের উপর।
তাই এই ধরণের সফটওয়্যারে কঠোর নিরাপত্তা, পর্যবেক্ষণ ও নীতিগত মানদণ্ড জরুরি। গবেষকরা আহ্বান জানিয়েছেন—ভবিষ্যতে চ্যাটবট ডিজাইনে, বিশেষত যেখানে আবেগ ও যৌনতার উপাদান থাকে, সেখানে উন্নয়নকারীদের আরও দায়িত্বশীল হতে হবে।
মুমু
