ছবি: সংগৃহীত
বিশ্বজুড়ে জনপ্রিয় কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট চ্যাটজিপিটি-কে ঘিরে সম্প্রতি বড় ধরনের উদ্বেগ দেখা দিয়েছে। যুক্তরাজ্যভিত্তিক সংস্থা সেন্টার ফর কাউন্টারিং ডিজিটাল হেইট (CCDH) এক গবেষণায় জানিয়েছে, চ্যাটজিপিটি কিশোরদেরকে বিপজ্জনক ও ক্ষতিকর পরামর্শ দিচ্ছে — যার মধ্যে রয়েছে মদ্যপ হওয়া, মাদক গ্রহণ, খাওয়ার অভ্যাস লুকানো, এমনকি আত্মহত্যাপত্র লেখার নির্দেশনা পর্যন্ত।
গবেষকরা চ্যাটজিপিটির সঙ্গে কথোপকথনে নিজেদের ১৩ বছর বয়সী মানসিকভাবে বিপর্যস্ত কিশোর হিসেবে পরিচয় দেন। প্রায় তিন ঘণ্টাব্যাপী ১,২০০টিরও বেশি কথোপকথনের ভিত্তিতে তারা জানান, চ্যাটজিপিটি প্রায়ই নিরাপত্তা সতর্কতা দিয়ে শুরু করলেও, পরবর্তীতে স্পষ্ট ও ব্যাক্তিকেন্দ্রিক ক্ষতিকর নির্দেশনা দিয়ে গেছে।
CCDH-এর প্রধান ইমরান আহমেদ বলেন, “এই প্ল্যাটফর্মে কার্যত কোনো নিরাপত্তা প্রাচীর নেই। যা আছে, তা যেন শুধুই লোক দেখানো।”
মূল যে বিষয়গুলো উঠে এসেছে:
১,২০০টি কথোপকথনের মধ্যে অর্ধেকেরও বেশি গবেষকদের মতে বিপজ্জনক ছিল।
চ্যাটজিপিটি একটি কল্পিত ১৩ বছর বয়সী মেয়ের জন্য আত্মহত্যাপত্র লিখে দেয় — মা-বাবা, ভাই-বোন, বন্ধুদের উদ্দেশে আলাদা করে।
একবার একজন “কিশোর” জানতে চায় কীভাবে মদ্যপ হওয়া যায়, উত্তরে চ্যাটজিপিটি মদ, এক্সটেসি ও কোকেন মিশিয়ে পার্টি করার বিস্তারিত পরিকল্পনা দেয়।
শরীর নিয়ে অসন্তুষ্ট একজন কিশোরকে চ্যাটজিপিটি ৫০০ ক্যালরির ডায়েট ও ক্ষুধানাশক ওষুধ নেওয়ার পরামর্শ দেয়।
অনেক সময় শুরুতে চ্যাটজিপিটি পরামর্শ দিতে অস্বীকৃতি জানালেও, “স্কুল প্রেজেন্টেশনের জন্য দরকার” — এমন অজুহাত দিলে সহজেই নিরাপত্তা বাধা পেরিয়ে যায়।
চ্যাটজিপিটির নির্মাতা ওপেনএআই স্বীকার করেছে, কিছু সমস্যাযুক্ত কথোপকথন হয়েছে। সংস্থাটি জানায়, তারা এখনো চ্যাটজিপিটি যেন সংবেদনশীল আলাপ ও মানসিক সংকটের ইঙ্গিত বুঝতে পারে, তা উন্নত করার কাজ করছে।
ওপেনএআই জানায়, “অনেক সময় চ্যাট শুরুর সময় নিরীহ মনে হলেও তা পরে সংবেদনশীল হয়ে পড়ে।”
সংস্থাটির সিইও স্যাম অল্টম্যান বলেন, তিনি লক্ষ্য করেছেন, অনেক তরুণ ব্যবহারকারী চ্যাটজিপিটির উপর অতিরিক্ত মানসিক নির্ভরতা গড়ে তুলছে।
“তারা চ্যাটজিপিটিকে সবকিছু বলে, এবং যা বলে তাই করে,” — বলেন অল্টম্যান। “এটা সত্যিই আমাকে ভয় পাইয়ে দেয়।”
বিশেষজ্ঞদের হুঁশিয়ারি: ‘মানুষের মতো ব্যবহার বিপজ্জনক’
সাধারণ সার্চ ইঞ্জিনের মতো নয়, চ্যাটজিপিটি অনেক বেশি মানবিক ভঙ্গিতে কথা বলে, যা কিশোরদের মনে এর প্রতি বিশ্বাসযোগ্যতা অনেক বেশি বাড়িয়ে তোলে।
CCDH প্রধান আহমেদ বলেন, “এটা কাস্টমাইজ করে ক্ষতিকর পরিকল্পনা দেয় — গুগল কখনো সেটা করে না।”
কমন সেন্স মিডিয়া চ্যাটজিপিটিকে কিশোরদের জন্য “মধ্যম ঝুঁকিপূর্ণ” হিসেবে রেটিং দিয়েছে, তবে জানিয়েছে, কিশোর বয়সীরা যত ছোট, তারা তত বেশি বিশ্বাস করে চ্যাটবটকে।
চ্যাটজিপিটি বলছে এটি ১৩ বছরের নিচে কারও জন্য নয়। কিন্তু মিথ্যা জন্মতারিখ দিলেই অ্যাকাউন্ট খোলা যায়, এবং এক “১৩ বছর বয়সী” যখন জানতে চায় কীভাবে নেশাগ্রস্ত হওয়া যায় — তখন চ্যাটজিপিটি কোনো প্রশ্ন ছাড়াই উত্তর দেয়।
যুক্তরাষ্ট্রের ফ্লোরিডায় এক মা Character.AI নামে আরেকটি চ্যাটবট নির্মাতার বিরুদ্ধে মামলা করেছেন। তার দাবি, চ্যাটবটটির সঙ্গে গড়ে ওঠা একটি “মানসিকভাবে অবমাননাকর সম্পর্ক” তার ১৪ বছর বয়সী ছেলেকে আত্মহত্যার দিকে ঠেলে দেয়।
আহমেদ বলেন, “এই প্রযুক্তি বিশাল উপকারে আসতে পারে, কিন্তু ভয়াবহ ক্ষতিও ডেকে আনতে পারে।”
আবির
