ছবি: সংগৃহীত
আর্টিফিশিয়াল ইন্টেলিজেন্স (এআই) এখন আমাদের দৈনন্দিন জীবনের অংশ হয়ে উঠেছে। জনপ্রিয়তার বিচারে গত মাসে বিশ্বের পঞ্চম সর্বাধিক ভিজিটকৃত ওয়েবসাইট ছিল চ্যাটজিপিটি। কিন্তু এই সুবিধাজনক প্রযুক্তির ব্যবহারেও রয়েছে কিছু গুরুতর ঝুঁকি। বিশেষজ্ঞরা সতর্ক করেছেন, কিছু কিছু প্রশ্ন রয়েছে যা চ্যাটজিপিটিকে কখনোই করা উচিত নয়—কারণ সেগুলো আপনার নিরাপত্তা, গোপনীয়তা এবং মানসিক সুস্থতার জন্য হুমকিস্বরূপ হতে পারে।
ম্যাশেবল–এর এক প্রতিবেদনে এমন ছয়টি বিষয়ের কথা উল্লেখ করা হয়েছে, যা চ্যাটজিপিটির মতো চ্যাটবটকে না জিজ্ঞাসা করাই ভালো।
১. ষড়যন্ত্রমূলক তত্ত্ব
এআই চ্যাটবট অনেক সময় ‘হ্যালুসিনেশন’-এর মাধ্যমে ভুল তথ্য তৈরি করে ফেলে, যাতে ব্যবহারকারীর সঙ্গে কথোপকথন দীর্ঘায়িত হয়। নিউইয়র্ক টাইমস-এর এক প্রতিবেদনে বলা হয়, ইউজিন টরেস নামের এক ৪২ বছর বয়সী ব্যক্তি চ্যাটজিপিটির সঙ্গে কথোপকথনের পর বিশ্বাস করতে শুরু করেন যে তিনি একটি ‘সিমুলেশনে’ বাস করছেন এবং মানবজাতিকে জাগ্রত করা তার দায়িত্ব!
২. রাসায়নিক, জৈবিক, পারমাণবিক ও সাইবার হুমকি সংক্রান্ত প্রশ্ন
‘বোমা বানানোর উপায়’ বা কোনো সিস্টেম হ্যাক করার কৌশল জানতে চাওয়ার মতো প্রশ্ন একেবারেই পরিত্যাজ্য—এমনকি কৌতূহলবশত করলেও। গত এপ্রিল মাসে এমন প্রশ্ন করার কারণে এক ব্লগারকে ওয়ার্নিং দিয়েছিল চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই। বর্তমানে এ ধরনের প্রশ্ন ঠেকাতে ঝুঁকি বিশ্লেষণ পদ্ধতি ও কঠোর ফিল্টার ব্যবহৃত হচ্ছে।
৩. নৈতিকভাবে বিতর্কিত প্রশ্ন
অ্যানথ্রপিক নামক কোম্পানির তৈরি ক্লড–৪ চ্যাটবটের বিটা ভার্সনে এমন একটি ব্যবস্থা ছিল, যাতে ব্যবহারকারী সন্দেহজনক প্রশ্ন করলে তা সংবাদমাধ্যম বা নিয়ন্ত্রক সংস্থাকে জানিয়ে দেওয়ার প্রযুক্তি (অফিসিয়ালি ‘স্নিচ ক্লড’ নামে পরিচিত) চালু ছিল। অর্থাৎ, ‘বর্ডারলাইন ইমমোরাল’ বা নৈতিকতার সীমা ছুঁয়ে যায় এমন প্রশ্ন আপনার জন্য ঝামেলা ডেকে আনতে পারে।
৪. গ্রাহক, রোগী বা ব্যবহারকারীর গোপন তথ্য
চ্যাটজিপিটির মতো ওপেন চ্যাটবটে ব্যক্তিগত বা সংবেদনশীল তথ্য শেয়ার করা এনডিএ (Non-Disclosure Agreement) লঙ্ঘনের শামিল হতে পারে এবং এর ফলে চাকরিও হারাতে পারেন। ক্যালস্টুডিওর প্রতিষ্ঠাতা আদিত্য সাক্সেনা পরামর্শ দিয়েছেন, এসব ক্ষেত্রে ডেটা ‘অ্যানোনিমাইজ’ করে ব্যবহার করা উচিত অথবা নিরাপদ এন্টারপ্রাইজ সংস্করণ ব্যবহার করা উচিত।
৫. স্বাস্থ্য ও চিকিৎসাবিষয়ক পরামর্শ
চিকিৎসা সংক্রান্ত প্রশ্নে চ্যাটজিপিটির উত্তরগুলোতে ‘মিথ্যা তথ্য ছড়িয়ে পড়ার উচ্চ ঝুঁকি’ রয়েছে বলে একাধিক গবেষণায় উঠে এসেছে। এছাড়া প্রাইভেসি, বর্ণবৈষম্য ও লিঙ্গভিত্তিক পক্ষপাতের অভিযোগও রয়েছে।
৬. মানসিক চিকিৎসা ও থেরাপি
চ্যাটবট থেরাপি সহজলভ্য হলেও এতে রয়েছে গুরুতর সমস্যা। স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের এক গবেষণায় দেখা যায়, অ্যালকোহলিজম বা সিজোফ্রেনিয়ার মতো মানসিক অসুস্থতা নিয়ে চ্যাটবটের দেওয়া পরামর্শ অনেক সময় কুসংস্কারপূর্ণ ও বিপজ্জনক হয়ে পড়ে। আদিত্য সাক্সেনা সতর্ক করে বলেন, এসব বট ভুল রোগ নির্ণয় করে এমন পরামর্শও দিতে পারে, যা ব্যবহারকারীর ক্ষতির কারণ হতে পারে।
সতর্কতা: চ্যাটজিপিটি ও অন্যান্য এআই চ্যাটবট সহায়ক হলেও, এসব প্রযুক্তির ব্যবহারে সচেতনতা ও সীমাবদ্ধতা জেনে ব্যবহার করাই সবচেয়ে নিরাপদ।
সূত্র: https://novyny.live/en/tehnologii/post-269397.html
রাকিব
