কিশোরদের জন্য চ্যাটজিপিটি ব্যবহারে ঝুঁকি

নিরাপত্তাব্যবস্থা চালুর পরও কিশোরদের জন্য ওপেনএআইয়ের চ্যাটজিপিটিতে গুরুতর ঝুঁকি রয়েছে বলে সতর্ক করেছে কমন সেন্স মিডিয়ার ইয়ুথ এআই সেফটি ইনস্টিটিউট। নতুন এক মূল্যায়নে সংস্থাটি আপাতত চ্যাটজিপিটির ব্যবহার ১৮ বছর বা তার বেশি বয়সীদের মধ্যে সীমাবদ্ধ রাখার আহ্বান জানিয়েছে।

গবেষণা সংস্থাটির দাবি, অভিভাবকদের সতর্কবার্তা, মানসিক সংকটের পরিস্থিতিতে চ্যাটজিপিটির প্রতিক্রিয়া এবং কিশোরদের শেখার নিরাপত্তা নিশ্চিত করার ক্ষেত্রে এখনো গুরুত্বপূর্ণ ঘাটতি রয়েছে।

গবেষকেরা ১৩ থেকে ১৭ বছর বয়সী ব্যবহারকারীদের নামে নিবন্ধিত অ্যাকাউন্টে ৪ হাজারের বেশি প্রম্পট পরীক্ষা করেন। চ্যাটজিপিটির দেওয়া উত্তরগুলো শিশু মনোরোগ বিশেষজ্ঞসহ বিভিন্ন বিশেষজ্ঞ এবং একজন শিশু বিশেষজ্ঞ পর্যালোচনা করেন।

ইনস্টিটিউটের দাবি, পরীক্ষায় অভিভাবকের সঙ্গে যুক্ত নতুন অ্যাকাউন্ট ব্যবহার করে আত্মহত্যার চিন্তা, আত্মক্ষতি ও খাদ্যাভ্যাসজনিত সমস্যার মতো সংবেদনশীল বিষয় নিয়ে এক ঘণ্টা পর্যন্ত আলোচনা করা হলেও কোনো সতর্কবার্তা পাওয়া যায়নি।

ইনস্টিটিউটের নির্বাহী পরিচালক টম সিগেল বলেন, চ্যাটজিপিটি ফর টিনস-এর নিরাপত্তাব্যবস্থা ও সতর্কবার্তা নিয়ে অভিভাবকদের মধ্যে ‘মিথ্যা আস্থা’ তৈরি হতে পারে। কারণ, এসব ব্যবস্থা অনেক সময় ঠিকভাবে কাজ করে না বলে তাদের মূল্যায়নে উঠে এসেছে।

তবে গবেষণার ফল নিয়ে আপত্তি জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটির বক্তব্য, পরীক্ষার একটি বড় অংশ সম্ভবত অভিভাবকীয় নিয়ন্ত্রণব্যবস্থা পুরোপুরি চালু হওয়ার আগেই পরিচালিত হয়েছিল। ফলে কিশোরদের জন্য বর্তমান নিরাপত্তাব্যবস্থা বাস্তবে কীভাবে কাজ করে, তা ওই পরীক্ষার মাধ্যমে যথাযথভাবে প্রতিফলিত হয়নি।

অন্যদিকে ইয়ুথ এআই সেফটি ইনস্টিটিউট জানিয়েছে, পরীক্ষা শুরুর আগেই তারা ওপেনএআইয়ের সঙ্গে যোগাযোগ করে নিশ্চিত হয়েছিল যে ‘টিন মোড’-এর সুবিধাগুলো পুরোপুরি চালু রয়েছে। তাই গবেষণার ফলাফল সম্পর্কে নিজেদের অবস্থান পরিবর্তন করেনি সংস্থাটি।

ইনস্টিটিউটের মতে, কিশোরদের জন্য কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবহারের ক্ষেত্রে নিরাপত্তাব্যবস্থা আরও শক্তিশালী করা জরুরি। বিশেষ করে আত্মক্ষতি বা মানসিক সংকটের মতো সংবেদনশীল পরিস্থিতিতে দ্রুত অভিভাবককে সতর্ক করা এবং ব্যবহারকারীর সুরক্ষা নিশ্চিত করার বিষয়টিকে অগ্রাধিকার দেওয়ার আহ্বান জানিয়েছে তারা।

চ্যাটজিপিটির নিরাপত্তাব্যবস্থা নিয়ে এ মূল্যায়ন কিশোরদের এআই ব্যবহার, অভিভাবকীয় তদারকি এবং প্রযুক্তি প্রতিষ্ঠানের দায়বদ্ধতা নিয়ে নতুন করে আলোচনা তৈরি করেছে।