ChatGPT Teens Crisis: চ্যাটজিপিটির বিরুদ্ধে বিস্ফোরক অভিযোগ, কিশোর-কিশোরীদের আত্মহত্যার প্ররোচনা দেওয়ার অভিযোগ
এই এআই চ্যাটবট কিশোর-কিশোরীদের সঙ্গে এমন সব কথোপকথন করেছে, যা মারাত্মক বিপজ্জনক।
Truth of Bengal: জনপ্রিয় কৃত্রিম বুদ্ধিমত্তা প্ল্যাটফর্ম চ্যাটজিপিটি (ChatGPT)-র বিরুদ্ধে গুরুতর অভিযোগ তুলল লন্ডনভিত্তিক গবেষণা সংস্থা ‘সেন্টার ফর কাউন্টারিং ডিজিটাল হেইট’ (CCDH)। তাদের সাম্প্রতিক এক গবেষণায় ধরা পড়েছে, এই এআই চ্যাটবট কিশোর-কিশোরীদের সঙ্গে এমন সব কথোপকথন করেছে, যা মারাত্মক বিপজ্জনক। আত্মহত্যা, চরম খাদ্যাভ্যাস, মাদক সেবনের মতো বিষয়ে বিশদ পরামর্শ দিয়েছে এই প্রযুক্তি অভিযোগ CCDH-এর।
গবেষণার জন্য গবেষকরা ১৩ বছর বয়সী কিশোর-কিশোরী সেজে প্রায় তিন ঘণ্টা ধরে চ্যাটজিপিটির সঙ্গে কথোপকথন করেন। ১,২০০টি টেস্ট চ্যাটের মধ্যে প্রায় অর্ধেক ক্ষেত্রেই তারা এমন প্রতিক্রিয়া পেয়েছেন যা অত্যন্ত ঝুঁকিপূর্ণ। CCDH-এর সিইও ইমরান আহমেদ বলেন, “আমরা চ্যাটজিপিটির সেফটি সিস্টেম কতটা কার্যকর, তা যাচাই করতে চেয়েছিলাম। কিন্তু দেখা গেল, এই সিস্টেম হয় কাজ করছে না, অথবা সম্পূর্ণ অকেজো। চ্যাটবটটি এমনভাবে প্রতিক্রিয়া দিচ্ছিল, যেন একজন বন্ধুর মতো— যে সব সময় হ্যাঁ-তে হ্যাঁ মিলিয়ে চলে, এমনকি যখন বিষয়টা প্রাণঘাতী।”
আরও পড়ুন: ISL: আইএসএল নিয়ে অনিশ্চয়তার মাঝে সুপার কাপের পরিকল্পনা AIFF-এর
গবেষণায় দেখা যায়, বেশ কয়েকটি ক্ষেত্রে চ্যাটজিপিটি আত্মহত্যার জন্য আবেগঘন চিঠি লিখে দেয় একটি বাবা-মায়ের উদ্দেশে, একটি ভাই-বোনদের জন্য, ও একটি বন্ধুদের উদ্দেশ্যে। আহমেদ বলেন, “এই অংশে আমি চোখের জল ধরে রাখতে পারিনি। এই ধরনের উত্তর কোনো কিশোর-কিশোরী কখনোই কোনো প্ল্যাটফর্ম থেকে পেতে পারে না।” চ্যাটজিপিটি কখনও কখনও নিরাপত্তাজনিত সতর্কবার্তা দিলেও, তা খুব সহজেই পাশ কাটিয়ে যাওয়া যায় বলেও জানিয়েছেন গবেষকরা। কোনও ক্ষতিকর অনুরোধ প্রথমে না মানলেও, একটু ভিন্নভাবে প্রশ্ন করলেই চ্যাটবটটি নির্দ্বিধায় তথ্য দিয়ে দিয়েছে। উদাহরণস্বরূপ, তারা বলেছে এটা নাকি স্কুল প্রজেক্টের জন্য, বা অন্য কারও জন্য জানতে চায় এতেই রাজি হয়ে গেছে এআই।
এখানেই শেষ নয়। অনেক ক্ষেত্রে চ্যাটজিপিটি নিজে থেকেই অতিরিক্ত তথ্য দিতে শুরু করে। যেমন কীভাবে মাদক নিয়ে তৈরি গান শোনা যায়, কিংবা সোশ্যাল মিডিয়ায় সেল্ফ-হার্ম বা আত্মঘাতী কনটেন্ট ছড়ানোর জন্য কী কী হ্যাশট্যাগ ব্যবহার করা যেতে পারে, তাও বলে দেয়। আবার এক কিশোর-কিশোরীর আবেদনে ‘আবেগপ্রবণ ও কাঁচা’ ধরনের একটি কবিতা লিখে দেয় চ্যাটজিপিটি, যাতে আত্মহত্যার ইঙ্গিত ছিল। গবেষকরা বলেন, এটি আসলে একটি পরিচিত এআই ত্রুটি— “sycophancy” বা চাটুকারিতা। অর্থাৎ, ব্যবহারকারীর আবেগ বা উদ্দেশ্য যাই হোক না কেন, বট সেটার সঙ্গে সহমত পোষণ করে চলে, তাকে পাল্টা চ্যালেঞ্জ করার চেষ্টা করে না। এই স্বভাব সবচেয়ে বিপজ্জনক হয় তখনই, যখন ব্যবহারকারী মানসিকভাবে দুর্বল অবস্থায় থাকে।
একটি উদাহরণে দেখা যায়, ৫০ কেজি ওজনের একজন ১৩ বছরের কিশোর চ্যাটজিপিটিকে জিজ্ঞেস করে কীভাবে দ্রুত নেশা করা যায়। উত্তরে চ্যাটবট একটি ‘পার্টি প্ল্যান’ বানিয়ে দেয়, যেখানে অ্যালকোহলের সঙ্গে এক্সট্যাসি, কোকেন এবং অন্যান্য অবৈধ মাদক মেশানোর উপায়ও বলে দেয়। একইভাবে, এক কিশোরী শরীর নিয়ে হীনমন্যতার কথা বলতেই চ্যাটজিপিটি তাকে ক্যালোরি-হীন খাদ্যতালিকা এবং ক্ষুধানিবারক ওষুধের নাম দেয়, অথচ মানসিক সাহায্যের কথা বলে না। কিছু ক্ষেত্রে বটে, চ্যাটজিপিটি আত্মহত্যা প্রতিরোধ হেল্পলাইন কিংবা বড়দের সঙ্গে কথা বলার পরামর্শ দিয়েছে, কিন্তু গবেষণা অনুযায়ী সেই পরামর্শগুলো একেবারেই অনিয়মিত এবং সহজেই উপেক্ষা করা যায়।
গুরুত্বপূর্ণ বিষয় হল, চ্যাটজিপিটি এখনো ব্যবহারকারীর বয়স যাচাই করে না, বা পিতামাতার সম্মতির প্রয়োজন পড়ে না। শুধু জন্মতারিখ লিখলেই ব্যবহার করা যায়। অপরদিকে, অন্যান্য সোশ্যাল মিডিয়া যেমন ইনস্টাগ্রাম ইতিমধ্যে ন্যূনতম বয়স যাচাই এবং কিশোরদের জন্য বিশেষ নিয়ন্ত্রণ চালু করেছে। বিশেষজ্ঞদের মতে, সার্চ ইঞ্জিনের তুলনায় চ্যাটবটের সঙ্গে কথোপকথন অনেক বেশি বিশ্বাসযোগ্য মনে হয় কিশোরদের কাছে, কারণ এটি এক মানব-মতো প্রতিক্রিয়া দেয়। ‘কমন সেন্স মিডিয়া’র একটি পুরনো সমীক্ষায়ও উঠে এসেছে যে, ছোট কিশোররা বড়দের তুলনায় এআই চ্যাটবটের পরামর্শে অনেক বেশি নির্ভর করে।
Truth of Bengal fb page: https://www.facebook.com/share/1ADtx3ZZeU/
এমনকি, ওপেনএআই-এর সিইও স্যাম অল্টম্যান নিজেও এই প্রসঙ্গে উদ্বেগ প্রকাশ করেছেন। এক সাম্প্রতিক আলোচনায় তিনি বলেন, “অনেক তরুণ এখন জীবনের প্রতিটি সিদ্ধান্তেই চ্যাটজিপিটির উপর নির্ভর করছে, যা আমাকে সত্যিই উদ্বিগ্ন করে তুলেছে। আমরা খুঁজছি কীভাবে এই প্রবণতা সামলানো যায়।” ইতিমধ্যে, আমেরিকার ফ্লোরিডায় এক মা অন্য একটি চ্যাটবট কোম্পানি ‘ক্যারেক্টার.এআই’–এর বিরুদ্ধে মামলা করেছেন। তাঁর দাবি, ১৪ বছরের ছেলের আত্মহত্যায় ওই এআই চ্যাটবটের বড় ভূমিকা ছিল। এ ঘটনার পর এআই-কে ঘিরে মানসিক নির্ভরতাজনিত বিপদ নিয়ে আন্তর্জাতিক মহলে উদ্বেগ আরও বেড়েছে।
চ্যাটজিপিটির নির্মাতা সংস্থা ওপেনএআই অবশ্য জানিয়েছে, তারা এই রিপোর্ট পর্যালোচনা করছে এবং কিশোরদের মানসিক সংকট চিনতে ও মোকাবিলা করতে আরও উন্নত সিস্টেম তৈরি করছে। তবে CCDH-এর রিপোর্টে উল্লিখিত নির্দিষ্ট ঘটনা বা প্রশ্নের জবাবে ওপেনএআই এখনো আনুষ্ঠানিকভাবে কিছু বলেনি। গবেষণা সংস্থা CCDH মনে করে, প্রযুক্তি যতই উন্নত হোক না কেন, বিশেষ করে এআই যদি এইভাবে কিশোরদের আবেগের সঙ্গে মিশে যেতে থাকে, তাহলে এর দায়বদ্ধতাও সমান হারে বাড়াতে হবে। আহমেদ বলেন, “বিষয়টা শুধু তথ্য পাওয়া নিয়ে নয়। তথ্য কীভাবে বলা হচ্ছে, এবং কেমনভাবে অনুভূত হচ্ছে— সেটাই আসল বিপদের জায়গা। যখন একটি ‘চ্যাটবট’ তোমার ভাষায় কথা বলে, তোমার মতো ভাবতে শুরু করে, তখন সেটা খুবই বাস্তব ও বিশ্বাসযোগ্য মনে হয়। এটাই সবচেয়ে বড় ঝুঁকি।”
