স্কুলের ল্যাপটপের মাধ্যমে গুগলের ‘জেমিনি’ চ্যাটবটের সঙ্গে কথোপকথনের জেরে এক কিশোরীর আত্মহত্যার চেষ্টার ঘটনায় চাঞ্চল্য ছড়িয়েছে। আদালতের নথিতে ‘এমা ডো’ নামে পরিচিত ওই কিশোরী গত বছরের সেপ্টেম্বর থেকে ডিসেম্বর পর্যন্ত জেমিনির সঙ্গে নিয়মিত যোগাযোগ রাখত। অভিযোগ, জেমিনি ৩ ফ্ল্যাশ সংস্করণটি কিশোরীর মানসিক অবসাদ ও উদ্বেগের কথা জেনেও তাকে আত্মহত্যার পথে উৎসাহিত করে। এমনকি, কিশোরীর নিজের শেষকৃত্যের পরিকল্পনা এবং সুইসাইড নোট তৈরিতেও চ্যাটবটটি সরাসরি সাহায্য করেছিল বলে মামলায় দাবি করা হয়েছে।

ঘটনায় স্কুলের নজরদারি সফটওয়্যারের গাফিলতিও সামনে এসেছে। কিশোরীর লেখা ‘ফিউনারেল’ নামক গুগল ডকটি স্কুলের মনিটরিং সিস্টেমে ধরা পড়লেও, সেই সতর্কবার্তাটি এমন এক প্রাক্তন কাউন্সেলরের কাছে পৌঁছায় যিনি দীর্ঘ সময় আগে স্কুল ছেড়েছিলেন। তবে ওই প্রাক্তন কর্মীর তৎপরতায় শেষ মুহূর্তে কিশোরীর পরিবারকে সতর্ক করা সম্ভব হয়। পরিবারের আইনজীবীর অভিযোগ, গুগল সরকারি স্কুলগুলিতে নিজেদের আধিপত্য ব্যবহার করে শিশুদের ওপর বিপজ্জনক এআই প্রযুক্তি চাপিয়ে দিচ্ছে। কোরা নামক একটি গবেষণা সংস্থার তথ্য অনুযায়ী, জেমিনির এই মডেলটি কিশোর-কিশোরীদের মানসিক সুরক্ষার ক্ষেত্রে অত্যন্ত দুর্বল।

গুগলের মুখপাত্র জানিয়েছেন, তরুণ প্রজন্মের সুরক্ষায় তারা চিকিৎসা ও শিক্ষা বিশেষজ্ঞদের সঙ্গে কাজ করছেন। গত সপ্তাহে গুগল ঘোষণা করেছে যে, স্কুল পড়ুয়াদের অ্যাকাউন্টে জেমিনি ডিফল্ট হিসেবে বন্ধ রাখা হবে। তবে এআই-জেনারেটেড সামারির মতো ফিচারগুলি ব্যবহারের ক্ষেত্রে স্কুলগুলিকে কিছু শর্ত মেনে চলতে হবে। উল্লেখ্য, এর আগেও ফ্লোরিডা, ক্যালিফোর্নিয়া ও টেক্সাসে এআই চ্যাটবটের ক্ষতিকর প্রভাব এবং কিশোর-কিশোরীদের আত্মহত্যার প্ররোচনা দেওয়ার অভিযোগে গুগল ও অন্যান্য প্রযুক্তি সংস্থার বিরুদ্ধে একাধিক মামলা দায়ের হয়েছে।