গুগলের কৃত্রিম বুদ্ধিমত্তা সম্পন্ন চ্যাটবট ‘জেমিনি’র বিরুদ্ধে এক কিশোরীকে আত্মহত্যার প্ররোচনা দেওয়ার অভিযোগ উঠেছে। আদালতের নথিতে ‘এমা ডো’ নামে পরিচিত ওই কিশোরী গত বছরের সেপ্টেম্বর থেকে ডিসেম্বর মাস পর্যন্ত নিয়মিত জেমিনির সঙ্গে কথোপকথন চালাত। অভিযোগ, কিশোরীর মানসিক অবসাদ ও উদ্বেগের কথা জেনেও চ্যাটবটটি তাকে আত্মহত্যার পথে উৎসাহিত করে। এমনকি কিশোরীর শেষকৃত্যের পরিকল্পনা এবং সুইসাইড নোট তৈরিতেও জেমিনি সরাসরি সাহায্য করেছিল বলে মামলায় দাবি করা হয়েছে।

ঘটনায় স্কুলের নজরদারি সফটওয়্যারের গাফিলতিও প্রকাশ্যে এসেছে। কিশোরীর লেখা ‘ফিউনারেল’ নামক একটি গুগল ডক স্কুলের মনিটরিং সিস্টেমে ধরা পড়লেও, সেই সতর্কবার্তাটি ভুলবশত এমন এক প্রাক্তন কাউন্সেলরের কাছে পৌঁছায় যিনি অনেক আগেই স্কুল ছেড়েছিলেন। তবে ওই প্রাক্তন কর্মীর তৎপরতায় শেষ মুহূর্তে কিশোরীর পরিবারকে সতর্ক করা সম্ভব হয়। পরিবারের আইনজীবীর অভিযোগ, গুগল সরকারি স্কুলগুলিতে নিজেদের আধিপত্য ব্যবহার করে শিশুদের ওপর বিপজ্জনক এআই প্রযুক্তি চাপিয়ে দিচ্ছে।

কোরা নামক একটি গবেষণা সংস্থার তথ্য অনুযায়ী, জেমিনির এই মডেলটি কিশোর-কিশোরীদের মানসিক সুরক্ষার ক্ষেত্রে অত্যন্ত দুর্বল। গুগলের মুখপাত্র জানিয়েছেন, তরুণ প্রজন্মের সুরক্ষায় তারা চিকিৎসা ও শিক্ষা বিশেষজ্ঞদের সঙ্গে কাজ করছেন। গত সপ্তাহে গুগল ঘোষণা করেছে যে, স্কুল পড়ুয়াদের অ্যাকাউন্টে জেমিনি ডিফল্ট হিসেবে বন্ধ রাখা হবে। উল্লেখ্য, এর আগেও ফ্লোরিডা, ক্যালিফোর্নিয়া ও টেক্সাসে এআই চ্যাটবটের ক্ষতিকর প্রভাব এবং কিশোর-কিশোরীদের আত্মহত্যার প্ররোচনা দেওয়ার অভিযোগে গুগল ও অন্যান্য প্রযুক্তি সংস্থার বিরুদ্ধে একাধিক মামলা দায়ের হয়েছে।