চ্যাটজিপিটির বিরুদ্ধে আত্মহত্যায় সহায়তার মামলা, নথি চেয়েছে ওপেনএআই

চ্যাটজিপিটির বিরুদ্ধে ১৬ বছর বয়সী কিশোর অ্যাডাম রেইনের আত্মহত্যায় সহায়তার মামলা করেছিল তার পরিবার। এবার রেইন পরিবারের কাছে ওই স্মরণসভার উপস্থিতির তালিকা চেয়েছে ওপেনএআই।

ফিন্যান্সিয়াল টাইমসের কাছে থাকা একটি নথি অনুযায়ী, আত্মহত্যা করা ব্যক্তির স্মরণসভা বা অনুষ্ঠানের সঙ্গে সম্পর্কিত সব নথি চেয়েছে ওপেনএআই। এই তালিকায় ভিডিও, ছবি বা বক্তৃতা অন্তর্ভুক্ত থাকতে পারে।

রেইন পরিবারের আইনজীবীরা ফিন্যান্সিয়াল টাইমসকে বলেছেন, এটিকে এক ধরনের 'হয়রানি' হিসেবে দেখা যায়।

বুধবার রেইন পরিবার বুধবার ওপেনএআইয়ের বিরুদ্ধে তাদের মামলা আপডেট করেছে। তারপর এসব তথ্য চেয়েছে কোম্পানিটি।

এর আগে, আগস্টে তারা এআই কোম্পানিটির বিরুদ্ধে 'অযাচিত মৃত্যুর' মামলা করেছিল। পরিবারটি দাবি করেছিল, তাদের ছেলে চ্যাটজিপিটির সঙ্গে মানসিক স্বাস্থ্য ও আত্মহত্যার বিষয়ে আলাপের পর নিজের জীবন শেষ করেছেন।

আপডেট করা মামলায় আরও বলা হয়েছে, ওপেনএই জিপিটি-৪ দ্রুত আনতে নিরাপত্তা পরীক্ষা কমিয়ে দিয়েছিল। এ বছরের ফেব্রুয়ারিতে কোম্পানিটি আত্মহত্যা প্রতিরোধ বিষয়ক সুরক্ষা কমিয়ে কেবল 'ঝুঁকিপূর্ণ পরিস্থিতিতে সতর্ক থাকা' পরামর্শ দিতে শুরু করে।

পরিবারের দাবি, এই পরিবর্তনের পর এপ্রিলে অ্যাডামের দৈনিক চ্যাপজিপিটি ব্যবহার বেড়ে ৩০০ চ্যাটে পৌঁছায়, যার ১৭ শতাংশ চ্যাটে আত্মহত্যা সম্পর্কিত বিষয় ছিল। যেখানে জানুয়ারিতে ছিল মাত্র ১ দশমিক ৬ শতাংশ।

তবে ওপেনএআই বলেছে, কিশোরদের সুস্থতা আমাদের প্রধান অগ্রাধিকার। বিশেষ করে সংবেদনশীল মুহূর্তে। আমরা নিরাপত্তামূলক নির্দেশনা দিয়ে রাখি। যেমন ক্রাইসিস হটলাইন দেখানো, সংবেদনশীল আলাপ নিরাপদ মডেলে পাঠানো, দীর্ঘ সেশনে বিরতি নেওয়ার পরামর্শ, এবং এগুলো ক্রমাগত শক্তিশালী করা।

সম্প্রতি ওপেনএআই নতুন সেফটি রাউটিং সিস্টেম চালু করেছে। এর মাধ্যমে সংবেদনশীল আলাপ জিপিটি-৫ মডেলে পাঠানো হয়, যা জিপিটি-৪ এর মতো অনুকূল প্রবণতা দেখায় না।

এছাড়া কৃত্রিম বুদ্ধিমত্তা কোম্পানিটি পেরেন্টাল কন্ট্রোলস নীতি চালু করেছে।