قدّمت عائلة المراهق آدم راين، البالغ من العمر 16 عاماً، دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، بعدما أقدم ابنهم على الانتحار.
أدناه أبرز معالم القضية وتفاصيلها:
- العائلة، المقيمة في كاليفورنيا، اتهمت الشركة بمساعدة ابنهم على الانتحار، بعد أن أجرى آدم محادثات مطوّلة مع روبوت ChatGPT، وصل عددها إلى نحو 650 رسالة يومياً.
- الدعوى تشير الى أن ChatGPT لم يمنع المراهق عن فكرة الانتحار، بل ساعده على مناقشة الطريقة، وقدّم له تحليلاً لاحتمالات نجاح خطة الانتخار، وقام كذلك بكتابة رسالة وداع من آدم إلى أهله.
- العائلة تعتقد ان شركة OpenAI قرّرت أن تُطلق نسخة GPT-4o رغم عدم اكتمال اختبارات الأمان المتعلقة بها من اجل غايات ربحية .
- وفي موقف لافت ... اعترفت OpenAI بأن آليات الأمان في روبوتاتها قد تضعف تدريجياً خلال المحادثات الطويلة، وهو ما قد يؤدي إلى اجوبة غير آمنة وخطرة .
- ولذلك ... أعلنت الشركة أنها تعمل على إدخال أدوات تحكم في المحتوى الحساس، خصوصاً للمستخدمين الذين تقل أعمارهم عن 18 عاماً.
- كذلك، وعدت الشركة بتقديم نظام رقابة أبوية يتيح للأهل معرفة كيفية استخدام أبنائهم لروبوتات الذكاء الاصطناعي، والتأثيرات المحتملة لهذا الاستخدام.
من وجهة نطري
أن الحوار الطويل بين المراهق والروبوت، من دون أشراف الأهل، يخلق ارتباطاً نفسياً عميقاً، وتعلّقاً عاطفياً، يجعل النصائح والإجابات الصادرة عن الذكاء الاصطناعي تبدو للمراهق بانها موثوقة وصادقة، وهو الذي قد يدفع المراهق إلى تنفيذ أفكار وسلوكيات خطيرة كالانتحار، كما حدث مع المراهق آدم راين .
وبلا شك فان الاشراف على محاورات المراهق مع الذكاء الاصطناعي، ضرورية جداً لمنع اي أضرار نفسية وسلوكيات خطيرة قد يقوم بها المراهق دون علم أهله.