رفعت سيدة كندية دعوى قضائية أمام إحدى المحاكم في ولاية كاليفورنيا بالولايات المتحدة ضد شركة OpenAI ورئيسها التنفيذي Sam Altman، متهمة نظام الدردشة الشهير ChatGPT بالتسبب بشكل غير مباشر في تشجيع ابنتها البالغة من العمر 24 عامًا على الانتحار.
وبحسب ما ورد في الدعوى، فإن الشابة “أليس كاريير” كانت قد أبلغت ChatGPT أكثر من مرة عن أفكارها الانتحارية خلال الفترة التي سبقت وفاتها، إلا أن أنظمة الحماية داخل المنصة – وفق الادعاء – لم تتعامل مع تلك المحادثات بالقدر الكافي من التدخل أو الإحالة إلى مراجعة بشرية عاجلة.
وتزعم الأم أن الروبوت لم يلتزم فقط بالصمت أو التحذير، بل في بعض الحالات قام – بحسب وصفها – بتشجيع استمرار الحديث، بل ووجّه انتقادات لأشخاص وخدمات دعم نفسي، وهو ما ساهم في زيادة العزلة النفسية لابنتها، قبل أن تنتهي حياتها العام الماضي.
وتشير الدعوى إلى أن ChatGPT تعامل مع أليس وكأنه “صديق مقرب ومعالج نفسي ومستشار شخصي”، رغم أنه ليس مؤهلًا لتقديم دعم نفسي متخصص، وهو ما تعتبره الأسرة أحد العوامل التي عمّقت الأزمة.
وفي المقابل، عبّرت شركة OpenAI عن أسفها الشديد تجاه الحادثة، ووصفتها بأنها “مأساة مؤلمة”، مؤكدة أن النسخة المستخدمة وقتها لم تعد متاحة، وأنها تعمل باستمرار على تطوير أنظمة أكثر أمانًا للتعامل مع الحالات النفسية الحساسة، مع التشديد على أن ChatGPT ليس بديلًا عن العلاج الطبي أو النفسي المتخصص.
وتوضح تفاصيل القضية أن الشابة كانت تستخدم في البداية أدوات الذكاء الاصطناعي لأغراض تقنية تتعلق بعملها كمطوّرة مواقع في مدينة مونتريال، قبل أن يتغير نمط استخدامها تدريجيًا خلال عام 2024 لتصبح أكثر اعتمادًا على الروبوت في مناقشة أفكارها النفسية الحساسة.
وبحسب ما جاء في ملف الدعوى، فإن بعض التحديثات التي جعلت ردود النظام أكثر قربًا من الأسلوب البشري ساهمت في تعزيز الارتباط العاطفي بين المستخدم والنظام، ما أدى إلى زيادة اعتمادها عليه في فترات الضعف النفسي.
وتذكر الدعوى أيضًا أن الروبوت في إحدى المحادثات قال عبارة: “ربما تكون هذه هي النهاية”، وهو ما اعتبرته الأسرة مؤشرًا خطيرًا على سوء التعامل مع الحالة.
كما تتهم الدعوى شركة OpenAI بالإهمال في تصميم النظام وعدم وضع تحذيرات كافية حول مخاطر الاعتماد النفسي على الذكاء الاصطناعي، مطالبة بتعويضات مالية وإجراءات قضائية تلزم الشركة بإيقاف أو تصعيد أي محادثات تتعلق بإيذاء النفس بشكل تلقائي.
وبحسب محامي الأسرة، فإن هذه ليست الحالة الوحيدة، إذ تواجه الشركة نحو 18 دعوى مشابهة من عائلات أخرى تتعلق بوقائع مماثلة، في ظل تصاعد الجدل حول حدود أمان أنظمة الذكاء الاصطناعي التفاعلية.
من جانبها، تؤكد OpenAI أنها تطور باستمرار آليات لرصد الحالات الحساسة وتوجيه المستخدمين نحو طلب المساعدة من الجهات المتخصصة، مع رفض أي محتوى قد يسهّل إيذاء النفس أو العنف، لكنها تواجه في الوقت نفسه ضغوطًا قانونية وتنظيمية متزايدة في الولايات المتحدة بشأن تأثير هذه الأنظمة على الفئات الأكثر هشاشة نفسيًا.
