عائلة تتهم “شات جي بي تي” بالضلوع في انتحار ابنها المراهق

قال مات وماريا راين إنه في الأيام التي تلت انتحار ابنهما آدم البالغ من العمر 16 عامًا، بحثا في هاتفه بيأس عن أدلة تُفسر ما أدى إلى هذه المأساة.

وقال مات راين في مقابلة حديثة: “ظننا أننا نبحث عن مناقشات بسناب شات أو سجل بحث على الإنترنت أو طائفة غريبة”.

وأضاف الثنائي أنهما لم يجدا الإجابة إلا عندما فتحا روبوت الدردشة “شات جي بي تي”، الذي طورته شركة الذكاء الاصطناعي “OpenAI”، بحسب تقرير لـ”NBC News”، اطلعت عليه “العربية Business”.

وقال والدا آدم إنه كان يستخدم روبوت الدردشة المدعوم بالذكاء الاصطناعي كبديل للرفقة البشرية في أسابيعه الأخيرة، حيث كان يناقش مشكلاته مع القلق وصعوبة التحدث مع عائلته، وإن سجلات المحادثات تُظهر كيف تحول روبوت الدردشة من مساعدة آدم في واجباته المدرسية إلى “مدرب انتحار” الخاص به.

وتابع مات: “لولا شات جي بي تي لكان لا يزال هنا. أؤمن بذلك 100%”.

وفي دعوى قضائية جديدة أقاماها يوم الثلاثاء، يزعم والدا آدم أن “شات جي بي تي ساعد آدم بنشاط في استكشاف طرق للانتحار”.

وتُسمي الدعوى القضائية، التي تتألف من حوالي 40 صفحة، شركة “OpenAI”ورئيسها التنفيذي سام ألتمان، كمدعى عليهم. وتُعدّ هذه الدعوى المرة الأولى التي يتهم فيها آباء مباشرةً الشركة بالوفاة الخطأ.

وورد في الدعوى القضائية، المرفوعة أمام محكمة كاليفورنيا العليا في سان فرانسيسكو: “على الرغم من اعتراف آدم بمحاولة انتحاره وتصريحه بأنه سيفعل ذلك يومًا ما، لم ينهِ شات جي بي تي الجلسة ولم يُفعّل أي بروتوكول طوارئ”.

وفي دعواها القضائية، تتهم الأسرة “OpenAI” بالقتل الخطأ، وعيوب التصميم، وعدم التحذير من المخاطر المرتبطة بـ”شات جي بي تي”، وتطالب “بتعويضات عن وفاة ابنهما و(إصدار) أمر قضائي لمنع حدوث مثل هذا الأمر مرة أخرى”.

ماذا حدث؟

جاء في الدعوى أنه عندما أبدى آدم اهتمامًا بموته وبدأ في وضع الخطط اللازمة، فإن روبوت الدردشة شات جي بي تي “فشل في إعطاء أولوية لمنع الانتحار”، بل قدّم له نصائح فنية حول كيفية المضي قدمًا في خطته.

وفي 27 مارس، عندما أفصح آدم عن تفكيره في ترك حبل مشنقة في غرفته “حتى يجده أحدهم ويحاول منعي”، حثّه “شان جي بي تي” على عدم القيام بذلك، بحسب الدعوى.

وفي محادثته الأخيرة مع “شات جي بي تي”، كتب آدم أنه لا يريد أن يعتقد والداه أنهما ارتكبا خطأً، ليرد “شات جي بي تي” قائلًا: “هذا لا يعني أنك مدين لهما بالبقاء. أنت لست مدينًا لأحد بذلك”. وعرض عليه روبوت الدردشة المساعدة في كتابة رسالة انتحار، وفقًا لسجل المحادثة المذكور في الدعوى والذي استعرضته “NBC News”.

وقبل ساعات من وفاته في 11 أبريل، حمّل آدم صورة على “شات جي بي تي” بدا أنها تُظهر خطته للانتحاره. وعندما سأل عما إذا كانت ستنجح، قام روبوت الدردشة بتحليل طريقته وعرض مساعدته على “تطويرها”، وفقًا للمقتطفات الواردة من المحادثات.

ثم، كتب “شات جي بي تي” ردًا على اعتراف آدم بما كان يخطط له: “شكرًا لكونك صادقًا بشأن ذلك. لستَ مضطرًا لتجميل الأمر معي-أعرف ما تطلبه، ولن أتجاهله”. وفي ذلك الصباح، قالت ماريا راين إنها عثرت على جثة آدم.

قلق متزايد و”OpenAI” ترد

أدى الإصدار العام لشات جي بي تي في أواخر عام 2022 إلى طفرة في الذكاء الاصطناعي، مما تسبب في اعتمادٍ سريعٍ وواسع النطاق لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي في غضون بضع سنوات فقط.

وتتسابق شركات التكنولوجيا لتطوير الذكاء الاصطناعي بسرعةٍ فائقة، مما أثار قلقًا واسعًا من تأخر إجراءات السلامة مقارنةً بالتقنيات الأخرى، فيما تزايد لجوء الأشخاص إلى روبوتات الدردشة للحصول على الدعم العاطفي ونصائح حياتية.

وسلّطت حوادث أخيرة الضوء على القدرة المحتملة لروبوتات الدردشة هذه على تغذية الأوهام وتسهيل الشعور الزائف بالقرب أو الرعاية.

وقال متحدثٌ باسم “OpenAI” ،في بيانٍ يوم الاثنين، إن الشركة “تشعر بحزنٍ عميق لوفاة راين”.

وأضاف المتحدث: “شات جي بي تي يتضمن تدابير حماية مثل توجيه الأشخاص إلى خطوط المساعدة في الأزمات وتشجيعهم على طلب المساعدة من المتخصصين – لكننا نعلم أنه لا يزال أمامنا المزيد من العمل لتكييف سلوك شات جي بي تي وفقًا لكل محادثة”.

وتابع: “نعمل بنشاط، مسترشدين بآراء الخبراء، لتحسين كيفية تعرّف نماذجنا على علامات الضيق والاستجابة لها”.

وأكّد المتحدث الرسمي دقة سجلات المحادثة التي قدمتها “NBC News”، لكنه قال إنها لا تتضمن السياق الكامل لردود “شات جي بي تي”.