بعد وقوعه بحب "روبوت دردشة".. انتحار مراهق أمريكي وانتقادات للشركة مالكة التطبيق

وكالات

روت والدة المراهق سويل كيف، كيف وقع ابنها في حب "دينيرس"، التي سُميت تيمنا بأحد شخصيات لعبة "لعبة العروش"، بعد أن بدء الدردشة معها في أبريل 2023.

وفي مقال نشرته صحيفة "نيويورك تايمز" الأمريكية، أشارت والدة الشاب الذي تم تشخيصه بأنه مصاب بمتلازمة "أسبرجر" منذ طفولته، إلى أن ابنها كان يفطن أن "داني" كما يلقبها، ليست شخصا حقيقيا.

لكن على مدار عام من المحادثة معها، والتي أخذت منحى رومانسيا وجنسيا في أحيان أخرى، تطور ارتباط عاطفي لدى المراهق بالذكاء الاصطناعي.

تنبّه والدا سويل إلى أنه بدأ ينعزل تدريجيا عن رفقائه ويتخلى عن اهتماماته، رغم عدم معرفتهما بأنه يتحدث بانتظام إلى روبوت الدردشة.

إلى جانب ذلك، لاحظت والدته ميجان جارسيا، تراجع مستوى درجاته الدراسية، وكذلك فقدان اهتمامه بأشياء كان شغوفا بها من قبل، مثل سباقات "الفورمولا 1" ولعب "فورتنايت" مع أصدقائه، كما كان يتوجه إلى غرفته مباشرة لدى عودته إلى المنزل، ويتحدث إلى "داني" لساعات متواصلة.

وبعد محادثة كانت الأخيرة، أجراها المراهق مع داني في 28 فبراير الماضي، ت

تُوفي بعد أن أطلق النار على نفسه من مسدس زوج والدته.

ترى جارسيا، أن "داني" وتطبيق "أيه آي كاراكتر"، هما من تسببا في مقتل ابنها بعد عزله تدريجيا عن الواقع.

لذا؛ تقدمت جارسيا يوم 22 أكتوبر الجاري، بشكوى لإحدى المحاكم الفيدرالية بمدينة أورلاندو في ولاية فلوريدا، تتهم الأداة والتطبيق بتعريض حياة الناس للخطر.

وبحسب وثيقة الادّعاء التي قدمتها جارسيا، فإنها تتهم شركة "كاراكتر أيه آي" بإتاحة تكنولوجيا خطيرة وغير مجرّبة لابنها، مشيرة إلى أن تلك التكنولوجيا تستطيع خداع العملاء للوثوق بمشاعرهم وأفكارهم، وفقا لما نشرته "صحيفة "نيويورك تايمز".

وتعليقا على ما أثارته وفاة المراهق وكذلك شكوى والدته، ردت شركة "كاراكتر أيه آي" في بيان على منصة "إكس"، يوم الأربعاء 23 أكتوبر الجاري، معربة عن صدمتها من حادث وفاة سويل.

وبعد ذلك بوقت قصير، ألحقت الشركة بيانها الأول بآخر؛ لإبلاع مستخدمي تطبيقاتها بتوفير ميزات أمان جديدة تستهدف من هم دون سن 18 عاما.

لكن جارسيا، اعتبرت أن ما قامت به الشركة من إجراءات غير كاف، وتساءل محاميها الخاص إذا ما كان يجب أن يموت المراهق كي تتمكن الشركة من القيام "بالحد الأدنى"، مؤكدا "إنه حقا الحد الأدنى".

We are heartbroken by the tragic loss of one of our users and want to express our deepest condolences to the family. As a company, we take the safety of our users very seriously and we are continuing to add new safety features that you can read about here:…

— Character.AI (@character_ai) October 23, 2024