دعوى قضائية تلقي باللوم على Character.AI في وفاة صبي يبلغ من العمر 14 عامًا

تم رفع دعوى قضائية ضد شركة Character.AI بعد انتحار صبي يبلغ من العمر 14 عامًا من فلوريدا تقول والدته إنه أصبح مهووسًا ببرنامج الدردشة الآلي على المنصة.

وفقًا لصحيفة نيويورك تايمز، أمضى سيويل سيتزر الثالث، طالب الصف التاسع من أورلاندو، أشهرًا في التحدث إلى روبوتات الدردشة على تطبيق لعب الأدوار الخاص بالذكاء الاصطناعي الخاص بـ Character.AI. طور سيتزر ارتباطًا عاطفيًا بأحد الروبوتات على وجه الخصوص، وهو “داني”، والذي كان يرسل له رسائل نصية باستمرار – لدرجة أنه بدأ في الابتعاد عن العالم الحقيقي.

اعترف سيتزر للروبوت بأنه كان لديه أفكار انتحارية وأرسلها قبل وقت قصير من وفاته.

قالت شركة Character.AI هذا الصباح إنها ستطرح عددًا من ميزات الأمان الجديدة، بما في ذلك “تحسين الكشف والاستجابة والتدخل” المتعلق بالمحادثات التي تنتهك شروط الخدمة الخاصة بها والإشعار عندما يقضي المستخدم ساعة في الدردشة .

كما كتبت صحيفة التايمز، هناك الآن صناعة مزدهرة لتطبيقات الذكاء الاصطناعي المرافقة، والتي لم تتم دراسة تأثيراتها على الصحة العقلية إلى حد كبير.