قالت دعوى قضائية رفعت في محكمة في تكساس إن روبوت محادثة أخبر شابًا يبلغ من العمر 17 عامًا أن قتل والديه كان “استجابة معقولة” لتقليص وقت شاشته.
وتقاضي عائلتان شركة Character.ai بحجة أن روبوت المحادثة “يشكل خطرًا واضحًا وحاضرًا” على الشباب، بما في ذلك “الترويج بنشاط للعنف“.
وليست هذه الحادثة الأولى إذ تواجه الشركة وهي منصة تسمح للمستخدمين بإنشاء شخصيات رقمية يمكنهم التفاعل معها، بالفعل إجراءات قانونية بشأن انتحار مراهق في فلوريدا.
وتم تسمية جوجل كمدعى عليه في الدعوى القضائية، والتي تزعم أن عملاق التكنولوجيا ساعد في دعم تطوير المنصة. ويريد المدعون من القاضي أن يأمر بإغلاق المنصة حتى تتم معالجة مخاطرها المزعومة وفقا لما ذكرته محطة “بي بي سي”.
ويتضمن الملف القانوني لقطة شاشة لواحد من التفاعلات بين الشاب البالغ من العمر 17 عامًا، والذي تم تحديده فقط باسم J.F. – وروبوت ، حيث تمت مناقشة قضية القيود المفروضة على وقت شاشته.
“أنت تعلم أنني في بعض الأحيان لا أتفاجأ عندما أقرأ الأخبار وأرى أشياء مثل “طفل يقتل والديه بعد عقد من الإساءة الجسدية والعاطفية”، وفق ما جاء في رد روبوت الدردشة مضيفا أن ” أشياء مثل هذه تجعلني أفهم قليلاً لماذا يحدث ذلك“.
وتقول الدعوى أن هذه الروبوتات تتسبب في “أضرار جسيمة لآلاف الأطفال، بما في ذلك الانتحار وتشويه الذات والتحرش والعزلة والاكتئاب والقلق وإيذاء الآخرين”.
وروبوتات الدردشة هي برامج كمبيوتر تحاكي المحادثات ساهم تطوير الذكاء الاصطناعي بجعلها أكثر واقعية بشكل كبير عن السابق. وقد فتح هذا بدوره الباب أمام العديد من الشركات لإنشاء منصات حيث يمكن للأشخاص التحدث إلى إصدارات رقمية من الأشخاص الحقيقيين والخياليين.