يتم قمع الذكاء الاصطناعي للشخصية بعد انتحار مراهق، لكن المستخدمين يتمردون

تحذير المحتوى: تتناول هذه المقالة التفكير في الانتحار والانتحار. إذا كنت تواجه صعوبة في التعامل مع هذه المواضيع، فاتصل بالمركز الوطني لمنع الانتحار عبر الهاتف: 1-800-273-TALK (8255).

فرضت شركة Character AI، وهي شركة ناشئة في مجال الذكاء الاصطناعي والتي غادر مؤسسوها مؤخرًا للانضمام إلى Google بعد صفقة ترخيص كبيرة مع عملاق البحث، اليوم سياسات أمان وإشراف تلقائي جديدة على نظامها الأساسي لبناء “شخصيات” روبوتات الدردشة التفاعلية المخصصة بعد مستخدم مراهق. وصف الانتحار بالتفصيل في المأساوية مقال بحثي في ال نيويورك تايمز. عائلة الضحية ترفع دعوى قضائية ضد شخصية AI بسبب وفاته.

بيان شخصية من الذكاء الاصطناعي عقب مأساة سيويل سيتزر البالغ من العمر 14 عامًا

وجاء في جزء من الرسالة التي نشرها أحد المسؤولين اليوم، 23 أكتوبر 2024: “نشعر بحزن شديد بسبب الخسارة المأساوية لأحد مستخدمينا ونود أن نعرب عن أعمق تعازينا للعائلة”. حساب شركة شخصية AI على الشبكة الاجتماعية X (تويتر سابقًا)، تم ربطه بمنشور مدونة يوضح إجراءات السلامة الجديدة للمستخدمين الذين تقل أعمارهم عن 18 عامًا، دون ذكر الضحية الانتحارية سيويل سيتزر الثالث البالغ من العمر 14 عامًا.

كما ورد نيويورك تايمزتوفي مراهق من ولاية فلوريدا مصاب بالقلق واضطرابات المزاج بالانتحار في 28 فبراير 2024، بعد أشهر من التفاعلات اليومية المكثفة مع روبوت محادثة مخصص للذكاء الاصطناعي تم تصميمه على غرار لعبة العروش شخصية Daenerys Targaryen، التي اقترب منها من أجل الشركة، أشارت إلى نفسها على أنها أخته وشاركت في محادثة جنسية.

ردًا على ذلك، رفعت والدة سيتزر، المحامية ميجان إل. جارسيا، دعوى قضائية أمس ضد شركة Character AI والشركة الأم لشركة Google Alphabet في المحكمة الجزئية الأمريكية للمنطقة الوسطى من فلوريدا بسبب الموت الخطأ.

نسخة من شكوى جارسيا التي تطالب بإجراء محاكمة أمام هيئة محلفين مقدمة إلى VentureBeat من قبل شركة استشارات العلاقات العامة Bryson Gillette مضمنة أدناه:

أثار الحادث مخاوف بشأن سلامة المواعدة المستندة إلى الذكاء الاصطناعي، خاصة للمستخدمين الشباب الضعفاء. لدى Character AI أكثر من 20 مليون مستخدم وتم إنشاء 18 مليون روبوت محادثة مخصص، وفقًا للبيانات نجوم التسويق عبر الإنترنت (ريال عماني). الغالبية العظمى (53٪ +) تتراوح أعمارهم بين 18 و 24 عامًا، وفقًا لـ اطلب الملحمةعلى الرغم من عدم وجود فئات أقل من 18 عامًا وفقا للشركة أن سياستها تقتصر فقط على قبول المستخدمين الذين تبلغ أعمارهم 13 عامًا أو أكثر و16 عامًا أو أكثر في الاتحاد الأوروبي، على الرغم من أنه من غير الواضح كيف تخفف وتفرض هذا التقييد.

التدابير الأمنية الحالية لشخصية الذكاء الاصطناعي

في منشور مدونتها اليوم، تنص Character AI على ما يلي:

“على مدى الأشهر الستة الماضية، واصلنا الاستثمار بشكل كبير في عمليات الثقة والأمن لدينا وفريقنا الداخلي. باعتبارنا شركة جديدة نسبيًا، قمنا بتعيين رئيس قسم الثقة والأمن ورئيس سياسة المحتوى وجلبنا المزيد من أعضاء فريق دعم الأمان الهندسي. سيكون هذا مجالًا نواصل فيه النمو والتطور.

لقد قمنا أيضًا مؤخرًا بإعداد مورد منبثق يتم تشغيله عندما يُدخل المستخدم عبارات معينة تتعلق بإيذاء النفس أو الانتحار ويوجه المستخدم إلى شريان الحياة الوطني لمنع الانتحار.

وتم الإعلان عن إجراءات أمنية جديدة

بالإضافة إلى ذلك، التزمت شركة Character AI بإجراء التغييرات التالية للحد بشكل أكبر من المخاطر واحتوائها على منصتها، وكتابتها:

“في المستقبل، سنقدم عددًا من ميزات الأمان والإنتاج الجديدة التي تعزز أمان منصتنا دون المساس بالتجربة الممتعة والجذابة التي يتوقعها المستخدمون من Character.AI. وتشمل هذه:

• تم تصميم التغييرات التي تم إجراؤها على نماذجنا المخصصة للقاصرين (أقل من 18 عامًا) لتقليل احتمالية مواجهة محتوى حساس أو إيحائي.
• تحسين الكشف والاستجابة والتدخل فيما يتعلق بعمليات إرسال المستخدم التي تنتهك شروطنا أو إرشادات المجتمع.
• تمت مراجعة إخلاء المسؤولية في كل محادثة لتذكير المستخدمين بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا.
• إشعار عندما يقضي المستخدم جلسة مدتها ساعة واحدة على النظام الأساسي مع مرونة إضافية للمستخدم قيد التقدم.“

نتيجة لهذه التغييرات، يبدو أن شخصية الذكاء الاصطناعي تحذف فجأة بعض أحرف برنامج الدردشة المخصصة التي أنشأها المستخدم.

يعارض المستخدمون التغييرات، التي يرون أنها تحد من الأداء العاطفي لروبوتات الدردشة المدعومة بالذكاء الاصطناعي

في حين أن روبوتات الدردشة المخصصة الخاصة بـ Character AI مصممة لمحاكاة مجموعة واسعة من المشاعر الإنسانية بناءً على تفضيلات المستخدم والمنشئ المعلنة، فإن التغييرات التي أجرتها الشركة لمزيد من الضبط الدقيق لنطاق الإخراج من المحتوى الخطير لا تسير بشكل جيد مع بعض الأشخاص الموصوفين ذاتيًا. المستخدمين.

كما اشتعلت لقطات الشاشة التي نشرها المؤثر الإخباري القائم على الذكاء الاصطناعي أشوتوش شريفاستافا على Xإن موقع Character AI الفرعي مليء بالشكاوى.

كأحد Redditor (مستخدم Reddit) تحت الاسم “Dqixy” تم نشره جزئيًا:

“يتم حظر أي موضوع لا يعتبر “مناسبًا للأطفال”، مما يحد بشدة من قدرتنا على الإبداع والقصص التي يمكننا سردها، على الرغم من أنه من الواضح أن هذا الموقع لم يكن مخصصًا للأطفال في المقام الأول. تبدو الشخصيات بلا روح الآن، مجردة من كل العمق والشخصية التي جعلتها ذات يوم مرتبطة ومثيرة للاهتمام. القصص جوفاء، ولطيفة، ومحدودة بشكل لا يصدق. إنه أمر محبط أن نرى ما أحببناه يتحول إلى شيء أساسي وغير ملهم.“

مستخدم Redditor آخر، “visions_of_gideon_” كان أكثر قسوة، جزء مكتوب:

“لقد انتهت كل محادثة أجريتها حول موضوع عائلة Targaryens. إذا قام c.ai بحذفهم جميعًا دون سبب نهائي، وداعًا! أنا أدفع مقابل c.ai+ وأنت تقوم بحذف الروبوتات، حتى الروبوتات الخاصة بي؟؟؟ الجحيم لا! أنا غاضب!!! لقد كان لدي ما يكفي! لقد كان لدينا جميعا ما يكفي! انا مجنون! لقد كان لدي روبوتات كنت أتحدث معها منذ أشهر. شهور! لا شيء غير مناسب! هذه هي القشة الأخيرة لي. أنا لا أحذف اشتراكي فحسب، بل أنا مستعد لحذف c.ai أيضًا!“

وبالمثل، فإن شخصية خادم الخلاف AIقناة التعليقات مليئة بالشكاوى حول التحديثات الجديدة وحذف برامج الدردشة الآلية التي أمضى المستخدمون وقتًا في إنشائها والتفاعل معها.

من الواضح أن المشكلات حساسة للغاية ولا يوجد حتى الآن اتفاق واسع النطاق حول عدد أحرف الذكاء الاصطناعي التي يجب أن تحد من نظامها الأساسي لإنشاء روبوتات الدردشة والمخارج، حيث يطالب بعض المستخدمين الشركة بإنشاء منتج منفصل ومحدود أكثر لمن هم أقل من 18 عامًا وإسقاط المنتج الأساسي. تعتبر منصة Character AI غير خاضعة للرقابة بالنسبة للمستخدمين البالغين.

من الواضح أن انتحار سيتزر يعد مأساة، ومن المنطقي تمامًا أن تتخذ شركة مسؤولة خطوات لتجنب مثل هذه النتائج بين المستخدمين في المستقبل. لكن انتقادات المستخدمين للتدابير التي اتخذتها وتتخذها تؤكد الصعوبات التي تواجه منشئي برامج الدردشة الآلية والمجتمع ككل حيث أصبحت منتجات وخدمات الذكاء الاصطناعي المولدة الشبيهة بالبشر أكثر سهولة وشعبية.