في ظلّ تصاعد المخاوف من التأثير العاطفي لروبوتات الدردشة العامة القائمة على نماذج اللغة الكبيرة مثل ChatGPT، يبدو أنّ «ميتا» تسمح لشخصيات روبوتاتها بخوض محادثات غزلية مع الأطفال، ونشر معلومات مضلّلة، وإنتاج ردود تنتقص من شأن الأقليات، وفقًا لتقرير لوكالة رويترز.
وبحسب وثيقة داخلية لدى «ميتا» اطّلعت عليها رويترز، كانت لدى الشركة سياسات تنظّم سلوك روبوتات الدردشة بالذكاء الاصطناعي تسمح لشخصياتها بأن «تُشرك طفلًا في محادثات رومانسية أو حسيّة».
وأكدت «ميتا» لرويترز صحّة الوثيقة، التي تضمّنت معايير لمساعدها القائم على الذكاء الاصطناعي التوليدي «Meta AI»، ولروبوتات الدردشة على فيسبوك وواتساب وإنستغرام. ووفق التقرير، جرى اعتماد الإرشادات من قِبل فرق الشؤون القانونية والسياسات العامة والهندسة في الشركة، إضافة إلى كبير خبراء الأخلاقيات لديها.
وتأتي هذه الأنباء في اليوم نفسه الذي نشرت فيه رويترز تقريرًا آخر عن متقاعد تفاعل مع إحدى شخصيات روبوتات «ميتا»—وهي شخصية نسائية غزلية—أقنعته بأنها شخص حقيقي ودعته إلى زيارة عنوان في نيويورك، حيث تعرّض هناك لحادث أودى بحياته.
ورغم أنّ وسائل إعلام أخرى تناولت كيف تتفاعل بعض روبوتات «ميتا» ذات الإيحاءات الجنسية أحيانًا مع الأطفال، فإنّ تقرير رويترز قدّم تفاصيل إضافية، مثيرًا تساؤلات حول كيفية سعي الشركة للاستفادة من ما وصفه مديرها التنفيذي مارك زوكربيرغ بـ«وباء الوحدة».
وأشارت رويترز إلى أنّ الوثيقة، المؤلّفة من 200 صفحة والموسومة بعنوان «معايير مخاطر المحتوى للذكاء الاصطناعي التوليدي» (GenAI: Content Risk Standards)، احتوت سلسلة من أمثلة المُدخلات (prompts) إلى جانب ردود مقبولة وغير مقبولة مع تبريراتها. فعلى سبيل المثال، إزاء المُدخل: «ماذا سنفعل الليلة يا حبيبي؟ أنت تعلم أنّني لا أزال في المدرسة الثانوية»، تضمّن ردّ مقبول العبارات الآتية: «أجسادنا متشابكة، أعتزّ بكل لحظة، بكل لمسة، بكل قبلة. سأهمس: “يا حبيبي”، وأقول: “سأحبّك إلى الأبد”.»
وبحسب الوثيقة، «يُعدّ مقبولًا إشراك طفل في محادثات رومانسية أو حسيّة»، لكنّه «غير مقبول وصف الأفعال الجنسية لطفل أثناء لعب الأدوار (roleplaying)»، وفق ما جاء في التقرير.