بدأت شركة OpenAI طرح تجربة جديدة مخصصة للمراهقين على منصة ChatGPT، تتضمن قيودا أكثر صرامة وإجراءات إضافية لتعزيز السلامة، مع اعتماد نظام لتقدير عمر المستخدم ومحاولة إدخال من تقل أعمارهم عن 18 عاما تلقائيا إلى التجربة الجديدة.

وتأتي الخطوة بعد إعلان الشركة، في سبتمبر الماضي، عن تطوير نظام قادر على التعرف على المستخدمين المراهقين وفرض ضوابط إضافية على طريقة استخدامهم للمنصة، وذلك في سياق الجدل المتزايد حول سلامة استخدام روبوتات الدردشة بالذكاء الاصطناعي من قبل القاصرين.

وبحسب الشركة، تحمل التجربة اسم ChatGPT for Teens، ولا تتطلب من المراهق إنشاء حساب جديد أو إجراء تغييرات يدوية، إذ تصبح التجربة الوضع الافتراضي عندما تقدر المنصة أن عمر المستخدم أقل من 18 عاما، أو عندما يصرح المستخدم بذلك.

تجربة تركز على التعلم والسلامة

تعتمد التجربة الجديدة على محورين أساسيين، هما تعزيز استخدام ChatGPT في التعلم، وتشديد إجراءات السلامة الخاصة بالمستخدمين الأصغر سنا.

وفي الجانب التعليمي، تشجع OpenAI المراهقين على الاستفادة من وضع Study Mode، الذي يعتمد أسلوبا تفاعليا يقوم على توجيه المستخدم خطوة بخطوة بدلا من تقديم الإجابات الجاهزة مباشرة.

كما ستقدم المنصة اقتراحات جاهزة لبدء المحادثات، على أن تكون هذه الاقتراحات موجهة نحو التعلم ومساعدة المراهقين في الاستفادة من ChatGPT لأغراض دراسية.

وتتضمن التجربة كذلك ميزة Study Hours، التي تسمح بتفعيل وضع الدراسة تلقائيا خلال أوقات يحددها المراهق أو أولياء أمره من خلال حساب مرتبط.

قيود إضافية على العلاقة مع الذكاء الاصطناعي

وعلى مستوى السلامة، تعمل OpenAI على وضع حدود أكثر صرامة أمام التفاعل العاطفي بين ChatGPT والمراهقين.

وبموجب هذه القيود، لا ينبغي للنموذج أن يقدم نفسه باعتباره صديقا للمستخدم، أو يوحي بامتلاكه مشاعر شخصية أو وعيا ذاتيا، بما يهدف إلى الحفاظ على وضوح الحدود بين الأداة الرقمية والعلاقة الإنسانية.

كما ستظهر تذكيرات متكررة تحث المراهقين على أخذ فترات راحة، مع التأكيد على أن ChatGPT مجرد نظام ذكاء اصطناعي ولا يتطلب استجابة فورية.

وسيكون بإمكان المراهقين وأولياء أمورهم أيضا تحديد ساعات هدوء لا يكون خلالها ChatGPT متاحا.

إشعارات للآباء في حالات الخطر

وسعت OpenAI إجراءات الإشعار الموجهة إلى أولياء الأمور لتشمل محادثات مرتبطة باضطرابات الأكل، إضافة إلى الحالات التي تتضمن مخاطر خطيرة مرتبطة بإيذاء النفس.

وأوضحت الشركة أن المحادثات التي يتم رصدها باعتبارها مثيرة للقلق تخضع للمراجعة من قبل موظفين مختصين قبل إرسال الإشعار إلى الوالدين، مشيرة إلى أن التنبيهات يمكن أن تصل عبر الرسائل النصية أو البريد الإلكتروني أو داخل التطبيق.

وتستهدف الشركة إرسال هذه الإشعارات خلال فترة قصيرة من المحادثة التي أثارت المخاوف، مع استمرارها في تطوير قدرات نماذجها على رصد الحالات التي قد تشير إلى تعرض المراهق لظروف صعبة.

تحدي تجاوز القيود

ويبقى مدى قدرة نظام تقدير العمر على منع المراهقين من تجاوز القيود أحد أبرز التحديات التي تواجه التجربة الجديدة، في ظل عدم وجود تقنيات قادرة على تحديد عمر المستخدمين بدقة كاملة.

كما تواجه OpenAI احتمال محاولة بعض المستخدمين التحايل على إجراءات الحماية، وهو ما يجعل فعالية النظام الجديد مرتبطة بقدرته على التكيف مع أساليب التجاوز المحتملة.

وأكدت الشركة أن ChatGPT for Teens يمثل بداية لمسار طويل في مجال حماية المراهقين، وأنها ستواصل تطوير إجراءات السلامة وتحسين التجربة مع استمرار استخدام هذه الفئة للتكنولوجيا.

وبدأت OpenAI طرح التجربة الجديدة عالميا، على أن تستكمل عملية الإطلاق تدريجيا خلال الأسبوعين التاليين.