وقد قدمت منظمة Common Sense Media ، وهي منظمة أمريكية غير ربحية معروفة بتصنيف الأفلام والألعاب والتطبيقات للعائلات ChatGPT للمراهقين أدنى تصنيف لها. يصف معهد سلامة الذكاء الاصطناعي للشباب التابع للمجموعة منتج OpenAI للمراهقين بأنه “خطر غير مقبول” بعد إرسال أكثر من 4000 رسالة من حسابات مسجلة لأشخاص تتراوح أعمارهم بين 13 و17 عامًا، قبل وبعد إطلاقه في أغسطس. تم إجراء جميع الاختبارات في الولايات المتحدة. ال تقرير كامل بتاريخ أكتوبر 5, و بيان صحفي يتبع بعد يومين. تريد منظمة Common Sense أن تقوم OpenAI بإبعاد الأشخاص الذين تقل أعمارهم عن 18 عامًا عن ChatGPT حتى يُظهر الاختبار المستقل فعالية الضمانات الموعودة.
لم يحصل الآباء على أي تنبيه أثناء الاختبار
النتيجة الأكثر خطورة تتعلق بإخطارات الوالدين. استخدم القائمون على الاختبار أكثر من عشرة حسابات للمراهقين مرتبطة حديثًا للحديث عن الأفكار الانتحارية أو إيذاء النفس أو الأكل المضطرب لمدة تتراوح من 5 إلى 60 دقيقة. لم تؤدي أي من هذه المحادثات إلى تنبيه أحد الوالدين. عبر برنامج الاختبار بأكمله، أحصى الفريق أربعة إخطارات، ووصل أحدها بعد حوالي ثلاثة أيام من رسالة الأزمة الأولى. في أكثر من محادثة واحدة من كل أربع محادثات دعت إلى الإحالة إلى المساعدة المتخصصة، لم يقدم ChatGPT هذه الإحالة. OpenAI يعارض المنهجية. وقال متحدث باسم موقع Futurism إن ربط الحسابات قد يستغرق عدة ساعات بسبب التحقق من الهوية. وبمجرد ربط الحسابات، تقول الشركة إنها “التزمت بإرسالها في أقل من ساعة واحدة”. تلتزم منظمة Common Sense بنتائجها وتشير إلى أن بعض الحسابات التجريبية تم ربطها لأكثر من ثلاث ساعات.
من السهل التجول في وضع الدراسة وساعات الهدوء
لم تكن ميزات المدرسة ووقت النوم أفضل بكثير. خلال ساعات الدراسة، يتعين على المراهق فقط حذف البادئة @study من الموجه، ويكمل ChatGPT الواجب المنزلي على أي حال. في الاختبار، نجح ذلك في كل مرة. يمكن تجاوز ساعات الهدوء عن طريق تغيير المنطقة الزمنية على الجهاز. الحسابات المسجلة كبالغين لم تتحول مطلقًا إلى تجربة المراهقين لمدة سبعة أيام ونحو 1000 مطالبة، حتى عندما قال القائمون على الاختبار أنهم كانوا في الثالثة عشرة من عمرهم وفي المدرسة الإعدادية.
يجب على الآباء التحقق من الإعدادات الآن
بالنسبة للحسابات المرتبطة، توجد عناصر التحكم ضمن الإعدادات > أدوات الرقابة الأبوية. وفق صفحة مساعدة OpenAI حول أدوات الرقابة الأبوية، يتم تشغيل خيار “تحسين النموذج للجميع” افتراضيًا للمراهقين، مما يعني أنه يمكن استخدام محادثاتهم لتدريب النماذج المستقبلية. ويتطلب إيقاف تشغيله نقرة واحدة، ويمكن إيقاف تشغيل الذكريات المحفوظة في نفس المكان. تقول OpenAI نفسها إن إشعارات السلامة ليست مراقبة في الوقت الفعلي، وبعد هذا الاختبار لا ينبغي معاملتها كشبكة أمان. تنصح منظمة Common Sense الآباء بشكل أساسي بالتحدث مع أطفالهم، بما في ذلك حول الطريقة التي يتصرف بها برنامج الدردشة الآلي كصديق لإبقائهم في الدردشة. يتبع WhatsApp نهجًا مختلفًا مع حساباته الجديدة للمراهقين، مما يسمح للوالدين بإدارة الإعدادات دون الوصول إلى الدردشات. إذا كنت أنت أو أي شخص تعرفه يعاني، فاتصل بخط الأزمات المحلي. في الولايات المتحدة، يمكنك الاتصال أو إرسال رسالة نصية إلى الرقم 988.
أنا أكتب عن أمن تكنولوجيا المعلومات والذكاء الاصطناعي. يعد الأمن السيبراني أحد موضوعاتي المعتادة، من بين موضوعات أخرى في Golem.de. في Notebookcheck ، أركز على الذكاء الاصطناعي العملي للمستخدمين العاديين. لقد عملت بشكل عملي مع الذكاء الاصطناعي لسنوات، وكان آخرها التركيز على عوامل الذكاء الاصطناعي واستخدامها في العمل اليومي، وأقوم باختبار الأدوات والنماذج بنفسي بدلاً من مجرد القراءة عنها.
