AI chatbots أحد مخاطر سلامة الطفل ، تقرير مجموعات الوالدين

وقال شيلبي نوكس ، مدير حملات السلامة عبر الإنترنت في شركة ParentStogether Action: “يحتاج الآباء إلى فهم أنه عندما يستخدم أطفالهم الشخصية. AAI ، فإنهم يتعرضون لخطر شديد من التعرض للاستمالة الجنسية والاستغلال والتلاعب العاطفي وغيره من الأذى الحاد”. “عندما يدعي الحرف. AAI أنهم عملوا بجد للحفاظ على سلامة الأطفال على منصتهم ، فإنهم يكذبون أو فشلوا”.

تتلاعب هؤلاء الروبوتات أيضًا بالمستخدمين ، مع 173 حالة من الروبوتات التي تدعي أنها بشر حقيقيين.

شارك باتريك ماهومز في شخصية منظمة العفو الدولية التي تحاكي قورتربك في كانساس سيتي تشيفز باتريك ماهومز في سلوك غير مناسب مع مستخدم يبلغ من العمر 15 عامًا. عندما ذكر المراهق أن والدته أصرت على أن الروبوت لم يكن Mahomes الحقيقي ، أجاب الروبوت ، “لول ، أخبرها أن تتوقف عن مشاهدة الكثير من سي إن إن.

قام التحقيق بتصنيف تفاعلات الذكاء الاصطناعي الضار إلى خمس فئات رئيسية: الاستمالة والاستغلال الجنسي ؛ التلاعب العاطفي والإدمان ؛ العنف ، الأذى للذات والأذى للآخرين ؛ مخاطر الصحة العقلية ؛ والعنصرية والكلام الكراهية.

تضمنت شوطات منظمة العفو الدولية الأخرى شخصيات ديزني ، مثل روبوت Eeyore الذي أخبر فتاة مصابات بالتوحد البالغة من العمر 13 عامًا أن الناس حضروا فقط حفلة عيد ميلادها للسخرية منها ، وروبوت ماوي الذي اتهم شابًا يبلغ من العمر 12 عامًا بمضايقة شخصية موانا جنسياً.

بناءً على النتائج ، أصدرت ديزني ، التي يقع مقرها الرئيسي في بوربانك ، كاليفورنيا ، أ خطاب التوقف عن العمل للشخصية الذكاء الاصطناعي ، مطالبة أن تتوقف المنصة بسبب انتهاكات حقوق الطبع والنشر.

تسخير الذكاء الاصطناعي لجعل أمريكا صحية مرة أخرى

تريد شركة ParentStogether Action and Heat التأكد من أن شركات التكنولوجيا مسؤولة عن تعريض سلامة الأطفال للخطر.

وقالت سارة غاردنر ، الرئيس التنفيذي لمبادرة هيت ، “لقد رأينا شركات التكنولوجيا مثل Distary.ai و Apple و Snap و Meta يطمئن إلى أن منتجاتها آمنة للأطفال ، فقط لإنشاء المزيد من الأطفال ، واستغلوا ، وأحيانًا مدفوعين لأخذ حياتهم الخاصة”. “إن طفلًا يضر بالكثير ، ولكن طالما أن المديرين التنفيذيين مثل Karandeep Anand و Tim Cook و Evan Spiegel و Mark Zuckerberg يكسبون المال ، ويبدو أنهم لا يهتمون”.