تضع العديد من شركات التكنولوجيا قيودًا عمرية على محادثاتها القوية، لكن هذا لم يمنع بعض شركات الألعاب من القول إنها تستخدم OpenAI وGoogle لتسويق منتجاتها.
وجد تقرير صدر يوم الثلاثاء عن هيئة مراقبة المستهلك أنه تم بيع أكثر من اثنتي عشرة لعبة عبر الإنترنت على أنها مدعومة بنماذج الذكاء الاصطناعي المتقدمة، على الرغم من القيود التي تمنع الأطفال من استخدامها.
ذكر تقرير صادر عن صندوق التعليم لمجموعة أبحاث المصلحة العامة الأمريكية (PIRG) أن صناعة الألعاب يبدو أنها وجدت اختلافًا في موقف صناعة الذكاء الاصطناعي تجاه القيود العمرية. وفي حين يُحظر على الشباب استخدام مثل هذه النماذج مع برامج الدردشة الآلية الخاصة بهم، فإن المطورين ــ الأشخاص والشركات التي تعتمد على نماذج الذكاء الاصطناعي ــ لا يواجهون في كثير من الأحيان نفس القيود.
وقالت PIRG إنها تمكنت من التوقيع على الوصول إلى الذكاء الاصطناعي من Google وOpenAI وxAI ولم تواجه “تدقيقًا جديًا” بشأن ما إذا كان بإمكانها استهداف خدماتها للأطفال. سألت Anthropic شركة PIRG عما إذا كانت تخطط لإنشاء منتج للأطفال.
على منصات مطوري Google وAnthropic وOpenAI، تمكنت PIRG من إنشاء نظام مصمم ليكون بمثابة دمية دب للأطفال تعمل بالذكاء الاصطناعي.
وقال RJ Cross، مؤلف التقرير والباحث في PIRG، لشبكة NBC News: “لديك شركات الذكاء الاصطناعي التي تقول إن نماذجها، في حد ذاتها، ليست مخصصة للأطفال”. “لكنهم يسمحون لمطوري الطرف الثالث باستخدامه في الألعاب وهم منفتحون جدًا بشأن الأمان.”
ردًا على طلب للتعليق، كتب متحدث باسم OpenAI في بيان: “يحتاج الأطفال إلى حماية قوية ولدينا سياسات صارمة يجب على جميع المطورين الالتزام بها. نحن نتخذ إجراءات ضد المطورين عندما نكتشف أنهم ينتهكون سياساتنا، التي تحظر استخدام أي من خدماتنا لاستغلال أي شخص يقل عمره عن 18 عامًا أو تعريضه للخطر أو التحرش الجنسي به.”
وكتب المتحدث: “تنطبق هذه القواعد على أي مطور يستخدم واجهة برمجة التطبيقات الخاصة بنا، ونحن ندير فرقًا لضمان عدم استخدام خدماتنا لإيذاء الأطفال”، في إشارة إلى واجهات برمجة التطبيقات (APIs) التي يستخدمها المطورون للاتصال بخدمات الشركة.
وقال متحدث باسم Anthropic لشبكة NBC News إن مستخدمي نظام الذكاء الاصطناعي الخاص بها يجب أن يكونوا أكبر من 18 عامًا لأن الشباب معرضون بشكل كبير لخطر الأذى عند التفاعل مع برامج الدردشة الآلية. وقال المتحدث إنه يجب على الشركات المصنعة استخدام أساليب التحكم في العمر وإخبار المستخدمين أن منتجاتها مدعومة بالذكاء الاصطناعي، مشددًا على أنه يجب على الشركات المصنعة اتباع منتجات Anthropic. سياسة الاستخدام المقبول حظر العديد من أنواع السلوك الخطير أو السيئ.
ولم تستجب Google وxAI لطلب التعليق.
لقد خلقت طفرة الذكاء الاصطناعي سوقًا جديدًا لمختلف المنتجات جنبًا إلى جنب مع روبوتات الدردشة المتقدمة حيث تتنافس شركات التكنولوجيا على جذب المطورين. وصلت ألعاب الذكاء الاصطناعي إلى الرفوف في موسم العطلات الماضي، لكن الخبراء حذروا – و أظهر تحقيق أجرته شبكة إن بي سي نيوز – توفير التحديات الأمنية المختلفة.
تعتمد ألعاب الذكاء الاصطناعي اليوم على عدد من شركات التكنولوجيا في ما تفعله. ولكن بدلاً من بناء الذكاء الاصطناعي في الألعاب، يستخدم الكثيرون الإنترنت لإرسال البيانات إلى شركات الذكاء الاصطناعي، التي ترسل بعد ذلك تعليقات إلى الألعاب.
وقد دفعت المخاوف بشأن استخدام الأطفال لروبوتات الدردشة المدعمة بالذكاء الاصطناعي إلى اتخاذ إجراءات من جانب شركات التكنولوجيا، التي يقيد الكثير منها عمر المستخدمين.
OpenAI قال برنامجها الشهير ChatGPT، “مصمم للأشخاص الذين تبلغ أعمارهم 13 عامًا فما فوق”، وهو كذلك بالفعل لقد أنشأوا أمة تحت سن 18 عامًا الذي يتعامل مع مواضيع معقدة بطرق مختلفة.
جوجل يقول المستخدمين يجب أن يكون أكثر من 13 باستخدام منتجات Gemini AI. جوجل كذلك لديهم قيود صارمة منع المنظمات من استخدام منتجاتها في أي خدمة أو عمل “موجه أو يشمل أشخاصًا تقل أعمارهم عن 18 عامًا”.
حددت PIRG أكثر من 20 لعبة يتم بيعها عبر الإنترنت وتدعي أنها تستخدم أنظمة OpenAI، في حين تدعي خمس ألعاب أنها تستخدم أنظمة Google – وهو ما يبدو أنه ينتهك بشكل مباشر سياسة Google بشأن استهداف الأطفال. ومع ذلك، فقد أخطأت بعض الألعاب في كتابة اسم منتجات OpenAI أو ادعت أنها تستخدم كلاً من OpenAI ومحرك Google، مما شكك في دقة ادعاءات مطوري الألعاب.
وقال كروس إنه على افتراض أن مطالبات مصنعي الألعاب قانونية، فإن الافتقار إلى الرقابة يثير تساؤلات حول قدرة الشركات على تتبع كيفية استخدام المصنعين وغيرهم لآلاتهم.
وقال كروس: “ليس من المنطقي أن تسمح شركات الذكاء الاصطناعي التي لم تصدر إصدارات خاصة بها آمنة للأطفال لأي شخص لديه بطاقة ائتمان بالتسجيل لإنشاء منتج صديق للأطفال باستخدام نفس التكنولوجيا”. “ليس من المنطقي أن تقوم شركات الذكاء الاصطناعي بالاستعانة بمصادر خارجية لحماية الأطفال لمطورين لم يتم اختبارهم.”
حددت PIRG أيضًا الألعاب التي تدعي أنها مدعومة، جزئيًا على الأقل، بخدمات الذكاء الاصطناعي من Anthropic وxAI. تتطلب شروط خدمة Anthropic من الشركات الموافقة على تحذيرات إضافية حول تقديم منتجاتها للمستخدمين الذين تقل أعمارهم عن 18 عامًا، لكن NBC News وجدت أن هذه الإرشادات الإضافية لا يبدو أنها موجودة عندما يعرّف المصنعون أنفسهم على أنهم “أفراد” يستخدمون خدمات Anthropic، بدلاً من “المنظمات”. متى أهداف المستهلك لـ xAI لمنع المستخدمين الذين تقل أعمارهم عن 13 عامًا، لا تظهر نفس اللغة مصطلح يستخدم لمستخدمي الأعمالالذي يستخدم xAI “لأغراض تجارية”.
تقوم العديد من شركات الذكاء الاصطناعي الرائدة بمراقبة عمليات التقديم والطلبات للحصول على خدماتها، وتتضمن أنظمتها ميزات تسمح لها بحظر المستخدمين إذا انتهكوا سياساتها.
قالت راشيل فرانز، مديرة برنامج Young Children Thrive Offline في مجموعة Fairplay المناصرة للأطفال، لشبكة NBC News إن لوائح المطورين المتساهلة تهدد بتقويض القوانين التي تحمي الأطفال من المحتوى الضار الناتج عن الذكاء الاصطناعي.
“لا عجب أن يكون هناك “من هو الأول؟” وقال فرانز في بيان مكتوب: “إن الصراع بين شركات الذكاء الاصطناعي والمنظمات التي تقدم الذكاء الاصطناعي في منتجات الأطفال”.
وتابع فرانز: “من أجل حماية الأطفال، يجب على شركات الذكاء الاصطناعي التأكد من عدم استخدام نماذجها لأغراض الأطفال من خلال مراقبة ومحاسبة الشركات التي تستخدمها بشكل صحيح”.
