دولة أفريقية تقضي على الألفاظ الجارحة في "شات جي بي تي"

mainThumb

25-07-2023 12:12 PM

printIcon

ينظر مستخدمو الانترنت حول العالم إلى منصة "شات جي بي تي"، وغيرها من نماذج الدردشة الذكية الاصطناعية، لكونها تمتلك الإمكانية على استبدال البشر في مجموعة من الوظائف، بدءاً من وظيفة خدمة العملاء إلى كتابة النصوص.

ولكن في الوقت الحالي، تعتمد هذه التقنية "الذكية" على نوع مختلف من العمل البشري، ففي السنوات الأخيرة، قام عمّال من ذوي الأجر المنخفض في أفريقيا بجهد مضني لمنع تقنية الدردشة الذكية من استخدام كلمات جارحة أو مقززة.
وبحسب توصيف تقرير صحيفة "وال ستريت جورنال" الأمريكية فإن شات جي بي تي تم بناؤه على نموذج كبير للغات، وهذا النموذج برنامج قوي تم تدريبه على أجزاء من النصوص المنتشرة من مختلف أنحاء الإنترنت لتعلم أنماط اللغة البشرية. ومن هنا يأتي الخطر. إذ يمكن لهذا النموذج أن يولد محتوى مضر قد يستوحيه من الأجزاء الأكثر ظلامية في الانترنت.
وهذه المشكلة تواجه شركة "أوبن إيه آي" التي تدير "شات جي بي تي" منذ سنوات.
وفي محاولة لتنظيف مخزون الذكاء الاصطناعي من الكلمات الجارحة والشتائم، استعانت الشركة بمجموعة من الأفراد في كينيا، لمراجعة وتصنيف آلاف المقاطع النصية النافرة التي تم الحصول عليها من الإنترنت، والتي تم إعادة توليفها بواسطة الذكاء الاصطناعي نفسه. تضمن المنتج العديد من هذه المقاطع التي تتحدث عن العنف والتحرش الجنسي والإيذاء الذاتي والاغتصاب وسوء معاملة الأطفال والوحشية، حسب وثائق اطلعت عليها الصحيفة.
واستخدمت الشركة المالكة لشات جي بي تي تصنيفات تلك المقاطع لبناء مصفاة - فلتر - أمان ذكي.
ويؤكد الباحثون والمبرمجون في مجال الذكاء الاصطناعي أن مثل هذا التدخل البشري سيظل ضرورياً خلال مسيرة تطوير الذكاء الاصطناعي، ولكن أحد العمال في كينيا يوضح بأن العمل على المواد الضارة هو أسوأ أنواع الوظائف أبداً.
وفي فبراير (شباط) الماضي، قال ألكسندر وانغ، الرئيس التنفيذي لشركة "سكايل إيه آي"، إحدى الشركات المتعهدة التي توفر مقاولين لشركة "أوبن إيه آي" لمراجعة وتصنيف المحتوى، بأن الشركات قد تنفق مئات الملايين من الدولارات سنوياً لتزويد أنظمة الذكاء الاصطناعي بملاحظات بشرية. ويقدّر آخرون أن الشركات تستثمر بالفعل ملايين وعشرات الملايين من الدولارات سنوياً في هذا النطاق. وأفادت "أوبن إيه آي" بأنها وظفت أكثر من 1000 عامل لهذا الغرض.
ويذكر أن منصات التواصل المعروفة، مثل فيسبوك وإنستغرام وغيرها، لطالما وظفت أناس لتنظيف المنشورات من المواد التي تعترض سياسة الاستخدام المتعارف عليها.