كيف برمجيا منع المحتوى من ألفاظ نابية؟

أنت كمبرمج تبرمج مثلا موقع تواصل اجتماعي قد تريد تقييد محتوى التعليقات أو المحتوى الذي ينشر بشكل عام لمنع بعض المستخدمين من كتابة شتائم أو ألفاظ نابية القذرة لترتقي المحتوى

لذلك تحتاج إلى مصفوفة بها أغلب الكلمات السيئة والشتائم المتوقعة لتحديدها برمجيا هل الجملة للمحتوى تحتوي على بعض هذه الكلمات السيئة أو لا؟

فقد أحضرت لك ملف يسمي bad words مصفوفة شاملة تحتوي على قاموساً من الكلمات الحساسة ما يميز ذلك القاموس أنه يحتوي على كلمات ألفاظ نابية بلغة العربية وأيضا بلغة الإنجليزية

• لماذا لا استخدم الذكاء الأصطناعي ؟

  استخدامك برمجيا للذكاء الاصطناعي في تحديد شفافية المحتوى يعتمد علي مدى توسع الزوار وعددهم وهل هناك احتمالية كبيرة أن يحاول المستخدمون إيجاد تحايل لكتابة محتوى وتخطي الحماية.
  لو عدد الزوار لا يتخطى 5 آلاف زائر لا داعي، ولا تحتاج ذكاء اصطناعياً يمكنك الموافقة على المحتوى يدويا.
  لأن استخدامك له على نحو خاطئ يبطئ تجربة المستخدم؛ لأنك تحتاج عمل مصادقة تسجيل دخول API endpoint للذكاء الاصطناعي وRequest كثيرة وتجربة سيئة لتشغيله لعمل Filter على الكلمات كلهن على مستوى تطبيقك بالكامل ذلك يبطئ الكود وأيضا تجربة المستخدم.

• كيف أستخدم المصفوفة؟

  يمكنك برمجة الكود الخاص بك على أن يحصل على الجملة كاملة، ثم يفحص برمجيا عبر For loop على أي من كلمات هذه ال Bad_list موجودة في الجملة bad words .
  هناك طرق كثيرة تعتمد عليك حسب كتابتك الأكواد البرمجية.

تحميل قاموس الكلمات

يفضل استخدام قائمة الكلمات bad words في الباك اند
لأن مثلا موقع الويب في الفرونت أند المستخدم قادر على رؤية تلك القائمة الشتائم المتوقعة ليكتب شتيمة جديدة.
لذلك يفضل استخدامها في الباك آند أو عمل Endpoint call خاص بك.