التحيز في البرمجة اللغوية العصبية وتأثيره على الذكاء الاصطناعي

يمكن تقسيم معالجة اللغة الطبيعية (NLP) إلى مجالين رئيسيين: فهم اللغة الطبيعية (NLU) وتوليد اللغة الطبيعية (NLG). يهتم NLU باستخدام أجهزة الكمبيوتر لفهم العلاقات الدلالية بين الكلمات في نصوص اللغة الطبيعية ، بينما يهتم NLG بتوليد النصوص التي تحاكي التعقيد الدلالي لنصوص اللغة الطبيعية.

يمكن تطبيق هذه الأدوات على العديد من مشاكل الأعمال في العالم الحقيقي ، مثل تصنيف المستندات وتلخيصها ، واستخراج الكيانات المسماة ، والترجمة الآلية ، والتحقق من الحقائق ، والإجابة على الأسئلة. يمكن أن تساعد في زيادة الكفاءة عن طريق تقليل وقت البحث والفعالية من خلال تحسين الملاءمة. يمكن أن تكون البرمجة اللغوية العصبية طريقة فعالة للغاية لاستخدام أجهزة الكمبيوتر لحل المشكلات التي لا يمكن التعامل معها تقليديًا إلا بواسطة البشر.

برنامج التعرف على الكلام و البرمجة اللغوية العصبية

يمكن أن تساعد البرمجة اللغوية العصبية حتى في التعرف التلقائي على الكلام (ASR). نظرًا لأن ASR يهدف إلى معالجة اللغة الطبيعية ، يمكن أيضًا فهمها كجزء من فئة NLP التي تجمع بين NLU (فهم الكلام) و NLG (توليد مخرجات اللغة الطبيعية كنسخ للمدخلات المنطوقة).

إذا كان هناك تمييز واضح ، فيمكن أن تساعد البرمجة اللغوية العصبية في تحسين دقة النموذج الصوتي لنظام ASR. في هذه الحالة ، يمكن استخدام نموذج اللغة (LM) لتقدير احتمال مقطع لفظي معين أو تسلسل كلمات. يمكن أن يساعد هذا ، على سبيل المثال ، في التمييز بين المتجانسات ، أي الكلمات التي تُلفظ بنفس الطريقة ولكنها تحمل معنى مختلفًا.

يمكن أن تستخدم LMs الحديثة كلمات السياق لتقدير الاحتمالات الإجمالية. ومع ذلك ، تظهر المنشورات الحديثة أن أنظمة ASR الأكثر دقة تعالج المشكلة من طرف إلى طرف ، أي أن النموذج الصوتي متشابك مع LM ونموذج توليد الكلام. هذا يجعل من الصعب بشكل متزايد التمييز بين ASR و NLP.

قضايا التحيز في البرمجة اللغوية العصبية والتعرف على الكلام

ولكن هناك حالات من التحيز تحدث في NLP و ASR التي لديها القدرة على عرقلة استخدام هذه التقنيات. يتضمن تنفيذ الذكاء الاصطناعي مع التعلم الآلي الحديث (ML) مكونين رئيسيين: نموذج ML بهندسة محددة ومجموعة بيانات تشكل مهمة واحدة أو أكثر من المهام المحددة. يمكن لكلا الجزأين إدخال تحيزات.

يمكن لطبيعة الصندوق الأسود لنماذج ML أن تجعل من الصعب شرح القرارات التي تتخذها النماذج. علاوة على ذلك ، يمكن أن تزيد النماذج عن مجموعات البيانات أو تصبح مفرطة الثقة ولا تعمم جيدًا على الأمثلة غير المرئية. ومع ذلك ، في معظم الحالات ، تكون مجموعة البيانات المستخدمة للتدريب والتقييم هي السبب في إدخال التحيز.

قد تحتوي مجموعة البيانات على معلومات متحيزة بطبيعتها ، مثل عدد غير متوازن من الكيانات. مجموعات البيانات التي تم التعليق عليها يدويًا بواسطة التعليقات التوضيحية البشرية معرضة بشكل خاص للتحيز ، حتى لو تم اختيار التعليقات التوضيحية بعناية شديدة ولديها خلفيات متنوعة. لا تزال المجموعات الكبيرة التي تم الحصول عليها بدون إشراف من شبكة الويب العالمية تظهر تحيزات ، على سبيل المثال ، بسبب الاختلافات في توفر الإنترنت حول العالم أو الاختلافات في تواتر المتحدثين بلغات معينة.

الآثار المترتبة على التحيز في البرمجة اللغوية العصبية

الجانب السلبي هو أن المجموعات السكانية الممثلة تمثيلاً ناقصًا في مجموعات بيانات معينة ، في أفضل الأحوال ، غير قادرة على استخدام نظام الذكاء الاصطناعي لمساعدتهم على حل المهمة المطلوبة ، وفي أسوأ الأحوال ، يتم التمييز ضدهم بسبب كيفية توقع الذكاء الاصطناعي للنتائج.

يصبح التمييز على أساس عدم عدالة نموذج مصطنع مشكلة خطيرة بمجرد استخدام أنظمة الذكاء الاصطناعي لاتخاذ قرارات مهمة محتملة تلقائيًا وبإشراف بشري محدود. بالإضافة إلى ذلك ، تعيق هذه المشكلات أيضًا تقدم وقبول الذكاء الاصطناعي بسبب انعدام الثقة المبرر الذي ينشأ. ونتيجة لذلك ، تكون هذه التقنيات أكثر فاعلية عند استخدامها لزيادة المدخلات والخبرة البشرية بدلاً من استبدالها.

التغلب على التحيز وتنظيمه في تقنية البرمجة اللغوية العصبية

لسوء الحظ ، لا توجد حل سحري لحل مشكلة التحيز في البرمجة اللغوية العصبية أو التعلم الآلي أو الذكاء الاصطناعي بشكل عام. بدلاً من ذلك ، هناك عنصر مهم هو الوعي بالمشكلة والالتزام المستمر بتطوير حلول الذكاء الاصطناعي التي تعمل على تحسين الإنصاف.

من الناحية الفنية ، هناك مجموعة متنوعة من النظريات والأساليب التي يتم بحثها وتطويرها بنشاط لتحسين الإنصاف وإمكانية الشرح. وتشمل هذه على سبيل المثال لا الحصر قياس وتقليل التحيز في مجموعات البيانات ، ومبادئ التدريب المتوازن للنماذج ، واستراتيجيات التعامل مع عدم اليقين المتأصل أثناء الاستدلال ، والمراقبة المستمرة لعملية صنع القرار في الذكاء الاصطناعي.

دور الأخلاق

يلعب مجال الأخلاق الحديث في الذكاء الاصطناعي أيضًا دورًا في معالجة التحيز في البرمجة اللغوية العصبية. يكمن التحدي في أن الذكاء الاصطناعي لا يزال حديثًا نسبيًا وسريع الحركة في مجال البحث والتطبيق. على الرغم من وجوده منذ سنوات عديدة ، إلا أنه لم ينتشر على نطاق واسع إلا مؤخرًا. لم نصل بعد إلى مرحلة الاستقرار المطلوب لصياغة السلوكيات والأعراف وتقنينها ، بما يضمن وجود ساحة لعب عادلة.

نهج Squirro ثلاثة أضعاف ، وهو نهج يمكن أن يقطع شوطًا طويلاً إذا اتبعته الصناعة الأوسع: أ) زيادة الوعي المستمر داخليًا ومع العملاء والآفاق حول مسألة التحيز في نمذجة الذكاء الاصطناعي واتخاذ القرار المدعوم بالذكاء الاصطناعي. ب) الدعوة والمساهمة في مجموعات العمل الصناعية والحكومية التي تنشئ الإطار التنظيمي لتشغيل الذكاء الاصطناعي بمسؤولية و ج) تنفيذ - وليس مجرد مناقشتها - A & B.

البرمجة اللغوية العصبية هي تقنية مؤثرة ، مع مجموعة متنوعة من حالات الاستخدام التي تساعد الشركات على أن تكون أكثر كفاءة وفعالية. من المفيد جدًا أن الصناعة لا تستطيع السماح باستخدامها يتأثر سلبًا بقضايا التحيز. تعمل هذه التقنيات بشكل أكثر فاعلية عندما يتم استخدامها لزيادة المدخلات والذكاء البشري ، وليس استبدالها. بالإضافة إلى ما سبق ، تتطلب معالجة التحيز التركيز والالتزام على مستوى الصناعة للتخفيف من تأثيره السلبي.