ما هو انحياز الذكاء الاصطناعي؟ [+ بيانات]

لاحظ تقرير استبيان حالة الذكاء الاصطناعي الخاص بنا أن إحدى المشكلات الرئيسية التي يواجهها المسوقون عند العمل باستخدام الذكاء الاصطناعي التوليدي هي وسيلة التحيز.

ويبلغ رواد الأعمال والمتخصصون في المبيعات الإجمالية ورجال ونساء الشركات الاستهلاكية عن ترددهم في استخدام تطبيقات الذكاء الاصطناعي لمجرد أنه يمكنهم غالبًا إنشاء تفاصيل متحيزة.

من الواضح أن خبراء الأعمال يخشون من انحياز الذكاء الاصطناعي ، ولكن ما الذي يمكن أن يجعله متحيزًا في الموقع الأول؟ في هذا العرض ، سنفحص فرصة الضرر في تطبيق الذكاء الاصطناعي ، والرسوم التوضيحية للذكاء الاصطناعي المتحيز في الحياة اليومية الحقيقية ، وكيف يمكن للمجتمع تخفيف الضرر المحتمل.

ما هو انحياز الذكاء الاصطناعي؟

التحيز للذكاء الاصطناعي هو فكرة أن المعدات التي تدرس الخوارزميات يمكن أن تكون متحيزة عند القيام بواجباتها المبرمجة ، مثل فحص الحقائق أو تطوير المواد). عادةً ما يكون الذكاء الاصطناعي متحيزًا في الأساليب التي تدعم المعتقدات الضارة ، مثل القوالب النمطية المتعلقة بالعرق والجنس.

وفقًا لتقرير مؤشر الذكاء الاصطناعي لعام 2023 ، يكون الذكاء الاصطناعي متحيزًا عندما ينتج مخرجات تعزز وتديم القوالب النمطية التي تضر بفرق معينة. يكون الذكاء الاصطناعي منطقيًا عندما يميل إلى عمل تنبؤات أو مخرجات لا تميز حقًا أو تفضل أي مجموعة فريدة.

بالإضافة إلى التحيز في التحيز والمعتقدات النمطية ، يمكن أيضًا أن يكون الذكاء الاصطناعي متحيزًا للأسباب التالية:

• جمع العينات ، حيث لا تمثل المعرفة التي تستخدمها إجمالي السكان ، لذلك لا يمكن تعميم تنبؤاتها ونصائحها أو استخدامها للفرق التي تم استبعادها
• القياس ، بالضبط حيث تكون عملية جمع المعرفة متحيزة ، الذكاء الاصطناعي الرئيسي للتوصل إلى استنتاجات متحيزة.

كيف يعكس التحيز للذكاء الاصطناعي تحيز المجتمع؟

الذكاء الاصطناعي متحيز بشكل أساسي لأن المجتمع متحيز.

نظرًا لأن المجتمع الحديث متحيز ، فإن الكثير من المعلومات المؤهلة للذكاء الاصطناعي تحتوي على تحيزات المجتمع وتحيزاته ، لذلك فهو يتعلم هذه التحيزات ويقدم نتائج تدعمها. للتوضيح ، يمكن لمولد الرسوم البيانية الذي طُلب منه بناء صورة لرئيس تنفيذي أن يصنع صورًا للذكور البيض بسبب التحيز التاريخي في البطالة في المعرفة التي أدركها من خلالها.

نظرًا لأن الذكاء الاصطناعي يؤدي إلى أن يصبح أكثر شيوعًا ، فإن الخوف بين الكثير هو أنه من الممكن توسيع نطاق التحيزات الموجودة بالفعل في المجتمع والتي تضر بالعديد من الفرق المتميزة من الرجال والنساء.

الرسوم التوضيحية التحيز AI

يقول مستودع خلافات حوادث الذكاء الاصطناعي والخوارزمية والأتمتة (AIAAIC) إن عدد الحوادث والخلافات المزعومة حديثًا عن الذكاء الاصطناعي كان 26 حالة أفضل في عام 2021 مقارنة بعام 2012.

توريد الصور

دعنا نتجاوز بعض الرسوم التوضيحية لتحيز الذكاء الاصطناعي.

رسوم قبول قرض المنزل هي مثال رائع على التحيز في الذكاء الاصطناعي . تم العثور على أن الخوارزميات تزيد بنسبة 40-80٪ عن احتمالية حرمان المدينين من الظل لأن معلومات الإقراض التاريخية توضح بشكل غير متناسب الأقليات التي أصبحت محرومة من القروض والبدائل النقدية الأخرى. تعلم المعلومات التاريخية أن الذكاء الاصطناعي متحيز مع كل تطبيق محتمل يحصل عليه.

هناك أيضًا فرصة لتحيز أبعاد العينة في المجالات الطبية المهنية. لنفترض أن ممارسًا صحيًا يستخدم الذكاء الاصطناعي لتقييم حقائق العميل وكشف الأنماط وتحديد اقتراحات الرعاية. إذا كان هذا المحترف الطبي يرى العملاء البيض في الغالب ، فإن النصائح لا تستند إلى عينة استشارية عامة وقد لا تفي بالمتطلبات المميزة المتعلقة بالصحة للجميع.

تمتلك بعض الشركات خوارزميات تؤدي إلى اتخاذ قرار نهائي متحيز في العمر الفعلي أو تبني مستقبلًا له أكثر وضوحًا.

1. خوارزمية التوظيف في أمازون

طورت أمازون خوارزمية توظيف مؤهلة لعشر سنوات من معلومات خلفية العمل. عكست المعرفة قوة عاملة يهيمن عليها الذكور ، لذلك أدركت الخوارزمية أنها متحيزة ضد البرامج وتعاقب على السير الذاتية من الفتيات أو أي سير ذاتية تستخدم كلمة "النساء (النساء)".

2. Twitter Image Cropping

أظهرت تغريدة فيروسية في عام 2020 أن خوارزمية تويتر تفضل الوجوه البيضاء على الأنواع السوداء عند اقتصاص الصور. غالبًا ما شارك مستهلك أبيض صورًا تعرض صفقته مع زميل أسود ووجوه سوداء أخرى في نفس الصورة بالضبط ، وتم اقتصاصها باستمرار لتقديم تجربته في المعاينات الرسومية.

أقر Twitter بتحيز الخوارزمية وأوضح ، "في حين أن تحليلاتنا اليوم لم تظهر تحيزًا عرقيًا أو جنسانيًا ، فإننا نفهم أن الطريقة التي نقطع بها الصور آليًا تشير إلى وجود احتمال للضرر. كان يجب أن ننهي مهنة أفضل بكثير لتوقع هذا الاحتمال عندما كنا أول من نطور ونعد هذا المنتج أو الخدمة ".

3. التعرف على الوجه العنصري للروبوت

أجرى الباحثون منذ فترة قصيرة دراسة تطلب من الروبوتات مسح وجوه الأشخاص وتصنيفهم في حاويات فريدة بناءً على خصائصهم ، مع 3 حاويات تصبح أطباء ومجرمين وربات منازل.

كان الروبوت متحيزًا في طريقته ، وغالبًا ما كان يُحدد الفتيات على أنهن ربات بيوت ، والسادة السود كمجرمين ، والرجال البالغين اللاتينيين عمال نظافة ، وبنات من جميع الأعراق ، كان من غير المرجح أن يتم اختيارهم كأطباء.

4. فحص برامج الكمبيوتر الخاصة بشركة Intel و Classroom Technology

يتميز تطبيق الدورة التدريبية من Intel و Classroom Technology بخاصية تقوم بفحص وجوه الطلاب لاكتشاف المشاعر على الرغم من اكتشافها. ذكر العديد من المعايير الثقافية المختلفة للتعبير عن المشاعر كاحتمالية كبيرة لمشاعر الطلاب التي يتم تصنيفها بشكل خاطئ حاليًا.

إذا استخدم المعلمون هذه التسميات للدردشة مع المتعلمين حول مرحلة عملهم والتعرف عليها ، يمكن معاقبة الطلاب بسبب المشاعر التي لا يظهرونها حقًا.

ما الذي يمكن تحقيقه لرعاية انحياز الذكاء الاصطناعي؟

أخلاقيات الذكاء الاصطناعي موضوع ساخن. هذا أمر مفهوم لأن تحيز الذكاء الاصطناعي ظهر في وجود حقيقي في الكثير من الوسائل المتنوعة.

بالإضافة إلى التحيز ، يمكن للذكاء الاصطناعي الكشف عن معلومات خاطئة ضارة ، مثل التزييف العميق ، ويمكن لأدوات الذكاء الاصطناعي التوليدية أن تولد معلومات وحقائق غير صحيحة من الناحية الواقعية.

ما الذي يمكن إكماله للحصول على فهم أكبر للذكاء الاصطناعي وتقليل التحيز المحتمل؟

• الإشراف البشري: يمكن للناس اليوم مشاهدة المخرجات وتقييم البيانات وإجراء التصحيحات عند إظهار التحيز. على سبيل المثال ، يمكن للمسوقين إيلاء اهتمام خاص لمخرجات الذكاء الاصطناعي التوليدية قبل العمل معهم في عناصر الإعلان للتأكد من أنها عادلة.
• تقييم احتمالية التحيز: تتمتع بعض شروط استخدام الذكاء الاصطناعي بآفاق أفضل لتصبح متحيزة ومدمرة لمجتمعات معينة. في هذا الظرف ، يمكن للأشخاص الحصول على الوقت لتقييم احتمالية التأثيرات المتحيزة في التصنيع للذكاء الاصطناعي ، مثل المؤسسات المصرفية التي تستخدم تفاصيل متحيزة تاريخياً.
• الاستثمار في أخلاقيات الذكاء الاصطناعي: تتمثل إحدى التقنيات الأكثر أهمية لتقليل تحيز الذكاء الاصطناعي في وجود استثمار مالي مستمر في تحقيقات الذكاء الاصطناعي وأخلاقيات الذكاء الاصطناعي ، حتى يتمكن الناس اليوم من ابتكار أساليب ملموسة لتقليلها.
• تنويع الذكاء الاصطناعي: يؤدي امتلاك وجهات نظر متنوعة في مساعدات الذكاء الاصطناعي إلى بناء ممارسات محايدة حيث يجلب الأفراد لقاءاتهم الحية الخاصة بهم. توفر المنطقة العديدة والاستشارية فرصًا أكبر بكثير للناس اليوم لإدراك إمكانية التحيز وعرضها قبل حدوث الضرر.
• الاعتراف بالتحيز البشري: كل الناس لديهم احتمالية للتحيز ، سواء كان ذلك من خلال تباين في التجربة الحية أو التحيز التأكيدي أثناء التحقيق أم لا. يمكن للأفراد الذين يستخدمون الذكاء الاصطناعي الاعتراف بتحيزهم للتأكد من أن الذكاء الاصطناعي الخاص بهم ليس متحيزًا ، مثل العلماء الذين يكتسبون بعض أبعاد العينة الخاصة بهم كمستشارين.
• توضيح: الشفافية أمر بالغ الأهمية عادة ، لا سيما مع الأنظمة الجديدة. يمكن للناس اليوم تطوير الاعتقاد والفهم باستخدام الذكاء الاصطناعي من خلال تكوينه بشكل أساسي معترف به عند استخدامهم للذكاء الاصطناعي ، مثل إضافة ملاحظة أسفل تقرير معلومات تم إنشاؤه بواسطة الذكاء الاصطناعي.

من الممكن حقًا استخدام الذكاء الاصطناعي بشكل مسؤول.

إن الذكاء الاصطناعي والانبهار في الذكاء الاصطناعي آخذان في الازدياد ، لذا فإن أفضل طريقة للبقاء في صدارة احتمال حدوث ضرر هو أن تظل على دراية بكيفية استمرار التحيزات غير الآمنة واكتساب الحركة للتأكد من أن استخدامك للذكاء الاصطناعي لا يتضمن وقودًا إضافيًا لـ الموقد.

هل تريد اكتشاف المزيد عن الذكاء الاصطناعي؟ اختبر مسار الاكتشاف هذا .