الذكاء الاصطناعي يتورط في التمييز العنصري

السلوك البشري يفرض عنصريته على خوارزميات الذكاء الاصطناعي وخبراء يطالبون بضرورة تعديل البيانات فيها حتى لا تضر بالأقليات والسود.


تطوير ذكاء اصطناعي بوسعه التعلم بطرق أفضل


روبوت الذكاء الاصطناعي 'تاي' يحرج مايكروسفت


اتهامات لبرنامج 'بيوتي ال' المخصص لمسابقات الجمال بالعنصرية

واشنطن - مع مقتل الأميركي من أصول إفريقية جورج فلويد في الولايات المتحدة، زادت الاحتجاجات المناهضة للعنصرية في جميع أنحاء العالم كما طفت على السطح مسألة عنصرية خوارزميات الذكاء الاصطناعي.
وبدأ التمييز العنصري لخوارزميات الذكاء الاصطناعي في الظهور على الساحة مرة أخرى.
والذكاء الاصطناعي هو سلوك وخصائص معينة تتسم بها برامج الكمبيوتر وتجعلها تحاكي القدرات الذهنية البشرية وأنماط عملها.
وفي العديد من الأحداث حول العالم، سببت أنظمة الذكاء الاصطناعي مشاكل للشركات بسبب سلوكها العنصري غير المتوقع.
من أشهر هذه الأحداث كان روبوت الذكاء الاصطناعي "تاي" TAY الذي أنتجته شركة مايكروسوفت بعد جهودٍ طويلة للمحادثة باللغة الإنكليزية مع المستخدمين على موقع تويتر.
إلا أنه على عكس التوقعات، لم يقم "تاي" بعمل محادثات ممتعة مع المستخدمين واضطرت الشركة لإيقافه في غضون 24 ساعة فقط بسبب مشاركاته المسيئة والعنصرية التي قام بها.
وتسبب برنامج "تاي"، على خلفية بعض إجاباته، بحالة استنكار ودهشة لدى المستخدمين، حيث أهان النساء واليهود، وقال إنه يجب بناء جدار على الحدود المكسيكية.
بالإضافة إلى ذلك كان أحد أبرز السلوكيات العنصرية التي أظهرتها الخوارزميات، الواقعة التي حدثت أثناء تصوير الكاميرا التي طورتها إحدى شركات الكمبيوتر.

ففي الفيديو الذي صورته زميلتان تعملان في نفس مكان العمل، تعرّف النظام الموجود بالكاميرا على وجه واندا زامن ذات البشرة البيضاء وقام بتتبعها، ولم يتعرف على وجه "ديسي كرير" ذات البشرة السوداء ولم يتتبع حركاتها.
كما قام برنامج "بيوتي ال" Beauty AI "الذي تم تطويره لعمل مسابقة جمال متنقلة للبشر بإظهار تحيزات عنصرية وأعطى الأولوية بشكل أكبر للأشخاص ذوي البشرة البيضاء.
ومن بين آلاف المتقدمين، قبل"بيوتي ال" الذي طورته شركة مقرها في أستراليا وهونغ كونغ، 6 متقدمين فقط من ذوي البشرة السوداء، في حين كان ذوي البشرة البيضاء الأكثر تفضيلاً بالنسبة له.
واعتبر باحثون ان الذكاء الاصطناعي يمكن ان عنصريًا لان برمجة الخوارزميات الموجودة فيه تعتمد بشكل رئيسي على ما يزودها به المبرمج من معلومات وبيانات قد تستخدم بشكل عنصري.
والحاجة الأساسية في "التعلم العميق" الذي يعتبر أهم عنصر للذكاء الاصطناعي، هي استخدام البيانات.
ويراهن باحثون على "التعلم العميق" لمكافحة العنصرية في عالم الذكاء الاصطناعي.
"التعلم العميق" يعني أن الخوارزمية تتزود بالبيانات الموجودة ثم تتعرف عليها دون الحاجة إلى تدخل بشري.
وفي التعلم العميق تتعلم خوارزمية التصنيف مباشرة من الصورة والنص والصوت، كما يمكن أن تحقق دقة متطورة تتجاوز في بعض الأحيان الأداء على المستوى البشري.
على سبيل المثال، يتم برمجة خوارزمية لتتعرف على القطط في آلاف الصور.
وتقوم الخوارزمية بإنشاء نمط من خلال التعرف على شكل وهيئة القطة من الصور التي تحمل علامة قطة، ثم يمكنها بعد ذلك اكتشاف ما إذا كان هناك قطة أم لا في الصور التي تراها.
ويوصي الخبراء بضرورة إعداد بيانات التدريب وتعديلها بالشكل الذي لا يضر بالأقليات، وذلك لتجنب مواقف مثل التحيز والتمييز العنصري في خوارزميات الذكاء الاصطناعي.
وركز باحثون في شركة "أوبن إيه آي" على تطوير ذكاء اصطناعي بوسعه التعلم بطرق أفضل.
 وتمكنت الخوارزميات من تعليم ذاتها بفضل تعزيز طرق التعلم التي أتاحتها منصة "أوبن إيه آي بيسلاينز." كما طورت شركة "أوبن إيه آي" مؤخرًا خوارزمية جديدة تتيح للذكاء الاصطناعي القدرة على التعلم من أخطائه بالطريقة التي يتعلم بها البشر.
ويقبل العالم على 'ثورة روبوتات' تنتشر في شتى القطاعات الصناعية والخدمية والإدارية وتهدد مستقبل البشر.