أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) النسخة الأولى من «الدليل المرجعي لتحيزات الذكاء الاصطناعي»، الذي يحوي أكثر من 100 تحيز التي قد تؤثر في دقة وعدالة أنظمة الذكاء الاصطناعي.
وأوضح الدليل أن تقنيات الذكاء الاصطناعي شهدت توسعًا ملحوظًا في مختلف القطاعات الحيوية والحساسة، مثل العدل والصحة والتعليم، الأمر الذي رافقه تزايد الاهتمام بمعالجة التحيزات التي قد تؤثر في عمليات صنع القرار، نتيجة الطبيعة المعقدة لهذه الأنظمة وتعدد مراحل تطويرها وتداخل أدوار المختصين فيها.
وبيّن أن هذه التحيزات قد تؤدي إلى تقويض فاعلية أنظمة الذكاء الاصطناعي وتحولها من أداة لتعزيز العدالة والإنصاف إلى وسيلة تفاقم التحيز، مما قد يؤثر في سمعة المؤسسات ويعرضها للمساءلات القانونية أو شكاوى المستهلكين.
وأشار الدليل إلى أن مصادر التحيز تتنوع بين بيانات تدريب لا تمثل مختلف الفئات تمثيلًا كافيًا، وخوارزميات قد تفضل -دون قصد- خصائص فئات معينة، إضافة إلى افتراضات وتقديرات مسبقة تنعكس في تفسير البيانات، مستشهدًا بأدوات التوظيف التي قد تمنح أفضلية لمرشحين من خلفيات تعليمية نخبوية على حساب آخرين مؤهلين من خلفيات أقل حظًا.
صحيفة يومية تصدر عن مؤسسة المدينة للصحافة والنشر
