«حارس رقمي» لمراقبة وكلاء الذكاء الاصطناعي

أعلنت (Nvidia) عن نظامٍ أمنيٍّ جديدٍ متعدِّد الطبقات للذكاء الاصطناعيِّ، قالت إنَّه قادرٌ على منع حادثة الاختراق الشَّهيرة، التي تعرَّضت لها منصَّة «هاغينغ فيس» بواسطة نماذج ذكاءٍ اصطناعيٍّ تابعة لشركة «أوبن إيه آي».

ويأتي الإعلانُ في وقت تتزايد فيه المخاوف داخل القطاع، بشأن سلوك وكلاء الذكاء الاصطناعيِّ المستقلِّين، بعد سلسلة حوادث أثارت تساؤلاتٍ حول قُدرة الشَّركات على السيطرة على النماذج المتقدِّمة أثناء الاختبارات والتَّشغيل.
وتطرح» إنفيديا» أداتَين برمجيَّتَين مفتوحتَي المصدر، يمكن تشغيلهما على أجهزتها؛ بهدف مراقبة أنشطة وكلاء الذكاء الاصطناعيِّ، والتحكُّم فيما يمكنهم الوصول إليه بشكلٍ فوريٍٍّ، بحسب وكالة «بلومبرغ نيوز».

يتكوَّن الحل الأمني من جزءَين:
حارس البوابة ..OpenShell برنامج كانت إنفيديا قد استعرضته لأوَّل مرَّة خلال مؤتمرها التقني في مارس.
يعمل على معالجات Vera المركزيَّة.
يسمح بوضع قواعد تحدِّد ما يمكن لوكلاء الذكاء الاصطناعيِّ الوصول إليه.
يفرض هذه القواعد بشكلٍ لحظيٍّ أثناء التشغيل.
يوفر طبقة إضافيَّة من المراقبة الأمنية.
يراقب سلوك الوكلاء بشكل مستمر.

«حارس رقمي» لمراقبة وكلاء الذكاء الاصطناعي

أخبار ذات صلة

مقاهي الجامعات والكليات.. رفاهية الجيل الجديد وذكريات «جيل الطيبين»

جامعة الطائف تطرح فرصاً استثمارية لتطوير الخدمات الطلابية⁠

4 إجازات إضافية لمتدربي التقنية خلال العام التدريبي الحالي

أكاديمية "واس" تستضيف "المالك" للحديث عن تحولات الصحافة والذكاء الاصطناعي