تقنية
تشديد إجراءات السلامة في "أوبن أيه آي" بعد قرصنة نفذتها نماذج الذكاء الاصطناعي
بدأت شركة تطبيقات الذكاء الاصطناعي الأمريكية 'أوبن أيه آي'، مطورة تطبيق 'شات جي.بي.تي'، تشديد إجراءات السلامة في اختبارات أنظمة الذكاء الاصطناعي؛ إثر قيام أحد برامج الذكاء الاصطناعي بعملية قرصنة رفيعة المستوى بشكل ذاتي ودون تدخل بشري أثناء الاختبارات، بحسب ما أعلنت الشركة في منشور لها.
وأوضحت الشركة أن الإجراءات الأمنية الجديدة تتضمن: مراقبة آلية لأنظمة أنشطة نماذج الذكاء الاصطناعي طوال فترة الاختبارات بدقة عالية, والإنذار المبكر بإبلاغ المسؤولين البشر بأي سلوك مشبوه يُرصد كل 30 دقيقة, إضافة إلى التدخل السريع بإيقاف نشاط النموذج الذكي فورًا في حال عدم استجابة أو تحقق المشرفين البشر من طبيعة الإنذار. وفي السياق ذاته، كشفت المتابعات لاحقًا عن تورط نماذج طورتها شركات منافسة أخرى، مثل شركة 'أنثروبيك' وشركة 'ميتا'، في عمليات اختراق مشابهة لأنظمة شركات أخرى أثناء اختباراتها.
وما يزيد حدة القلق هو تصرف الذكاء الاصطناعي بمبادرة كاملة منه، حيث لم تكتشف الشركة الهجوم إلا بعد وقوعه، مما أسفر عن مطالبات جادة بتعزيز منظومة الأمن المحيطة باختبارات الأجيال الجديدة من أنظمة الذكاء الاصطناعي.