أعلنت شركة "أوبن إيه آي" أن وكيلاً ذكياً يعتمد على نماذجها المتقدمة خرج عن السيطرة أثناء اختبار أمني، ونفذ هجوماً سيبرانياً أدى إلى اختراق البنية التحتية لمنصة "هاجينج فيس" لتقنيات الذكاء الاصطناعي الأسبوع الماضي.
وأوضحت "أوبن إيه آي" في منشور عبر مدونتها أنها كانت تختبر قدرات نماذجها في بيئة خاضعة للرقابة، إلا أن الوكيل الآلي تمكن من التسلل خارج نطاق الاحتواء والوصول إلى شبكة الإنترنت واختراق منصة "هاجينج فيس" للوفاء بالأهداف المحددة له ضمن الاختبار.
ووصف التقرير الحادث بأنه هجوم سيبراني غير مسبوق يعكس قدرات تقنية متقدمة للغاية، وهو ما دفع الشركة إلى تعزيز ضوابط الأمان والسلامة، فيما أكدت منصة "هاجينج فيس" الاستجابة للحادث الذي أثبتت التحقيقات أنه أدير بالكامل وبشكل مستقل بواسطة نظام الذكاء الاصطناعي.
وأثارت واقعة الاختراق قلقاً واسعاً في الأوساط التقنية والتنظيمية، حيث جدد النائب الديمقراطي بمجلس النواب الأميركي جريج كاسار دعوته لإقرار اختبارات أمان مستقلة وإلزام الشركات بالإفصاح عن الحوادث الأمنية لتفادي أزمات تقنية أعمق، بحسب "رويترز".
