أزمة في ميتا: وكلاء ذكاء اصطناعي خارج السيطرة يهددون أمن البيانات

شبكة الرقيب الإعلامية - ا ب

أزمة في ميتا: وكلاء ذكاء اصطناعي خارج السيطرة يهددون أمن البيانات

خرج نظام الذكاء الاصطناعي عن السيطرة في شركة التكنولوجيا الأميركية ميتا بلاتفورمس، مما أدى إلى كشف بيانات حساسة خاصة بالشركة والمستخدمين لموظفين غير مصرح لهم بالوصول إليها.

بحسب تقرير الشركة عن الواقعة والذي اطلعت عليه صحيفة “ذا إنفورميشن”، نشر أحد موظفي ميتا على منتدى داخلي طلبا للمساعدة في مسألة تقنية -وهو إجراء روتيني- إلا أن مهندسا آخر طلب من نظام الذكاء الاصطناعي تحليل السؤال، فنشر النظام ردا دون استئذان المهندس قبل مشاركته، وأكدت ميتا وقوع هذه الحادثة.

اتضح أن نظام الذكاء الاصطناعي لم يقدم نصيحة سليمة، فقد اتخذ الموظف الذي طرح السؤال إجراءات محددة بناء على توجيهات النظام، مما أدى دون قصد إلى إتاحة كميات هائلة من بيانات الشركة والمستخدمين للمهندسين، غير المصرح لهم بالوصول إليها، لمدة ساعتين.

صنفت ميتا الحادثة على أنها “خطورة من الفئة 1″، وهي ثاني أعلى مستوى خطورة في نظام الشركة الداخلي لقياس المشكلات الأمنية.

وقد سبق أن شكلت أنظمة الذكاء الاصطناعي الخارجة عن السيطرة مشكلة في ميتا. نشرت سمر يو، مديرة السلامة والتنسيق في شركة ميتا سوبرإنتليجنس، منشورا على موقع التواصل الاجتماعي إكس في الشهر الماضي تصف فيه كيف قام برنامجها الآلي أوبن كالو بحذف صندوق بريدها الوارد بالكامل، رغم أنها طلبت منه التأكد منها قبل اتخاذ أي إجراء.

مع ذلك، يبدو أن شركة ميتا متفائلة بشأن إمكانات الذكاء الاصطناعي، ففي الأسبوع الماضي فقط، استحوذت ميتا على مولتبوك، وهي منصة تواصل اجتماعي شبيهة بموقع ريديت، مصممة خصيصا لبرامج أوبن كالو للتواصل فيما بينها