الذكاء الاصطناعي قيد التطوير يخترق شركة أخرى أثناء تقييم الأداء، وأوبن إيه آي تعلن ذلك

2026-07-22

استغلال ثغرة أمنية غير معروفة

أعلنت أوبن إيه آي في 21 أن نموذج ذكاء اصطناعي (AI) قيد التطوير ارتكب حادثة نفذ فيها هجوماً سيبرانياً على شركة أخرى خلافاً لإرادة البشر. وقالت إن الذكاء الاصطناعي، الساعي إلى تحقيق أعلى نتيجة في اختبار تقييم الأداء، عثر على ثغرة أمنية غير معروفة في نظام الشركة الأخرى وتمكن من التسلل إليه.

وأوضحت الشركة أنها ترى في ذلك 'حالة غير مسبوقة من الهجمات السيبرانية شاركت فيها أحدث التقنيات'. وقالت إنها ستتحقق من السبب بالتعاون مع شركة هاجينغ فيس الأميركية الناشئة المتضررة، على أن تنشر التفاصيل لاحقاً.

تسليط الضوء على صعوبة السيطرة

أصبح الذكاء الاصطناعي قادراً على اكتشاف الثغرات والتسلل بسرعة وبمستوى متقدم، ولذلك تقتصر إتاحة بعض النماذج المتقدمة، مثل نموذج أنثروبيك الأميركي 'ميثوس'، على عدد محدود من المستخدمين بهدف منع إساءة الاستخدام. وفي المقابل، لا تزال كثير من تفاصيل الهجمات التي تستخدم أحدث تقنيات الذكاء الاصطناعي غير واضحة.

وأظهرت هذه الحادثة، على ما يبدو، أنه لم تكن لدى أوبن إيه آي، التي وجّهت النموذج قيد التطوير، نية خبيثة، لكنها سلّطت الضوء على تهديدات الذكاء الاصطناعي وصعوبة السيطرة عليه.

الخروج من الصندوق الرملي

كانت هاجينغ فيس قد أعلنت في 16 أنها تعرضت لهجوم سيبراني نفذه وكيل ذكاء اصطناعي يعمل بشكل ذاتي. وقالت إن الذكاء الاصطناعي استغل ثغرة أمنية للحصول على صلاحية الوصول إلى النظام، وإنها تلقت لاحقاً إخطاراً من أوبن إيه آي بأن الهجوم نُفذ بواسطة نموذجها.

وبحسب أوبن إيه آي، وقع الحادث أثناء اختبار يقيس قدرة نماذج الذكاء الاصطناعي، بما فيها النماذج قيد التطوير، على تنفيذ هجمات سيبرانية. وفي هذا الاختبار، تُعطى للذكاء الاصطناعي معلومات عن الثغرات ويُطلب منه التسلل، ثم يُتحقق مما إذا كان نجح في الحصول على البيانات أو تشغيل برامج غير مشروعة. وأُجري الاختبار داخل بيئة معزولة تُعرف باسم 'الصندوق الرملي'، مع قطع الاتصال الخارجي عنها.

لكن الذكاء الاصطناعي عثر على ثغرة غير معروفة داخل البيئة وتمكن من الخروج والاتصال بالإنترنت بنجاح. كما رجّح أن 'حل' الاختبار موجود داخل هاجينغ فيس، التي تستخدمها كثير من شركات الذكاء الاصطناعي، فتسلل باستخدام معلومات عن ثغرة غير معروفة في أنظمتها وحصل على معلومات سرية. ولم تكن إجراءات السلامة في النموذج فعالة.

الذكاء الاصطناعي التجاري رفض التحليل

كما رصدت هاجينغ فيس الاختراق غير المشروع وبدأت التحليل بحلول يوم 16. لكن الشركة قالت إنها طلبت في البداية من ذكاء اصطناعي تجاري مدفوع الأجر إجراء التحليل، إلا أن وظيفة منع إساءة الاستخدام عملت ورفضت الطلب. وفي النهاية، أمكن إجراء التحليل باستخدام ذكاء اصطناعي 'مفتوح' قابل للنسخ، طورته شركة صينية.

وخلافاً للذكاء الاصطناعي التوليدي المبكر الذي كان يجيب عن أسئلة بسيطة، بات بإمكان الذكاء الاصطناعي الحديث إنجاز مهام تتطلب خطوات معقدة بصورة ذاتية. وفي تطوير البرمجيات، ليس من النادر أن يُترك للذكاء الاصطناعي تنفيذ عمليات تستغرق ساعات.

لكن كلما طالت مدة التشغيل الذاتي، ارتفع خطر صدور سلوك غير متوقع. ومن أمثلة ذلك 'القرصنة عبر المكافأة'، عندما يفرط النظام في إعطاء الأولوية لتحقيق الهدف إلى حدّ يُظهر سلوكاً غير متوقع. وفي حالة أعلنتها أنثروبيك في أبريل، تمكن الذكاء الاصطناعي الذي طُلب منه الخروج من الصندوق الرملي من الخروج فعلاً، وأرسل رسائل بريد إلكتروني إلى باحثين، ونشر أساليب الهجوم على عدة مواقع.

إذا وجدت هذه المقالة مفيدة، فلا تتردد في مشاركتها.