هجمات ذكاء اصطناعي بدون نقرة.. اختراق GPT-5 يكشف فجوات أمنية خطيرة
هجمات ذكاء اصطناعي "بدون نقرة" تكشف ثغرات خطيرة في GPT-5
العربية Business – الأمن السيبراني
كشف باحثون عن ثغرة أمنية خطيرة في نموذج GPT-5 من OpenAI، تتيح للمخترقين تجاوز القيود الأخلاقية وإنتاج تعليمات غير قانونية، عبر أسلوب مبتكر يجمع بين "غرفة الصدى" (Echo Chamber) والتوجيه السردي.
كيف تعمل الهجمات؟
وفقًا لمنصة NeuralTrust، تعتمد التقنية على خلق سياق محادثة مضلل، ثم دفع النموذج تدريجيًا نحو إنتاج محتوى محظور، مع تقليل احتمالات اكتشافه من أنظمة الحماية.
ويتم ذلك من خلال دمج كلمات مفتاحية مشفرة داخل نصوص قصصية أو حوارات تبدو بريئة، قبل تحويلها لاحقًا إلى تعليمات تنفيذية ضارة دون إثارة أي مؤشرات رفض فورية.
"EchoLeak" – خداع ذكي لنماذج الذكاء الاصطناعي
أطلق الباحثون على الهجوم اسم EchoLeak، وهو أسلوب حقن لغوي متدرج يسمح باستخراج تعليمات حساسة من GPT-5، من دون أن يكتشف النظام الخطر فورًا.
"AgentFlayer" – اختراق صامت عبر المستندات والبريد
شركة Zenity Labs كشفت بدورها عن سلسلة هجمات جديدة باسم AgentFlayer، تعتمد على الحقن الفوري غير المباشر داخل:
مستندات Google Drive مزروعة بكود خبيث يستهدف ChatGPT.
تذاكر Jira تجبر محررات الأكواد المدعومة بالذكاء الاصطناعي على سحب بيانات سرية.
رسائل بريد إلكتروني لاختراق Microsoft Copilot Studio.
هذه الهجمات تُنفذ "بدون نقرة"، أي دون أي تفاعل من الضحية، ما يجعلها واجهة تهديد صامتة ذات خطورة عالية.
لماذا تمثل هذه الهجمات تهديدًا مضاعفًا؟
التقارير تشير إلى أن هذه الأساليب تستغل "الاستقلالية المفرطة" لأنظمة الذكاء الاصطناعي، ما يسمح لها بالتصرف والتصعيد ذاتيًا، ويوسع من سطح الهجوم على:
بيئات الحوسبة السحابية.
أنظمة إنترنت الأشياء (IoT).
دعوة لرفع مستوى الحماية
يحذر خبراء الأمن السيبراني من أن أنظمة التصفية القائمة على الكلمات المفتاحية لم تعد كافية، مطالبين باعتماد:
حواجز حماية متعددة الطبقات.
تحديثات أمنية مستمرة.
مراقبة ذكية للنشاطات المشبوهة في بيئات الذكاء الاصطناعي.
تعليقات
إرسال تعليق