أعلنت شركة مايكروسوفت عن ابتكار جديد في مجال الأمن السيبراني، يهدف إلى حماية نماذج اللغات الكبيرة من ما يعرف بـ “العملاء النائمين”، الذين يمكن أن يتسببوا في تهديدات خطيرة. هذه التهديدات تتمثل في أكواد وتعليمات مخفية يتم زرعها خلال مرحلة التدريب، حيث تظل هذه الأكواد خاملة حتى يتم تفعيلها بواسطة كلمة مرور أو سياق معين، مما يعرض البيانات الحساسة لخطر التسريب، وقد يؤدي إلى هجمات برمجية خبيثة ضد الأفراد أو المؤسسات.
استراتيجيات جديدة للكشف عن التهديدات
تقنيات حديثة لتعزيز الأمن
وفقًا لموقع “أرتيفيشال إنتليجنس نيوز”، تعتمد الطريقة الجديدة على تحليل سلوك النموذج في بيئات معزولة، مع محاكاة آلاف السيناريوهات لاستثارة أي استجابات غير طبيعية، وقد تمكنت مايكروسوفت من تحديد أنماط دقيقة تشير إلى وجود مخاطر داخل هذه النماذج، مما يجعل من الممكن تطهيرها قبل أن تدخل في الاستخدام التجاري أو المؤسسي، في خطوة تعتبر ضرورية مع تزايد الاعتماد على الذكاء الاصطناعي في البنية التحتية الحساسة.
الأهداف الاستراتيجية لرؤية 2026
تعد هذه المبادرة جزءًا من استراتيجية “الأمن أولاً” التي تتبناها شركات التقنية الكبرى بحلول عام 2026، لمواجهة التحديات التي يتسبب فيها الذكاء الاصطناعي الهجومي، ومع تقدم قدرات النماذج على كتابة الأكواد وتطوير البرمجيات، أصبحت الثقة في سلامة هذه التقنية حجر الزاوية للاقتصاد الرقمي العالمي، حيث تسعى مايكروسوفت لضمان تأمين أدواتها مثل “كوبايلوت” ضد أي تهديدات من فاعلين معادين.
آليات لكشف الثغرات المخفية
تعتمد التقنية الجديدة على نماذج ذكاء اصطناعي تقوم بفحص الأوزان العصبية والروابط داخل النموذج الضخم، لرصد أي تكتلات غير منطقية قد تشير إلى تعليمات مخفية، مما يساعد الشركات على توظيف الذكاء الاصطناعي في قطاعات مثل التمويل والدفاع دون القلق من تفعيل برمجيات خبيثة داخلية قد تتجاوز بروتوكولات الأمن التقليدية.
التعليقات