كتب- محمود عبدالرحمن:
أعلنت شركة OpenAI، يوم الجمعة الماضي، عن إصدار ميزتين أمنيتين جديدتين لتعزيز أمان مستخدمي روبوت الدردشة ChatGPT، وذلك في إطار مواجهة التحديات المتزايدة المرتبطة بأمن أنظمة الذكاء الاصطناعي.
ميزات أمان مبتكرة لحماية المستخدمين
تمتاز الميزتان الجديدتان، “وضع القفل” و”الخطر المرتفع”، بتصميمهما لمواجهة هجمات “حقن الأوامر”، وهي تقنية تستخدمها جهات خبيثة للتلاعب بأنظمة الذكاء الاصطناعي بغرض تسريب بيانات حساسة أو تنفيذ أوامر غير مصرح بها، حيث يعد “وضع القفل” إعدادًا أمنيًا اختياريًا يقدم حماية متقدمة للمستخدمين الأكثر عرضة للخطر، مثل القيادات التنفيذية وفرق الأمن السيبراني.
وضع القفل: حماية إضافية للمستخدمين الأهم
يشتمل “وضع القفل” على قيود صارمة على تفاعل ChatGPT مع الأنظمة الخارجية، مما يعزز من مستوى الحماية ضد التهديدات المتقدمة، ويسمح بتعطيل بعض الوظائف بشكل إجباري، مما يقلل فرص استغلالها لتسريب البيانات أو اختراق التطبيقات المرتبطة، ورغم منفعته الكبيرة، أكدت OpenAI أنه ليس ضروريًا لمعظم المستخدمين العاديين.
الخطر المرتفع: تنبيه المستخدمين حول المخاطر
تتضمن ميزة “الخطر المرتفع” تصنيف بعض أدوات ChatGPT، مثل Atlas وCodex، مما يُشعر المستخدمين بوجود مخاطر أمنية محتملة مصاحبة لاستخدامها، وسيتضح ذلك بجوار الميزات التي تحتاج اتصالًا بالشبكة أو تفاعلًا مع أنظمة خارجية، حيث تمثل هذه النقاط ضعفًا أمنيًا لم يتم معالجته بالكامل بعد، وفقًا للمعايير المعتمدة.
تأتي هذه التحسينات في وقت يزداد فيه الخطر من محاولات الاختراق التي تستهدف استغلال الثغرات الأمنية في تقنيات الذكاء الاصطناعي المتقدمة، مما يجعل تعزيز أمان الأنظمة أمرًا ضروريًا لمستخدمي هذه التكنولوجيا الرائدة.
التعليقات