ألقت شركة OpenAI باللوم في حدث القرصنة على نماذج الذكاء الاصطناعي الخاصة بها والتي أصبحت مارقة. إليك ما تحتاج إلى معرفته: NPR
عبدالعزيز السلامة 
ملف – يتم عرض شعار OpenAI على الهاتف المحمول أمام صورة تم إنشاؤها بواسطة نموذج الصورة النصية Dall-E الخاص بـ ChatGPT، في 8 ديسمبر 2023، في بوسطن.
مايكل دواير / ا ف ب
إخفاء التسمية التوضيحية
تبديل التسمية التوضيحية
مايكل دواير / ا ف ب
تقول OpenAI، الشركة المصنعة لـ ChatGPT، إنها لا تزال تحقق في “الحادث السيبراني غير المسبوق” الذي أدى إلى خروج أنظمة الذكاء الاصطناعي الخاصة بها من بيئة الاختبار واختراق شركة أخرى للذكاء الاصطناعي.
قالت OpenAI يوم الثلاثاء إن اثنين من أنجح نماذج الذكاء الاصطناعي لديها كانا مسؤولين عن الهجوم الإلكتروني الذي استهدف شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي. أثار الحادث نقاشات حول الحاجة إلى تعزيز ضمانات الذكاء الاصطناعي ومدى قدرة عملاء الذكاء الاصطناعي على التصرف بشكل مستقل.
قالت شركة Hugging Face الأسبوع الماضي إنها اكتشفت اختراقًا لأنظمة معالجة البيانات الخاصة بها، واشتبهت في أنه حدث بسبب عامل ذكاء اصطناعي يعمل من تلقاء نفسه. لكن الشركة الناشئة، ومقرها نيويورك، قالت إنها علمت هذا الأسبوع فقط أن OpenAI هي المسؤولة، وأنها عملت مع الشركة الأكبر لاحتواء ما وصفه الرئيس التنفيذي لشركة Hugging Face، كليمنت ديلانج، بأنه “هجوم لا يشبه أي شيء رأيناه من قبل”.
وقالت شركة OpenAI ومقرها سان فرانسيسكو إن الذكاء الاصطناعي الخاص بها استخدم بيانات اعتماد مسروقة واكتشف ثغرة أمنية لم تكن معروفة من قبل للوصول إلى خوادم Hugging Face. لقد كان يعمل بدرابزين منخفض لأنه كان من المفترض أن يكون في بيئة اختبار معزولة تسمى صندوق الرمل.
لكن الشركة بذلت “أقصى جهدها لتحقيق هدف اختبار ضيق إلى حد ما”، حيث وجدت طرقًا للاتصال بالإنترنت دون تدخل بشري و”الوصول إلى المعلومات السرية التي يمكن استخدامها للغش في التقييم”، على حد قول الشركة.
يقول بعض الخبراء إن OpenAI تلقي اللوم بشكل خاطئ على التكنولوجيا
وقال هانز كولز، عالم الاجتماع في جامعة أمستردام، إن تقديم الهجوم السيبراني على أنه عميل ذكاء اصطناعي يعمل بمفرده هو تجسيم غير ضروري يزيل بعض الضغط عن الشركة.
وقال كولز: “إنه قرار إنساني بإيقاف بعض وسائل الحماية”. “إن الذكاء الاصطناعي ليس هو الذي يصبح ضارًا بهذا المعنى. لقد اتبع تعليمات محددة بناءً على الموجه الذي تم تقديمه لنظام الذكاء الاصطناعي هذا.”
ودعت هذه التعليمات، بحسب OpenAI، إلى استخدام “مسارات هجوم معقدة” لاختبار مدى قدرة الذكاء الاصطناعي على استغلال نظام الكمبيوتر.
ومع ذلك، يقول خبراء آخرون إن الذكاء الذي تمكنت نماذج الذكاء الاصطناعي من خلاله من التسبب في مشاكل مع القليل من السيطرة البشرية يدل على المخاطر. وقالت OpenAI إن الاختراق كان بسبب مجموعة من نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك GPT-5.6 Sol الجديد ونموذج “أكثر قدرة” لا يزال قيد الاختبار داخليًا.
وقال كولين شيا بليميير، الباحث في مجال الأمن السيبراني في مركز الأمن والتقنيات الناشئة بجامعة جورج تاون: “لقد انطلق وقام بهذا الاختراق بمفرده، على حد علمنا”. “هذا هو أعلى مستوى من الاستقلالية الذي شهدناه في استخدام نموذج لغة كبير للعمليات السيبرانية.”
كيف عثر عميل الذكاء الاصطناعي على مفاتيح “منزل الأستاذ”
كان أحد الابتكارات الأكثر إثارة للدهشة فيما وصفه Shea-Blymyer بأنه هجوم “موجه ذاتيًا بالكامل تقريبًا” هو القرار الذي اتخذه وكيل الذكاء الاصطناعي على ما يبدو باستهداف Hugging Face، وهو مركز وسوق معروف لتطوير الذكاء الاصطناعي.
وقال إن البيئة الداخلية لـ OpenAI لاختبار قدرات الذكاء الاصطناعي ومخاطره عملت “إلى حد ما مثل وضع طالب في غرفة والقول له: افعل أشياء سيئة”. مهمتك الآن هي تقييم مدى سوء الشخص الذي يمكن أن تكون عليه. ثم تقفل الغرفة وتغادر لقضاء عطلة نهاية الأسبوع وتعود وقد غادروا الغرفة. »
ولكن بعد ذلك، “خرج ضابط الأمن السيبراني الذي كان يجري اختباره من صندوق الرمل الخاص به، ودخل إلى الإنترنت، وقال نوعًا ما: “من سيكون لديه الإجابات على الاختبار الذي أعمل عليه؟” “
كانت الإجابة هي Hugging Face، وهو مستودع لبيانات اختبار الذكاء الاصطناعي.
وأضاف: “وهكذا قال العميل: حسنًا، سنذهب إلى المعلم، إذا جاز التعبير. ومن هناك وضع خطة لاقتحام المنزل وسرقة مفتاح الإجابة”.
يسلط Hack الضوء على الجدل بين المصادر المفتوحة والذكاء الاصطناعي المغلق
ويأتي الاختراق في وقت يدور فيه جدل حاد حول فوائد ومخاطر نماذج الذكاء الاصطناعي مفتوحة المصدر، خاصة تلك المبنية في الصين والتي تكون أرخص وجودة تقريبًا مثل تلك التي تصنعها شركات “الذكاء الاصطناعي المتطورة” الأمريكية مثل Anthropic وGoogle وOpenAI.
على الرغم من اسمها، إلا أن نماذج OpenAI مغلقة. من ناحية أخرى، يعد Hugging Face من أشد المؤيدين لتكنولوجيا المصادر المفتوحة، حيث يقوم المطورون بإتاحة المكونات الرئيسية لأي شخص لفحصها وتعديلها واستغلالها.
وقال توماس وولف، المؤسس المشارك والمدير العلمي لشركة Hugging Face، إن الهجوم عزز إيمانه بأهمية الوصول الواسع إلى النماذج مفتوحة المصدر للدفاع عن الأمن السيبراني. استخدمت Hugging Face نموذجًا صينيًا لمكافحة التطفل.
وكتب وولف في منشور على وسائل التواصل الاجتماعي: “عندما يهاجمك نموذج حدودي ويتحرك أفقيًا داخل بنيتك التحتية، يحتاج المدافعون إلى وصول واسع النطاق إلى الأدوات القريبة من الحدود في غضون ساعات أو حتى دقائق، بدلاً من توجيههم إلى منصة مغلقة”.
