البرمجيات الخبيثة OpenAI هي بمثابة دعوة للاستيقاظ بشأن المخاطر التي يشكلها الذكاء الاصطناعي

في الأسبوع الماضي، كانت شركة Hugging Face – وهي الشركة التي تستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات – كذلك قرصان.

بعد الإبلاغ عن الحادث إلى سلطات إنفاذ القانون، لم يكن بوسع سوى القليل أن يتنبأوا بما سيحدث: الجناة مكشوف كونهم عملاء ذكاء اصطناعي من OpenAI، الذين خرجوا من الحبس وكانوا يتصرفون بمفردهم.

يبدو الحادث وكأنه خيال علمي: يهرب الذكاء الاصطناعي ويشق طريقه بشكل مستقل إلى الشركات. لكنه حقيقي – ومرعب بقدر ما يبدو. إنه دليل ملموس على شيء لم يعد بإمكاننا تجنب مواجهته: لقد أصبحت أنظمة الذكاء الاصطناعي قوية للغاية ولا يبدو أننا تمكنا من مواكبتها. وسائل موثوقة للحد من سلوكهم

OpenAI كان تقييم قدرات اثنين من نماذجها في الاختبار الذي أدى إلى الاختراق – بما في ذلك النموذج الذي لم يكن متاحًا للعامة بعد. طُلب من العارضين، اللذين كانا يعملان في بيئة يُفترض أنها آمنة دون إمكانية الوصول إلى الإنترنت، حل مشكلة القرصنة. وبدلاً من حل المشكلة بأنفسهم، قرروا أنه سيكون من الأسهل الغش. لقد استخدموا قدراتهم المتقدمة للخروج من بيئتهم الآمنة، والوصول إلى الويب، ثم اختراق أنظمة Hugging Face لسرقة الإجابات. لقد عملوا عليها طوال عطلة نهاية الأسبوع – دون أن يلاحظها أحد في OpenAI على ما يبدو.

على الرغم من أن النماذج كانت تعمل مع تعطيل بعض حواجز الحماية الخاصة بها، إلا أنها لا تزال تؤدي أداءً جيدًا خارج الحدود الموضوعة. وفق OpenAIلم يُطلب منهم الخروج من وضع الحماية الخاص بهم أو اختراق شركة أخرى، ومن المفترض أنه لا أحد في OpenAI بحث لهم أن يفعلوا ذلك.

لم تكن العارضات يتصرفن بشكل ضار أيضًا: لم يكونوا أشرارًا عازمين على إحداث الفوضى. وبدلاً من ذلك، فإن السيناريو يكاد يكون مخيفاً في تفاهته. لقد تم تكليف النماذج بمهمة محدودة للغاية، ولكنها ابتعدت عنها واتبعت طريقة غير مرغوبة وغير مقبولة للقيام بهذه المهمة ــ وهي الطريقة التي كانت لها عواقب في العالم الحقيقي.

لقد حذر الباحثون في مجال أمن الذكاء الاصطناعي من هذا النوع من مشاكل الحوافز لسنوات. وقد شاعها الفيلسوف نيك بوستروم في عام 2003 من خلال تجربته الفكرية “تعظيم مشبك الورق”: حيث يمكن للذكاء الاصطناعي المتقدم، في ضوء هدف صنع مشابك الورق، أن يبذل جهودا كبيرة لتحقيق هذه الغاية. يمكنه اختراق شبكة الكهرباء والمصانع لإعادة توجيهها إلى صنع مشابك الورق. في النهاية، قررت الآلة – التي تسعى لتحقيق هدفها بلا هوادة – قتل جميع البشر، وإعادة استخدام ذراتنا لصنع المزيد من مشابك الورق. وبعبارة أخرى، ليس من الضروري أن يكون الهدف شريرًا حتى يؤدي إلى الكارثة. إن الحل التافه، الذي يتم اتباعه بقدر كاف من التصميم، سوف يفي بالغرض.

في سيناريو OpenAI-Hugging Face، لم يحدث ضرر يذكر. واضطرت شركة Hugging Face إلى قضاء بعض الوقت في حل المشكلة، ولكن لا يبدو أن أي بيانات حساسة بشكل خاص قد سُرقت. ومع ذلك، ليس من الصعب أن نتخيل أن الوضع أسوأ بكثير: يقوم أحد عملاء الذكاء الاصطناعي الخبيث بكسر جزء مهم من البنية التحتية للويب عن طريق الخطأ أو سرقة أموال شخص ما. ال سيناريو كابوس بالنسبة للعديد من الباحثين في مجال الذكاء الاصطناعي، فهو نموذج “يتسلل” – ينسخ نفسه على الخوادم هو الضوابط، بحيث لا يمكن إيقافه حتى لو تم اكتشاف سلوكه السيئ في النهاية.

ولابد أن تكون حادثة هذا الأسبوع بمثابة دعوة للاستيقاظ، وتضطرنا إلى طرح سؤال غير مريح: هل ينبغي لنا حقاً أن نبني أنظمة خطيرة لا نستطيع السيطرة عليها؟

تجاهل ترويج النشرة الإخبارية السابقة