أعرب وزراء المالية ومحافظو البنوك المركزية وكبار الممولين عن مخاوف جدية بشأن نموذج جديد وقوي للذكاء الاصطناعي يخشون أن يقوض أمن الأنظمة المالية.
أدى تطوير نموذج “كلود ميثوس” (Claude Mythos) من قبل شركة “أنثروبيك” (Anthropic) إلى عقد اجتماعات أزمة، بعد أن كشف عن ثغرات في العديد من أنظمة التشغيل الرئيسية.
يقول الخبراء إنه يمتلك قدرة غير مسبوقة على تحديد واستغلال نقاط الضعف في الأمن السيبراني، على الرغم من أن آخرين يحذرون من الحاجة إلى مزيد من الاختبارات لفهم قدراته بشكل صحيح.
صرح وزير المالية الكندي فرانسوا-فيليب شامبين لهيئة الإذاعة البريطانية (BBC) بأن نموذج “ميثوس” نوقش على نطاق واسع في اجتماع صندوق النقد الدولي (IMF) بواشنطن العاصمة هذا الأسبوع.
وقال: “بالتأكيد، الأمر خطير بما يكفي ليستدعي اهتمام جميع وزراء المالية.”
وأضاف: “الفرق هو أن مضيق هرمز – نحن نعرف مكانه ونعرف حجمه… أما القضية التي نواجهها مع أنثروبيك فهي المجهول، المجهول.”
وتابع: “هذا يتطلب الكثير من الاهتمام لضمان وجود ضمانات وعمليات مطبقة لضمان مرونة أنظمتنا المالية.”
ما هو كلود ميثوس؟
“ميثوس” هو أحد أحدث نماذج “أنثروبيك” التي تم تطويرها كجزء من نظامها الأوسع للذكاء الاصطناعي المسمى “كلود” (Claude)، وهو منافس لـ “تشات جي بي تي” (ChatGPT) من OpenAI و”جيميني” (Gemini) من جوجل.
كشفت عنه “أنثروبيك” في وقت سابق من هذا الشهر، عندما قال المطورون المسؤولون عن اختبار نماذج الذكاء الاصطناعي وأدائها للمهام “غير المتوافقة” – التي تتعارض مع القيم والأهداف والسلوك البشري – إنه “قادر بشكل لافت للنظر على مهام أمن الكمبيوتر“.
واستشهدت “أنثروبيك” بمخاوف من أنه قد يكشف عن أخطاء برمجية قديمة أو يجد طرقًا سهلة لاستغلال ثغرات الأنظمة، ولذلك لم تصدر النموذج للعامة.
بدلاً من ذلك، أتاحت “ميثوس” لعمالقة التكنولوجيا مثل “أمازون ويب سيرفيسز” (Amazon Web Services) و”كراود سترايك” (CrowdStrike) و”مايكروسوفت” (Microsoft) و”إنفيديا” (Nvidia) كجزء من مبادرة تسمى “مشروع جلاسوينج” (Project Glasswing) – والتي تصفها بأنها “جهد لتأمين أهم البرامج في العالم“.
يوم الخميس، أصدرت “أنثروبيك” نسخة جديدة من نموذج موجود، “كلود أوبوس” (Claude Opus)، قائلة إن ذلك سيسمح باختبار قدرات “ميثوس” السيبرانية في أنظمة أقل قوة.
قد تتجاوز المخاوف المثارة حول “ميثوس” الحديث عن نماذج الذكاء الاصطناعي السابقة، لكن بعض خبراء الأمن السيبراني شككوا في مدى تبريرها – خاصة وأن النموذج لم يتم اختباره من قبل الصناعة الأوسع لمعرفة مدى قدرته الفعلية.
حصل معهد الأمن السيبراني للذكاء الاصطناعي في المملكة المتحدة على نسخة معاينة منه، ونشر التقرير المستقل الوحيد حول مهارات النموذج في الأمن السيبراني.
لاحظ باحثوه أنه أداة قوية قادرة على إيجاد العديد من الثغرات الأمنية في البيئات غير المحمية، لكنهم أشاروا إلى أن “ميثوس” لم يكن أفضل بكثير من سلف “كلود”، “أوبوس 4” (Opus 4).
قال مؤلفو التقرير: “تظهر اختباراتنا أن نسخة ميثوس التجريبية (Mythos Preview) يمكنها استغلال الأنظمة ذات الوضع الأمني الضعيف، ومن المرجح أن يتم تطوير المزيد من النماذج بهذه القدرات.”
كما أنها ليست المرة الأولى التي يزعم فيها مطور ذكاء اصطناعي أن قدرات نماذجه تعني عدم إطلاقها – وهو ما يجادل النقاد بأنه تكتيك لبناء الضجة.
في فبراير 2019، استشهدت OpenAI بمخاوف مماثلة عندما اختارت إطلاق GPT-2 على مراحل، وهي نسخة سابقة من نماذجها التي تشغل الآن أداتها الأكبر ChatGPT.
“فهم الثغرات الأمنية”
سيتم منح كبار المصرفيين إمكانية الوصول إلى النموذج مسبقًا لاختبار أنظمتهم.
صرح الرئيس التنفيذي لبنك باركليز، سي إس فينكاتاكريشنان، لهيئة الإذاعة البريطانية (BBC): “الأمر خطير بما يكفي ليثير قلق الناس.”
“علينا أن نفهمه بشكل أفضل، وعلينا أن نفهم الثغرات التي يتم كشفها وإصلاحها بسرعة.”
وأضاف أن “هذا هو ما سيكون عليه العالم الجديد” – مشيرًا إلى نظام مالي أكثر ترابطًا بكثير، مع فرص وثغرات على حد سواء.
بينما قالت شركة “أنثروبيك” المطورة إن النموذج كشف بالفعل عن ثغرات أمنية متعددة في بعض أنظمة التشغيل الحيوية والأنظمة المالية ومتصفحات الويب، يتم تقديم إمكانية الوصول للحكومات والبنوك قبل إصداره العام للمساعدة في حماية أنظمتها الخاصة.
قال محافظ بنك إنجلترا، أندرو بيلي، لهيئة الإذاعة البريطانية (BBC) إنه يجب أخذ هذا التطور على محمل الجد: “علينا أن ننظر بعناية فائقة الآن فيما يمكن أن يعنيه هذا التطور الأخير في الذكاء الاصطناعي لمخاطر الجرائم السيبرانية.”
وأضاف: “النتيجة قد تكون وجود تطور في الذكاء الاصطناعي، وفي النمذجة، مما يسهل اكتشاف الثغرات الموجودة في أنظمة تكنولوجيا المعلومات الأساسية، ومن ثم يمكن للمجرمين السيبرانيين – الجهات الخبيثة – السعي لاستغلالها.”
أكدت وزارة الخزانة الأمريكية أنها أثارت القضية مع بنوكها الكبرى، مشجعة إياها على اختبار أنظمتها، قبل أي إصدار عام لـ “ميثوس” من قبل “أنثروبيك”.
أشارت مصادر في الصناعة المالية إلى أن شركة أمريكية بارزة أخرى للذكاء الاصطناعي قد تصدر قريبًا نموذجًا قويًا بالمثل ولكن بدون نفس الضمانات.
جيمس وايز، شريك في “بالدرتون كابيتال” (Balderton Capital)، هو رئيس وحدة الذكاء الاصطناعي السيادي، وهو صندوق رأس مال استثماري سيستثمر في شركات الذكاء الاصطناعي البريطانية، بدعم من تمويل حكومي بقيمة 500 مليون جنيه إسترليني.
قال إن “ميثوس” هو “الأول من بين العديد من النماذج الأكثر قوة” التي يمكنها كشف ثغرات الأنظمة.
وقال لبرنامج “توداي” (Today Programme) على هيئة الإذاعة البريطانية (BBC) إن وحدته “تستثمر في شركات الذكاء الاصطناعي البريطانية التي تعالج ذلك – الشركات العاملة في أمن وسلامة الذكاء الاصطناعي.”
“نأمل أن تكون النماذج التي تكشف الثغرات هي نفسها النماذج التي ستصلحها.”
#الذكاء_الاصطناعي #أمن_سيبراني #الأنظمة_المالية #ميثوس #أنثروبيك #ثغرات_أمنية #التكنولوجيا #المخاطر_السيبرانية #الاقتصاد_الرقمي #الابتكار_التقني
Leave a Reply