أعرب وزراء المالية ومحافظو البنوك المركزية وكبار الممولين عن مخاوف جدية بشأن نموذج جديد وقوي للذكاء الاصطناعي يخشون أن يقوض أمن الأنظمة المالية العالمية.
أدى تطوير نموذج “كلود ميثوس” (Claude Mythos) من قبل شركة “أنثروبيك” (Anthropic) إلى عقد اجتماعات أزمة، بعد أن كشف النموذج عن ثغرات في العديد من أنظمة التشغيل الرئيسية. يقول الخبراء إنه يمتلك قدرة غير مسبوقة على تحديد واستغلال نقاط الضعف في الأمن السيبراني، على الرغم من أن آخرين يحذرون من الحاجة إلى مزيد من الاختبارات لفهم قدراته بشكل صحيح.
صرح وزير المالية الكندي، فرانسوا-فيليب شامبين، لهيئة الإذاعة البريطانية (بي بي سي) بأن نموذج “ميثوس” نوقش على نطاق واسع خلال اجتماع صندوق النقد الدولي في واشنطن العاصمة هذا الأسبوع. وقال: “بالتأكيد، إنه أمر خطير بما يكفي ليستدعي اهتمام جميع وزراء المالية”. وأضاف: “الفرق هو أن مضيق هرمز – نعرف مكانه وحجمه… أما القضية التي نواجهها مع أنثروبيك فهي المجهول، المجهول”. وتابع: “هذا يتطلب الكثير من الاهتمام لضمان وجود ضمانات وعمليات مطبقة لضمان مرونة أنظمتنا المالية”.
ما هو كلود ميثوس؟
“ميثوس” هو أحد أحدث نماذج “أنثروبيك” التي تم تطويرها كجزء من نظامها الأوسع للذكاء الاصطناعي المسمى “كلود”، وهو منافس لـ “تشات جي بي تي” (ChatGPT) من “أوبن إيه آي” (OpenAI) و”جيميني” (Gemini) من جوجل. كشفت عنه “أنثروبيك” في وقت سابق من هذا الشهر، عندما قال المطورون المسؤولون عن اختبار نماذج الذكاء الاصطناعي وأدائها لما يسمى بالمهام “غير المتوافقة” – التي تتعارض مع القيم والأهداف والسلوك البشري – إنه “قادر بشكل لافت للنظر على مهام أمن الكمبيوتر”. ونظرًا للمخاوف من أنه قد يكشف عن أخطاء برمجية قديمة أو يجد طرقًا سهلة لاستغلال ثغرات النظام، لم تصدر “أنثروبيك” النموذج. بدلاً من ذلك، أتاحت “ميثوس” لعمالقة التكنولوجيا مثل “أمازون ويب سيرفيسز” (Amazon Web Services) و”كراود سترايك” (CrowdStrike) و”مايكروسوفت” (Microsoft) و”إنفيديا” (Nvidia) كجزء من مبادرة تسمى “مشروع جلاسوينج” (Project Glasswing) – والتي تصفها بأنها “جهد لتأمين أهم البرامج في العالم”. يوم الخميس، أصدرت “أنثروبيك” نسخة جديدة من نموذج موجود، “كلود أوبوس” (Claude Opus)، قائلة إنها ستسمح باختبار قدرات “ميثوس” السيبرانية في أنظمة أقل قوة.
قد تتجاوز المخاوف التي أثيرت حول “ميثوس” الضجيج حول نماذج الذكاء الاصطناعي السابقة، لكن بعض خبراء الأمن السيبراني شككوا في مدى تبريرها – خاصة وأن النموذج لم يتم اختباره من قبل الصناعة الأوسع لمعرفة مدى قدرته الفعلية. وقد حصل معهد أمن الذكاء الاصطناعي في المملكة المتحدة على نسخة معاينة منه، ونشر التقرير المستقل الوحيد حول مهارات الأمن السيبراني للنموذج. لاحظ باحثوه أنه أداة قوية قادرة على العثور على العديد من الثغرات الأمنية في البيئات غير المحمية، لكنهم أشاروا إلى أن “ميثوس” لم يكن أفضل بكثير من سلف “كلود”، “أوبوس 4”. وقال مؤلفو التقرير: “تظهر اختباراتنا أن معاينة ميثوس يمكنها استغلال الأنظمة ذات الوضع الأمني الضعيف، ومن المحتمل أن يتم تطوير المزيد من النماذج بهذه القدرات”. هذه ليست المرة الأولى التي يزعم فيها مطور ذكاء اصطناعي أن قدرات نماذجه تعني عدم إطلاقها – وهو ما يجادل النقاد بأنه تكتيك لبناء الضجة. في فبراير 2019، استشهدت “أوبن إيه آي” بمخاوف مماثلة عندما اختارت إطلاق “جي بي تي-2” (GPT-2) على مراحل، وهي نسخة سابقة من نماذجها التي تشغل الآن أداتها الأكبر “تشات جي بي تي”.
“فهم الثغرات الأمنية”
سيتم منح كبار المصرفيين إمكانية الوصول إلى النموذج مسبقًا لاختبار أنظمتهم. صرح الرئيس التنفيذي لبنك باركليز، سي إس فينكاتاكريشنان، لهيئة الإذاعة البريطانية: “إنه أمر خطير بما يكفي ليقلق الناس. علينا أن نفهمه بشكل أفضل، وعلينا أن نفهم الثغرات التي يتم كشفها وإصلاحها بسرعة”. وأضاف أن “هذا هو ما سيكون عليه العالم الجديد” – في إشارة إلى نظام مالي أكثر ترابطًا، مع فرص وثغرات على حد سواء. بينما قالت شركة “أنثروبيك” المطورة إن النموذج كشف بالفعل عن ثغرات أمنية متعددة في بعض أنظمة التشغيل الحيوية والأنظمة المالية ومتصفحات الويب، يتم تقديم الوصول إلى الحكومات والبنوك قبل إصداره للجمهور للمساعدة في حماية أنظمتها الخاصة. صرح محافظ بنك إنجلترا، أندرو بيلي، لهيئة الإذاعة البريطانية بأن هذا التطور يجب أن يؤخذ على محمل الجد: “علينا أن ننظر بعناية فائقة الآن إلى ما يمكن أن يعنيه هذا التطور الأخير في الذكاء الاصطناعي لمخاطر الجريمة السيبرانية”. وأضاف: “قد تكون النتيجة هي تطوير للذكاء الاصطناعي، للنمذجة، مما يسهل اكتشاف الثغرات الموجودة في أنظمة تكنولوجيا المعلومات الأساسية، ومن ثم يمكن للمجرمين السيبرانيين – الجهات الفاعلة السيئة – السعي لاستغلالها”. أكدت وزارة الخزانة الأمريكية أنها أثارت القضية مع بنوكها الكبرى مشجعة إياها على اختبار أنظمتها، قبل أي إصدار عام لـ “ميثوس” من قبل “أنثروبيك”. أشارت مصادر في الصناعة المالية إلى أن شركة أمريكية بارزة أخرى للذكاء الاصطناعي قد تصدر قريبًا نموذجًا قويًا مماثلاً ولكن بدون نفس الضمانات.
جيمس وايز، شريك في “بالديرتون كابيتال” (Balderton Capital)، يرأس وحدة الذكاء الاصطناعي السيادي، وهو صندوق رأسمال مخاطر سيستثمر في شركات الذكاء الاصطناعي البريطانية، بدعم من 500 مليون جنيه إسترليني من التمويل الحكومي. وقال إن “ميثوس” هو “الأول من بين العديد من النماذج الأكثر قوة” التي يمكن أن تكشف عن ثغرات الأنظمة. وقال لبرنامج “توداي” (Today) على بي بي سي إن وحدته “تستثمر في شركات الذكاء الاصطناعي البريطانية التي تعالج ذلك – الشركات العاملة في أمن وسلامة الذكاء الاصطناعي”. وأضاف: “نأمل أن تكون النماذج التي تكشف الثغرات هي أيضًا النماذج التي ستصلحها”.
#الذكاء_الاصطناعي #أمن_سيبراني #ميثوس #أنثروبيك #الأنظمة_المالية #تقنية #مخاطر_الذكاء_الاصطناعي #حماية_البيانات #الابتكار_التقني #الأمن_الرقمي
Leave a Reply