شهد عالم الذكاء الاصطناعي في الأسابيع الأخيرة ضجة كبيرة بعد ادعاءات الشركة الرائدة، أنثروبيك، بخصوص نموذجها الجديد، كلود ميثوس. تزعم الشركة أنها وجدت أن الأداة يمكنها التفوق على البشر في بعض مهام القرصنة والأمن السيبراني، مما أثار نقاشات بين المنظمين والمشرعين والمؤسسات المالية حول المخاطر التي قد تشكلها على الخدمات الرقمية. وقد مُنحت العديد من عمالقة التكنولوجيا إمكانية الوصول إلى ميثوس عبر مبادرة تسمى مشروع جلاسوينج (Project Glasswing)، المصممة لتعزيز المرونة ضد ميثوس نفسه. لكن آخرين يشيرون إلى أن من مصلحة أنثروبيك الإيحاء بأن أداتها تتمتع بقدرات غير مسبوقة، مما يعني – كما هو الحال دائمًا مع الذكاء الاصطناعي – أن مهمة التمييز بين الادعاءات المبررة والضجيج قد تكون صعبة.
ما هو كلود ميثوس؟
ميثوس هو أحد أحدث نماذج أنثروبيك التي طُوّرت كجزء من نظامها الأوسع للذكاء الاصطناعي المسمى كلود. ويشمل مساعد الذكاء الاصطناعي الخاص بالشركة وعائلة من النماذج، منافسًا بذلك ChatGPT من OpenAI و Gemini من جوجل. كشفت عنه أنثروبيك في أوائل أبريل تحت اسم “ميثوس بريفيو” (Mythos Preview). قال باحثون يختبرون كيفية تعامل نماذج الذكاء الاصطناعي مع طلبات أو مهام معينة، والمعروفون باسم “الفرق الحمراء”، في تقرير إن ميثوس كان “قادرًا بشكل لافت للنظر على مهام أمن الكمبيوتر”. ووجدوا أن الأداة يمكنها تحديد الثغرات الخاملة الكامنة في التعليمات البرمجية التي تعود لعقود مضت واستغلالها بسهولة. لذلك، بدلاً من إتاحته على نطاق واسع لمستخدمي كلود، منحت أنثروبيك 12 شركة تقنية إمكانية الوصول إليه عبر مشروع جلاسوينج، الذي وصفته بأنه “جهد لتأمين أهم البرمجيات في العالم”. وتشمل هذه الشركات عملاق الحوسبة السحابية أمازون ويب سيرفيسز، ومصنعي الأجهزة أبل ومايكروسوفت وجوجل، وصانعي الرقائق إنفيديا وبرودكوم. كما أن كراودسترايك (Crowdstrike)، التي تسبب تحديث برمجياتها الخاطئ في انقطاع عالمي كبير في يوليو 2024، هي أيضًا من بين شركاء المشروع، وتقول أنثروبيك إنها منحت أيضًا إمكانية الوصول إلى ميثوس لأكثر من 40 منظمة مسؤولة عن البرمجيات الحيوية. في مقطع فيديو صدر بالتزامن مع إطلاق مشروع جلاسوينج، قال رئيس أنثروبيك داريو أمودي إن الشركة عرضت العمل مع المسؤولين الحكوميين الأمريكيين “للمساعدة في الدفاع ضد مخاطر هذه النماذج”.
لماذا توجد مخاوف؟
تقول أنثروبيك إنها وجدت خلال الاختبارات أن النموذج كان ماهرًا للغاية في مهام الأمن السيبراني والقرصنة، متفوقًا على البشر. ادعت أنثروبيك في 7 أبريل أن “ميثوس بريفيو قد اكتشف بالفعل آلاف الثغرات الأمنية عالية الخطورة، بما في ذلك بعضها في كل نظام تشغيل ومتصفح ويب رئيسي”. وأضافت: “بالنظر إلى وتيرة تقدم الذكاء الاصطناعي، لن يمر وقت طويل قبل أن تنتشر هذه القدرات، ربما خارج نطاق الجهات الملتزمة بنشرها بأمان”. وقالت إنها يمكنها تحديد – دون إشراف كبير – أخطاء حرجة تتطلب إجراءً فوريًا في الأنظمة القديمة، بما في ذلك ثغرة أمنية كانت موجودة في نظام لمدة 27 عامًا، واقتراح طرق لاستغلالها. وقد أعرب بعض وزراء المالية ومحافظي البنوك المركزية والممولين منذ ذلك الحين عن مخاوف جدية بشأنه، خشية أن يقوض النموذج أمن الأنظمة المالية. صرح وزير المالية الكندي فرانسوا-فيليب شامبين لهيئة الإذاعة البريطانية (BBC) بأن ميثوس نوقش في اجتماع لصندوق النقد الدولي (IMF) في واشنطن العاصمة هذا الأسبوع. وقال: “بالتأكيد إنه خطير بما يكفي ليستدعي اهتمام جميع وزراء المالية”، واصفًا التكنولوجيا بأنها “مجهول مجهول”. وقال رئيس بنك إنجلترا أندرو بيلي لهيئة الإذاعة البريطانية: “علينا أن ننظر بعناية فائقة الآن فيما يمكن أن يعنيه هذا التطور الأخير في الذكاء الاصطناعي لمخاطر الجرائم السيبرانية”. في غضون ذلك، قال الاتحاد الأوروبي إنه يجري أيضًا مناقشات مع أنثروبيك بشأن مخاوفه حول ميثوس.
ماذا قال خبراء الأمن السيبراني عنه؟
صرح كيران مارتن، الرئيس السابق للمركز الوطني للأمن السيبراني في المملكة المتحدة، لهيئة الإذاعة البريطانية في وقت سابق من هذا الأسبوع بأن الادعاء بأن ميثوس يمكنه الكشف عن الثغرات الأمنية الحرجة بسرعة أكبر بكثير من نماذج الذكاء الاصطناعي الأخرى قد “هز الناس حقًا”. وأضاف: “الشيء الثاني هو أنه حتى مع نقاط الضعف الموجودة التي نعرفها، ولكن المنظمات قد لا تكون قد قامت بتصحيحها أو لم تكن محمية جيدًا ضدها، فإنها مجرد قرصان جيد حقًا”. لم يتمكن العديد من محللي وخبراء الأمن السيبراني المستقلين بعد من اختباره بأنفسهم، ولا يزال البعض متشككًا بشأن أداء ميثوس. خلص معهد سلامة الذكاء الاصطناعي في المملكة المتحدة مؤخرًا إلى أنه على الرغم من كونه نموذجًا قويًا جدًا، فإن أكبر تهديد له سيكون ضد الأنظمة الضعيفة وغير المحمية جيدًا. قال باحثوه: “لا يمكننا الجزم بما إذا كان ميثوس بريفيو سيكون قادرًا على مهاجمة الأنظمة المحمية جيدًا”. لذا، حيثما يوجد أمن سيبراني جيد، سيتم إيقاف هذا النموذج، نظريًا، على أمل.
هل يجب أن نقلق بشأنه؟
المخاوف المتعلقة بالذكاء الاصطناعي ليست جديدة. تظهر نماذج وأدوات جديدة طوال الوقت، وغالبًا ما تكون مصحوبة بوعود لإحداث ثورة في حياتنا، للأفضل أو للأسوأ. وقد أصبح استغلال هذا المزيج من الخوف والإثارة حول الذكاء الاصطناعي وتأثيره المستقبلي سمة مميزة للقطاع واستراتيجياته التسويقية في السنوات الأخيرة. في حالة ميثوس، ما زلنا لا نعرف ما يكفي لتحديد ما إذا كانت هذه الآمال أو المخاوف مبررة، أم أنها مجرد انعكاس للضجيج المحيط بالصناعة. في كلتا الحالتين، ووفقًا للمركز الوطني للأمن السيبراني (NSCS)، فإن أهم شيء يمكننا القيام به الآن هو عدم الذعر وبدلاً من ذلك التركيز على ضرورة تطبيق أساسيات الأمن السيبراني بشكل صحيح. ففي النهاية، لا يحتاج معظم المتسللين إلى أدوات ذكاء اصطناعي فائقة لاختراق الأنظمة عندما تكون الهجمات الأبسط غالبًا كافية. قال مارتن لهيئة الإذاعة البريطانية: “بالنسبة للبعض هذا حدث كارثي، وبالنسبة للآخرين يبدو أنه مجرد ضجيج كبير”. لكنه أشار إلى أنه سواء كانت هذه الأداة أو الأدوات اللاحقة التي تصنعها أنثروبيك أو منافسوها، فإلى جانب المخاطر توجد فرصة لبناء عالم رقمي أكثر أمانًا. وقال: “على المدى المتوسط، هناك فرصة لاستخدام هذه الأدوات لإصلاح العديد من الثغرات الأساسية في الإنترنت”.
#كلود_ميثوس #الذكاء_الاصطناعي #الأمن_السيبراني #أنثروبيك #مخاطر_الذكاء_الاصطناعي #القرصنة_الذكية #تكنولوجيا #مشروع_جلاسوينج #أمن_المعلومات #الابتكار_التقني
Leave a Reply