شرکت آنتروپیک در حال بررسی ادعایی است مبنی بر اینکه گروه کوچکی از افراد به مدل Claude Mythos آن دسترسی پیدا کردهاند – ابزار امنیت سایبری که این شرکت هوش مصنوعی آن را بسیار قدرتمندتر از آن میداند که به صورت عمومی منتشر شود.
این شرکت در بیانیهای اعلام کرد: «ما در حال بررسی گزارشی هستیم که ادعا میکند دسترسی غیرمجاز به Claude Mythos Preview از طریق یکی از محیطهای فروشنده شخص ثالث ما صورت گرفته است.»
این بیانیه در پاسخ به گزارشی از بلومبرگ بود که نشان میداد کاربران در یک انجمن خصوصی توانستهاند بدون مجوزهای عادی به این مدل دسترسی پیدا کنند.
نگرانیها درباره قابلیتهای Mythos
نگرانی عمیقی در مورد قابلیتهای Mythos وجود دارد – اگرچه مقام ارشد سایبری بریتانیا گفته است که ابزارهای پیشرفته هوش مصنوعی میتوانند «مثبت خالص» باشند، اگر فناوری از سوءاستفاده محافظت شود.
در حال حاضر هیچ نشانهای مبنی بر اینکه عاملان مخرب موفق به دستیابی به این مدل شدهاند، وجود ندارد و آنتروپیک میگوید شواهدی مبنی بر تحت تأثیر قرار گرفتن سیستمهایش در دست ندارد.
اما گزارش دسترسی کاربران غیرمجاز، سؤالاتی را در مورد توانایی شرکتهای بزرگ هوش مصنوعی برای جلوگیری از افتادن مدلهای پیشرفته هوش مصنوعیشان به دست افراد نادرست مطرح میکند. این گزارش سؤالاتی را در مورد توانایی شرکتهای بزرگ هوش مصنوعی برای کنترل مدلهای پیشرفته خود مطرح میکند.
به گفته رالوکا ساکانو، مدیرعامل شرکت امنیت سایبری Smarttech247، این اتفاق «به احتمال زیاد از طریق سوءاستفاده از دسترسی بوده تا یک هک کلاسیک».
آنتروپیک مدل Mythos را در اختیار برخی شرکتهای فناوری و مالی قرار داده است تا به آنها کمک کند سیستمهای خود را در برابر توانایی گزارششده این مدل در بهرهبرداری از آسیبپذیریها ایمن کنند. اما این امر به این بستگی دارد که آن شرکتها اطمینان حاصل کنند که دسترسی خودشان به شدت کنترل میشود.
طبق گزارش بلومبرگ، این فرد از طریق کاری که برای یک پیمانکار شخص ثالث انجام داده بود، قبلاً مجوز مشاهده مدلهای هوش مصنوعی آنتروپیک را داشت. این نشریه همچنین گزارش داد که این گروه از زمان دسترسی به این مدل از آن استفاده کرده است – اگرچه نه برای هک، زیرا نمیخواهند شناسایی شوند.
خطرات دسترسی کنترلنشده به ابزارهای هوش مصنوعی
ساکانو گفت: «زمانی که ابزارهای قدرتمند هوش مصنوعی خارج از کنترلهای مورد نظرشان مورد دسترسی یا استفاده قرار میگیرند، خطر تنها یک حادثه امنیتی نیست، بلکه گسترش قابلیتهایی است که میتواند برای کلاهبرداری، سوءاستفاده سایبری یا سایر فعالیتهای مخرب استفاده شود.»
در سخنرانی خود در یک کنفرانس بزرگ امنیت سایبری در روز چهارشنبه، رئیس مرکز ملی امنیت سایبری بریتانیا (NCSC) دیدگاهی مثبتتر ارائه داد و استدلال کرد که ابزارهای هوش مصنوعی میتوانند امور را ایمنتر و مطمئنتر کنند. ریچارد هورن از نمایندگان CyberUK خواست که از حملات جدید هوش مصنوعی نترسند، بلکه اطمینان حاصل کنند که اصول اولیه امنیت سایبری را به درستی انجام میدهند.
او گفت: «همانطور که در روزهای اخیر در رسانهها دیدهایم، هوش مصنوعی پیشرفته به سرعت کشف و بهرهبرداری از آسیبپذیریهای موجود را در مقیاس وسیع ممکن میسازد و نشان میدهد که چقدر سریع نقاطی را که اصول امنیت سایبری هنوز باید مورد توجه قرار گیرند، آشکار خواهد کرد.» هشدارهای هورن پیامهای مشابهی را از سالهای اخیر تکرار میکند – به عنوان مثال، فوریت برای اطمینان از بهروزرسانی نرمافزار سیستمها و ارتقاء فناوری اطلاعات قدیمی.
در همین رویداد، دن جارویس، وزیر امنیت، از شرکتهای هوش مصنوعی خواست تا با دولت در «تلاش نسلی» همکاری کنند تا اطمینان حاصل شود که هوش مصنوعی برای محافظت از شبکههای حیاتی در برابر مهاجمان استفاده میشود.
تمام قدرتمندترین و پیشرفتهترین مدلهای هوش مصنوعی – که به عنوان هوش مصنوعی مرزی شناخته میشوند – در خارج از بریتانیا توسعه مییابند، با شرکتهای برتر مستقر در ایالات متحده یا چین. این بدان معناست که بریتانیا برای دسترسی به Mythos به شرکتهایی مانند آنتروپیک متکی است و هیچ کنترلی بر نحوه ساخت، آموزش یا انتشار آن ندارد.
اوپناِیآی نیز یک مدل امنیت سایبری بسیار توانمند به نام GPT 5.4 Cyber دارد.
سخنرانیها در CyberUK همچنین بر تهدید مداوم حملات دولتی و هکتیویستی، به ویژه از سوی روسیه و چین، تأکید کردند. NCSC هشدار میدهد که سایبر اکنون «جبهه داخلی» دفاع در بریتانیا است و رویدادهای اخیر نشان میدهد که سایبر نقش فزایندهای در تمام درگیریهای مدرن ایفا میکند.
#هوش_مصنوعی #امنیت_سایبری #آنتروپیک #MythosAI #دسترسی_غیرمجاز #مدل_زبان_بزرگ #فناوری #حملات_سایبری #امنیت_اطلاعات #اخبار_فناوری
Leave a Reply