پاول، بسنت بانک‌ها را درباره خطرات امنیتی Mythos AI شرکت Anthropic هشدار می‌دهند: بلومبرگ

وزیر خزانه داری ایالات متحده، اسکات بسنت و رئیس فدرال رزرو، جروم پاول، گزارش شده است که اوایل این هفته جلسه ای را با مدیران عامل بانک های وال استریت برگزار کردند تا در مورد خطرات امنیت سایبری مرتبط با یک مدل جدید هوش مصنوعی از Anthropic هشدار دهند.

طبق گزارش بلومبرگ، این جلسه شامل مدیران اجرایی از سیتی گروپ، بانک آمریکا، ولز فارگو، مورگان استنلی و گلدمن ساکس بود. مقامات در مورد مدل جدید هوش مصنوعی Mythos شرکت Anthropic بحث کردند که اخیراً نگرانی گسترده ای را در مورد قابلیت های پیشرفته امنیت سایبری ظاهری خود ایجاد کرده است.

مقامات این جلسه را برگزار کردند تا اطمینان حاصل کنند که بانک ها خطرات ناشی از سیستم هایی را که قادر به شناسایی و سوء استفاده از آسیب پذیری های نرم افزار در سیستم عامل ها و مرورگرهای وب هستند، درک می کنند و برای تشویق موسسات به تقویت دفاع در برابر حملات سایبری بالقوه با کمک هوش مصنوعی که زیرساخت های مالی را هدف قرار می دهند.

محققان امنیتی هشدار داده اند که ابزارهای قادر به کشف خودکار آسیب پذیری ها می توانند هم کار امنیتی دفاعی و هم هک مخرب را در صورت سوء استفاده تسریع کنند.

مدل Mythos شرکت Anthropic برای اولین بار در ماه مارس پس از درز مطالب پیش نویس در مورد این سیستم به صورت آنلاین ظاهر شد و آنچه را که شرکت به عنوان قدرتمندترین مدل هوش مصنوعی خود تا کنون توصیف کرده بود، فاش کرد. در آزمایش، گزارش شده است که این سیستم هزاران آسیب پذیری نرم افزاری ناشناخته قبلی را پیدا کرده است، از جمله نقص های روز صفر در سیستم عامل های اصلی و مرورگرهای وب.

محققان Anthropic در گزارشی اوایل این هفته گفتند که قابلیت های کشف آسیب پذیری Mythos Preview عمداً آموزش داده نشده بود، بلکه از بهبودهای گسترده تر در کدنویسی، استدلال و خودمختاری مدل ظهور کرده است.

"همان بهبودهایی که مدل را در اصلاح آسیب پذیری ها به طور قابل توجهی موثرتر می کند، آن را در سوء استفاده از آنها نیز به طور قابل توجهی موثرتر می کند"، شرکت نوشت.

به دلیل این قابلیت ها، Anthropic دسترسی را به گروه کوچکی از سازمان های امنیت سایبری محدود کرده است.

"با توجه به قدرت قابلیت های آن، ما در مورد نحوه انتشار آن عمدی هستیم"، Anthropic در بیانیه ای گفت. "همانطور که رویه استاندارد در سراسر صنعت است، ما با گروه کوچکی از مشتریان دسترسی اولیه برای آزمایش مدل کار می کنیم. ما این مدل را یک تغییر گام و قدرتمندترین مدلی که تاکنون ساخته ایم، در نظر می گیریم."

برای رسیدگی به این خطر، Anthropic در حال آزمایش Mythos از طریق پروژه Glasswing است، یک همکاری با شرکت های بزرگ فناوری و امنیت سایبری که از مدل برای شناسایی و اصلاح آسیب پذیری ها در نرم افزارهای حیاتی قبل از اینکه مهاجمان بتوانند از آنها سوء استفاده کنند، استفاده می کند.

"پروژه Glasswing یک نقطه شروع است. هیچ سازمانی نمی تواند به تنهایی این مشکلات امنیت سایبری را حل کند"، شرکت در بیانیه ای گفت. "توسعه دهنده بازی های ویدئویی هوش مصنوعی پیشرو، سایر شرکت های نرم افزاری، محققان امنیتی، نگهدارندگان منبع باز و دولت ها در سراسر جهان همگی نقش های ضروری برای بازی دارند."

Anthropic بلافاصله به درخواست Decrypt برای اظهار نظر پاسخ نداد.