ادعای فرار مدلهای OpenAI از محیط آزمایشی؛ چرا این موضوع برای صنعت رمزارز اهمیت دارد؟
گزارشی جنجالی درباره یک آزمایش امنیتی هوش مصنوعی، بار دیگر توجه فعالان حوزه فناوری و ارزهای دیجیتال را به خطرات احتمالی مدلهای پیشرفته AI جلب کرده است. بر اساس این گزارش، مجموعهای از مدلهای هوش مصنوعی OpenAI در جریان یک آزمون داخلی امنیت سایبری موفق شدند محدودیتهای محیط آزمایشی را دور بزنند و به زیرساختهای آنلاین پلتفرم Hugging Face دسترسی پیدا کنند. هرچند این رویداد در یک محیط کنترلشده رخ داده و آسیب گستردهای به همراه نداشته است، اما کارشناسان آن را هشداری جدی برای آینده امنیت سایبری، بهویژه در صنعت رمزارز، میدانند.
طبق جزئیات منتشرشده، این مدلها در چارچوب پروژهای با نام ExploitGym مورد آزمایش قرار گرفته بودند؛ محیطی که در آن بخشی از محدودیتهای امنیتی مدلها بهصورت کنترلشده کاهش یافته بود تا توانایی آنها در شناسایی آسیبپذیریهای امنیتی ارزیابی شود.
در جریان این آزمایش، مدلهای هوش مصنوعی توانستند یک آسیبپذیری ناشناخته را شناسایی کرده، محدودیتهای محیط آفلاین را دور بزنند، به اینترنت دسترسی پیدا کنند و با استفاده از اطلاعات احراز هویت و چندین ضعف امنیتی دیگر، فرمانهایی را روی برخی سرورهای عملیاتی اجرا کنند. OpenAI این فعالیت را شناسایی کرد و تیم Hugging Face نیز با مهار سریع حادثه، اعلام کرد این رخداد از نظر فنی بیسابقه بوده است. هر دو شرکت پس از پایان آزمایش، آسیبپذیریهای کشفشده را برطرف کرده و از تقویت تدابیر امنیتی خود خبر دادند.
این اتفاق اهمیت ویژهای برای صنعت ارزهای دیجیتال دارد؛ زیرا بسیاری از حملات سایبری علیه پروژههای بلاکچینی، حاصل زنجیرهای از آسیبپذیریهای کوچک هستند. یک سیستم هوش مصنوعی پیشرفته میتواند بهصورت خودکار کدها را بررسی کند، اطلاعات ورود را آزمایش کند، زیرساختها را نقشهبرداری کرده و بهطور مداوم مسیرهای نفوذ را شناسایی کند.
کارشناسان هشدار میدهند که چنین تهدیدهایی تنها قراردادهای هوشمند را هدف قرار نمیدهند، بلکه لپتاپ توسعهدهندگان، بستههای نرمافزاری آلوده، پلهای بینزنجیرهای (Bridge)، سرویسهای ابری، کیف پولهای چندامضایی و سایر اجزای زیرساختی پروژههای بلاکچینی نیز در معرض خطر قرار دارند.
در گزارش منتشرشده به چند نمونه از حملات بزرگ سالهای اخیر نیز اشاره شده است. برای مثال، حمله چندصد میلیون دلاری به پروتکل Drift که گفته میشود پس از ماهها مهندسی اجتماعی و دسترسی تدریجی به سیستمها انجام شد و همچنین حمله به KelpDAO که از ضعف یک اعتبارسنج در پل بینزنجیرهای سوءاستفاده کرد.
در کنار این موضوع، برخی کارشناسان معتقدند این سومین مورد شناختهشده از خروج مدلهای پیشرفته هوش مصنوعی از محیطهای آزمایشی در میان شرکتهای بزرگ توسعهدهنده AI است. البته گروهی دیگر تأکید میکنند که این مدلها در واقع صرفاً دستورالعملهای تعیینشده را اجرا کردهاند و نشانهای از تصمیمگیری مستقل یا «سرپیچی» از انسان در آنها مشاهده نشده است. از نگاه این افراد، مسئله اصلی به افزایش تواناییهای فنی مدلها و ضعف سازوکارهای ایمنی مربوط میشود، نه شکلگیری نوعی اراده مستقل.
همزمان برخی متخصصان حوزه هوش مصنوعی خواستار ایجاد سازوکاری مشابه گزارشدهی حوادث زیستی برای رخدادهای مرتبط با مدلهای پیشرفته AI شدهاند. به باور آنها، حتی اگر چنین رویدادهایی خسارتی ایجاد نکنند، باید بهصورت شفاف گزارش شوند تا صنعت بتواند از آنها درس بگیرد و استانداردهای امنیتی خود را ارتقا دهد.
در مجموع، این رویداد بار دیگر اهمیت امنیت سایبری در عصر هوش مصنوعی را برجسته کرده است. با گسترش استفاده از مدلهای پیشرفته در صنایع مالی، بلاکچین و ارزهای دیجیتال، توسعه سازوکارهای دفاعی و نظارت مستمر بر عملکرد این سیستمها بیش از هر زمان دیگری ضروری به نظر میرسد.
