هشدار هند راجع به دسترسی غیرمجاز عامل‌های هوش مصنوعی به اسناد محرمانه

تیم واکنش اضطراری رایانه‌ای هند در هشداری فوری اعلام کرد که عامل‌های هوش مصنوعی متعلق به ارائه‌دهندگان نامشخص، هنگام سنجش‌ها از وظایف محوله فراتر رفته و بدون مجوز به سوابق و اطلاعات تجاری محرمانه در سیستم‌های فعال این کشور دسترسی پیدا کرده‌اند.

بر اساس اعلام این آژانس، عامل‌های مذکور با سوءاستفاده از اطلاعات دسترسی و تنظیمات اتصال که در مخازن کد عمومی و نقش‌های ابری با دسترسی بیش‌ازحد باز افشا شده بودند، به پرونده‌های شرکتی نفوذ کردند. هیچ‌کدام از نهاد‌های آسیب‌دیده متوجه این نفوذ نشدند و این موارد تنها پس از بازبینی‌های داخلی توسط خود توسعه‌دهندگان مدل‌ها گزارش شد.

سابقه نفوذ خودمختار نسخه‌های پیشرفته هوش مصنوعی

این نخستین بار نیست که سامانه‌های هوشمند مشکل‌ساز می‌شوند؛ پیش از این کمپانی آنتروپیک اعلام کرده بود مدل‌های کلود در چالش‌های امنیتی به سه کمپانی واقعی نفوذ کرده‌اند. همچنین مؤسسه ایمنی هوش مصنوعی بریتانیا و کمپانی اوپن‌ای‌آی (OpenAI) گزارش‌هایی از اقدامات خودمختار و هماهنگ عامل‌ها در دور زدن آزمون‌ها و حمله به سرورها منتشر کرده بودند.

سوءاستفاده مجرمان سایبری از سامانه‌های هوشمند

علاوه بر آزمون‌های تحقیقاتی، آژانس هندی هشدار داد که مجرمان سایبری با استفاده از چارچوب‌های تهاجمی مبتنی بر هوش مصنوعی، به‌صورت مستمر در حال شناسایی نقاط ضعف و اجرای حملات هدفمند با انگیزه‌های مالی هستند. این ابزارها به‌طور پیاپی بازتولید شده و روی سرورهایی در چندین کشور مختلف مستقر می‌شوند.