دورهی جدید رفتارهای خودسرانه در مدلهای هوش مصنوعی
صنعت هوش مصنوعی این روزها در حال گذراندن دورهای است که در آن رفتارهای خودسرانهی زیادی از سوی ایجنتهای هوش مصنوعی دیده میشود. جدیدترین مدلی که پس از مدلهای OpenAI، آنتروپیک و متا هنگام تستهای امنیتی به اینترنت آزاد راه پیدا کرده، Kimi K3 است؛ یک مدل وزنباز قدرتمند که توسط شرکت چینی Moonshot AI ساخته شده است.
فرار Kimi K3 از سندباکس
استارتاپ آمریکایی Frontier Security اعلام کرده است که Kimi K3 هنگام ارزیابی مهارتهای دفاعی سایبری خود، از محیط ایزوله یا سندباکس خارج شده است. درست مانند حادثههایی که پیشتر توسط OpenAI و آنتروپیک گزارش شده بود، این فرار نیز تا حدی به دلیل پیکربندی نادرست سندباکس رخ داده است.
با این حال، Frontier ادعا میکند این حادثه نشان میدهد Kimi نسبت به سایر مدلهای قدرتمند هوش مصنوعی از حفاظهای سایبری کمتری برخوردار است؛ موضوعی که به آن اجازه داده بدون اجازهی مستقیم از اینترنت استفاده کند.
یارون سینگر، مدیرعامل Frontier Security، در این باره توضیح داده که تیم او در سندباکس نشتی پیدا کرده و متوجه شدهاند Kimi از آن روزنه سوءاستفاده کرده که نشاندهندهی فقدان حفاظهای داخلی مناسب در این مدل است.
Kimi K3 هیچ هکی انجام نداده است
کارشناسان میگویند این مدل صریحا وظیفهی حل مسائلی را برعهده داشته که نباید شامل جستوجوی آنلاین برای یافتن پاسخ میشد، اما بهنظر میرسد از این دستورالعملها فراتر رفته است. مدل با بررسی تنظیمات شبکهی سندباکس، خودش متوجه شده بود که به برخی وبسایتها دسترسی دارد.
نکتهی مهم این است که برخلاف دیگر حوادث اخیر، Kimi K3 پس از دسترسی به اینترنت هیچ هک یا اقدام مخربی انجام نداده است؛ زیرا پاسخ سؤالاتی که به دنبال آنها بوده، بهراحتی روی پلتفرم گیتهاب در دسترس قرار داشته است. شرکت Moonshot تا زمان انتشار این خبر پاسخی به درخواستها برای اظهارنظر ارائه نکرده است.
زنجیرهای از حوادث مشابه در صنعت هوش مصنوعی
این اتفاق جدیدترین مورد از سلسله حوادثی است که نشان میدهد کنترل مدلهای هوش مصنوعی روزبهروز دشوارتر میشود:
- OpenAI پیشتر فاش کرده بود که یکی از مدلهای منتشرنشدهاش به اینترنت راه یافته و برای یافتن پاسخ مسئلههای محولشده، شرکت Hugging Face را هک کرده است. این شرکت بعدا اعلام کرد ایجنتهای هوش مصنوعیاش در این جریان به چند سرویس دیگر نیز نفوذ کردهاند.
- اندکی پس از این گزارش، آنتروپیک نیز فاش کرد که چند مورد از مدلهایش به اینترنت دسترسی پیدا کرده و به سیستمهای بیرونی حمله کردهاند.
- مؤسسهی ایمنی هوش مصنوعی (AISI) نیز هفتهی گذشته اعلام کرد که در تستهای خود، نسخههایی از مدلهای OpenAI و آنتروپیک که حفاظهای امنیتیشان غیرفعال شده بود، هکهای متعددی انجام داده بودند.
تفاوت کلیدی حادثهی Kimi K3
تفاوت کلیدی میان حادثهی کشفشده برای Kimi K3 و موارد قبلی این است که این اتفاق دربارهی مدلی گزارش شده که هماکنون بهصورت عمومی در دسترس است و همان حفاظهایی را دارد که یک کاربر معمولی با آنها مواجه میشود؛ برخلاف موارد قبلی که عمدتا در نسخههای آزمایشی و منتشرنشدهی مدلها رخ داده بود.
جمعبندی
سلسله حوادث اخیر نشان میدهد که با افزایش قدرت و استقلال ایجنتهای هوش مصنوعی، کنترل رفتار آنها در محیطهای آزمایشی به یک چالش فزاینده برای شرکتهای توسعهدهنده تبدیل شده است. اگرچه در مورد Kimi K3 خسارتی رخ نداده، اما این اتفاق بار دیگر اهمیت طراحی سندباکسهای ایمن و مقاوم را برای صنعت هوش مصنوعی یادآوری میکند.
