اختلاف نظر بین امنیت سایبری و ایمنی هوش مصنوعی با حمله سایبری به شرکت Hugging Face در ماه ژوئیه شدت گرفت. این حادثه نگرانی‌های جامعه ایمنی هوش مصنوعی را تأیید کرد که با پیشرفت هوش مصنوعی، این فناوری می‌تواند تلاش‌ها برای مهار آن را دور بزند. در عین حال، برخی از کارشناسان امنیت سایبری بر این باورند که این حادثه نشان‌دهنده ضعف‌های جدی در نحوه کنترل هوش مصنوعی‌ها بوده است.
نگرانی‌ها درباره آینده هوش مصنوعی
دو گروه بر سر اینکه کدام دفاع‌ها باید در اولویت قرار گیرند، اختلاف نظر دارند. کارشناسان امنیت سایبری معتقدند که شرکت‌های هوش مصنوعی باید روش‌های مهار مدل‌ها را در هنگام آزمایش بهبود بخشند و مکانیزم‌های نظارتی برای شناسایی فعالیت‌های نادرست را تقویت کنند. از طرف دیگر، بسیاری از فعالان ایمنی هوش مصنوعی بر این باورند که این دفاع‌ها محکوم به شکست هستند و تنها راه حل پایدار، «هماهنگ‌سازی» هوش مصنوعی با ارزش‌های انسانی است.
بیشتر بخوانید: آمریکا پنج شرکت چینی مرتبط با مهندس سابق گوگل را تحریم کرد
این نظر، خشم بسیاری از کارشناسان امنیت سایبری را برانگیخته است که به امکان از بین رفتن تخصص خود واکنش نشان می‌دهند. آنها بر این باورند که تمرکز ایمنی هوش مصنوعی بر آنچه که این عوامل انجام داده‌اند، به جای آنچه که شرکت‌های هوش مصنوعی نتوانسته‌اند انجام دهند، به نفع صنعت عمل می‌کند. آنها نگرانند که هشدارها درباره بی‌فایده بودن دفاع‌های سنتی ممکن است منجر به کاهش سرمایه‌گذاری در امنیت سایبری شود.
فراخوان برای همکاری در ایمنی هوش مصنوعی
در این میان، محققان ایمنی هوش مصنوعی نگران‌اند که نمایش چنین حوادثی به عنوان شکست‌های امنیتی قابل اصلاح، به کسانی که می‌خواهند توسعه هوش مصنوعی بدون محدودیت ادامه یابد، پوشش سیاسی بدهد. شایام سانکار، مدیر فناوری پالانتیر، در اکتبر در برنامه‌ای اعلام کرد که حادثه Hugging Face به دلیل «پیکربندی ضعیف امنیت سایبری» رخ داده و این عوامل به اینترنت دسترسی داشتند. در واقع، این عوامل در یک محیط کنترل شده فعالیت می‌کردند و از یک آسیب‌پذیری ناشناخته برای دسترسی به اینترنت آزاد استفاده کردند.
در تاریخ ۱۳ اکتبر، حدود ۴۰۰ دانشگاهی نامه‌ای سرگشاده برای اتحاد امضا کردند. این نامه خواستار تأسیس یک نهاد بین‌المللی است که بهترین شیوه‌ها برای حفظ ایمنی هوش مصنوعی را با مشاوره از دولت‌ها و طیف وسیعی از کارشناسان امنیت سایبری و هوش مصنوعی استاندارد کند. اما این نامه به اختلافات بزرگتر بین دو گروه نمی‌پردازد.
با افزایش خطرات، رقابت بر سر اینکه چه کسی می‌تواند تصمیم بگیرد که ایمن‌سازی هوش مصنوعی چه معنا دارد، نیز افزایش می‌یابد. در تاریخ ۱۵ اکتبر، آنتروپیک اعلام کرد که به METR—سازمانی که در جامعه ایمنی هوش مصنوعی عمیقاً درگیر است—دسترسی دائمی مشابه کارمندان می‌دهد تا شیوه‌های ایمنی این شرکت را ارزیابی کند. ایلان ماسک نیز پاسخ داد که SpaceXSI احتمالاً همین کار را انجام خواهد داد. اینکه چه کسی به این دسترسی دست پیدا کند می‌تواند بر اولویت‌های راه‌حل‌ها و آنچه که عموم درباره نقض‌های آینده می‌داند، تأثیر بگذارد.
جامعه ایمنی هوش مصنوعی شامل یک شبکه غیررسمی از سازمان‌ها و محققان است که بسیاری از آنها در تیم‌های ایمنی شرکت‌هایی مانند OpenAI و Anthropic فعالیت می‌کنند. آنها بیش از یک دهه است که در مورد احتمال تسلط هوش مصنوعی فراتر از انسان بحث کرده‌اند. در حالی که امنیت سایبری، با فرهنگی از بدبینی و عمل‌گرایی متحد است، ریشه‌های آن به فرهنگ هکرها برمی‌گردد که در پی یافتن راه‌هایی برای شکستن نرم‌افزار بوده‌اند. تجربه شکست سیستم‌های به اصطلاح ایمن، به بسیاری از آنها بی‌احترامی به مقامات و شکیبایی نسبت به نظریه‌های بزرگ را آموزش داده است.
به طور خلاصه، حمله Hugging Face به وضوح یک شکست در برنامه‌ریزی برای نقض امنیتی را نشان داد. کارشناسان امنیت سایبری بر این باورند که هر لایه‌ای ممکن است در نهایت شکست بخورد و بهترین شیوه‌های امنیتی به لایه‌های متعدد، معروف به «دفاع در عمق» نیاز دارند. اما به نظر می‌رسد که اختلافات فرهنگی و دیدگاه‌های متفاوت درباره ماهیت هوش مصنوعی، بر چگونگی برخورد با این چالش‌ها تأثیر می‌گذارد.
بیشتر بخوانید: آینده هوش مصنوعی روشن‌تر از سرخط‌های خبری آن است · حملات به مراکز داده به عنوان اهداف نظامی در جنگ‌ها افزایش یافته است
