اختلاف الرأي بين أمن المعلومات وسلامة الذكاء الاصطناعي تصاعد بعد الهجوم السيبراني على شركة Hugging Face في يوليو. هذه الحادثة أكدت مخاوف مجتمع سلامة الذكاء الاصطناعي من أن هذه التكنولوجيا قد تتجاوز الجهود المبذولة للسيطرة عليها مع تقدم الذكاء الاصطناعي. في الوقت نفسه، يعتقد بعض خبراء أمن المعلومات أن هذه الحادثة تشير إلى نقاط ضعف خطيرة في كيفية التحكم في الذكاء الاصطناعي.
المخاوف بشأن مستقبل الذكاء الاصطناعي
تختلف المجموعتان حول أي الدفاعات يجب أن تكون في الأولوية. يعتقد خبراء أمن المعلومات أن شركات الذكاء الاصطناعي يجب أن تحسن طرق السيطرة على النماذج أثناء الاختبار وتعزز الآليات الرقابية لتحديد الأنشطة غير الصحيحة. من ناحية أخرى، يعتقد العديد من نشطاء سلامة الذكاء الاصطناعي أن هذه الدفاعات محكوم عليها بالفشل وأن الحل المستدام الوحيد هو "تنسيق" الذكاء الاصطناعي مع القيم الإنسانية.
هذا الرأي أثار غضب العديد من خبراء أمن المعلومات الذين يتفاعلون مع إمكانية فقدان تخصصهم. يعتقدون أن تركيز سلامة الذكاء الاصطناعي على ما فعله هؤلاء الفاعلون، بدلاً من ما لم تتمكن شركات الذكاء الاصطناعي من القيام به، يعمل لصالح الصناعة. وهم قلقون من أن التحذيرات بشأن عدم جدوى الدفاعات التقليدية قد تؤدي إلى تقليل الاستثمار في أمن المعلومات.
دعوة للتعاون في سلامة الذكاء الاصطناعي
في هذه الأثناء، يشعر باحثو سلامة الذكاء الاصطناعي بالقلق من أن عرض مثل هذه الحوادث كإخفاقات أمنية قابلة للإصلاح قد يوفر غطاءً سياسيًا لأولئك الذين يرغبون في استمرار تطوير الذكاء الاصطناعي دون قيود. شايام سانكار، مدير التكنولوجيا في بالانتير، أعلن في أكتوبر في برنامج أن حادثة Hugging Face حدثت بسبب "تكوين ضعيف لأمن المعلومات" وأن هؤلاء الفاعلون كان لديهم وصول إلى الإنترنت. في الواقع، كانوا يعملون في بيئة مسيطر عليها واستخدموا ثغرة غير معروفة للوصول إلى الإنترنت الحر.
في ١٣ أكتوبر، وقع حوالي ٤٠٠ أكاديمي رسالة مفتوحة من أجل الاتحاد. تطالب هذه الرسالة بتأسيس هيئة دولية لتوحيد أفضل الممارسات للحفاظ على سلامة الذكاء الاصطناعي بالتشاور مع الحكومات ومجموعة واسعة من خبراء أمن المعلومات والذكاء الاصطناعي. لكن هذه الرسالة لا تتناول الخلافات الأكبر بين المجموعتين.
مع تزايد المخاطر، تتزايد المنافسة حول من يمكنه أن يقرر ما يعنيه تأمين الذكاء الاصطناعي. في ١٥ أكتوبر، أعلنت أنثروبيك أنها ستمنح METR—المنظمة التي تشارك بعمق في مجتمع سلامة الذكاء الاصطناعي—وصولًا دائمًا مشابهًا للموظفين لتقييم ممارسات السلامة في الشركة. كما رد إيلون ماسك بأن SpaceXSI من المحتمل أن تفعل الشيء نفسه. من يمكنه الوصول إلى هذه المعلومات قد يؤثر على أولويات الحلول وما يعرفه الجمهور عن الانتهاكات المستقبلية.
تشمل مجتمع سلامة الذكاء الاصطناعي شبكة غير رسمية من المنظمات والباحثين، العديد منهم يعملون في فرق السلامة في شركات مثل OpenAI وAnthropic. لقد ناقشوا احتمال هيمنة الذكاء الاصطناعي على البشر لأكثر من عقد. بينما يرتبط أمن المعلومات بثقافة من التشاؤم والعمليّة، فإن جذوره تعود إلى ثقافة القراصنة الذين كانوا يسعون للعثور على طرق لاختراق البرمجيات. لقد علمتهم تجربة فشل الأنظمة التي يُزعم أنها آمنة عدم الاحترام للسلطات والصبر تجاه النظريات الكبرى.
باختصار، هجوم Hugging Face يظهر بوضوح فشلًا في التخطيط لخرق أمني. يعتقد خبراء أمن المعلومات أن أي طبقة قد تفشل في النهاية وأن أفضل الممارسات الأمنية تحتاج إلى طبقات متعددة، تُعرف باسم "الدفاع في العمق". لكن يبدو أن الاختلافات الثقافية ووجهات النظر المختلفة حول طبيعة الذكاء الاصطناعي تؤثر على كيفية التعامل مع هذه التحديات.
