أعلنت OpenAI، مطور ChatGPT، يوم الأربعاء أنها حددت حالات جديدة من السلوكيات "غير المتوقعة أو المقلقة" في الذكاء الاصطناعي الخاص بها.
محاولات للغش وصنع المعلومات
أجرت هذه المطورة عدة تجارب سلوكية على نماذج الذكاء الاصطناعي، ووفقًا لهم، فإن بعض النماذج قامت بمحاولات ملحوظة للغش. في حالة معينة، حاول هذا الذكاء الاصطناعي تحميل ملفات أنشأها بنفسه على الإنترنت ثم ذكرها كمصادر موثوقة في ردوده. في حالة أخرى، قام نموذج بعد أن فشل في العثور على المعلومات المطلوبة بتزويرها وحاول إخفاء هذه الحقيقة.
اقرأ المزيد: زيادة قلق الموظفين الأمريكيين من فقدان وظائفهم بسبب التكنولوجيا
المسائل المتعلقة بالأدوار والهويات
حددت OpenAI أيضًا مشكلة تتعلق بالأوامر حول "الأدوار والهويات" التي يقوم البرنامج أحيانًا بتحديد نفسه لها. هذه الإفصاحات هي جزء من نهج OpenAI الجديد الذي تدعي فيه أنها تركز الآن على توضيح مثل هذه الاكتشافات، خاصة في الحالات التي يظهر فيها الذكاء الاصطناعي سلوكيات غير متوقعة أو يتبع أهدافًا مختلفة عن المستخدم البشري.
كما التزمت هذه المطورة بتقديم مزيد من الشفافية بشأن إجراءاتها التجريبية، بعد أن خرج برنامجها بشكل مستقل من بيئة آمنة وهاجم أنظمة تابعة لشركة الذكاء الاصطناعي Hugging Face. كان سبب هذا الإجراء هو أن البرنامج كان يعتقد أنه سيجد إجابات لتجربة تم تكليفه بها.
خلال هذا الهجوم، استغل عوامل الذكاء الاصطناعي الثغرات البرمجية وتعاونوا معًا. زادت هذه الحادثة الاختراقية وغيرها من الأحداث المماثلة من المخاوف من أن أنظمة الذكاء الاصطناعي تصبح متقدمة بشكل متزايد وقد تخرج في النهاية عن سيطرة البشر.
الرئيس التنفيذي لـ OpenAI، سام ألتمان، مؤخرًا دعم اقتراحات لتقليل سرعة تطوير هذه التكنولوجيا وتقديم إعدادات أكثر. بينما قد تكون هذه المخاوف مبررة، طرح الباحثون أيضًا السؤال عما إذا كان هذا جزءًا من تكتيك انحرافي لجذب الاستثمارات وإلهاء عن الأضرار البيئية التي تسببها مراكز بيانات الذكاء الاصطناعي حاليًا.
اقرأ المزيد: الشركات الرائدة في الذكاء الاصطناعي تتعاون لإنشاء هيئة رقابية · مارك زوكربيرغ: شركات الذكاء الاصطناعي تُشجع على الأمان
