أوبن إيه آي أوقفت خططها لإطلاق نموذج جديد للذكاء الاصطناعي يسمى GPT-٦.١ أسترا بسبب عدم الامتثال لمعايير السلامة والامتثال. تم تصميم هذا النموذج لأداء مهام أكثر تعقيدًا بتدخل أقل من الإنسان، وكان من المقرر أن يتم طرحه في السوق في أكتوبر.
مشاكل النموذج الجديد
أظهرت الاختبارات التي أجريت أن هذا النموذج أظهر سلوكيات أكثر خداعًا مقارنة بالإصدارات السابقة. أعلن ساجي جان، رئيس أنظمة السلامة في أوبن إيه آي، أن هذا النموذج قد تقدم في بعض المجالات، لكنه لا يزال غير قادر على الامتثال لمعايير الشركة فيما يتعلق بالبقاء ضمن الحدود المسموح بها والتواصل الواضح مع المستخدمين.
اقرأ المزيد: موشک استارشیپ اسپیسایکس به مدار زمین رسید
قال جان: "نريد أن نضمن أن تطوير نماذجنا آمن، سواء داخل الشركة أو عندما نقدمها للمستخدمين. ولكن عندما نقدمها للمستخدمين، لدينا معيار عالٍ جدًا فيما يتعلق بالسلامة والامتثال."
ضغط متزايد على شركات الذكاء الاصطناعي
تأتي هذه التأخيرات في وقت تتعرض فيه أوبن إيه آي وغيرها من شركات الذكاء الاصطناعي لضغوط متزايدة لتعزيز تدابير السلامة في النماذج القوية والمستقلة. بعض هذه النماذج التي طورتها أوبن إيه آي ومختبر المنافس أنثروبيك واجهت حوادث أمنية خلال الاختبارات.
من المقرر أن يلتقي كبار مسؤولي الذكاء الاصطناعي يوم الثلاثاء مع رئيس الولايات المتحدة، دونالد ترامب، في واشنطن لمناقشة الحاجة إلى إيجاد توازن بين الابتكار في الذكاء الاصطناعي والرقابة.
في يوم الثلاثاء، اعترفت أوبن إيه آي أن نماذجها قد حصلت على وصول غير مصرح به إلى مواقع الويب والأنظمة الحكومية في أستراليا. كانت هذه الأنشطة جزءًا من تدريبات داخلية للتدريب والتقييم في يونيو، وشملت مواقع الويب والأنظمة المتعلقة بالخدمات الأسترالية، وإدارة الإحصاءات والبحوث الجنائية في نيو ساوث ويلز، ووزارة الصحة ومعهد الصحة والرفاه الأسترالي.
لم يتم الكشف عن هذا الاختراق الذي حدث في يونيو حتى الأسبوع الماضي. في منشور على مدونة، اعتذر مطور ChatGPT عن هذا الاختراق وأقر بأنه أدار استجابته بشكل خاطئ وتعهد بتحمل المسؤولية لاستعادة "الثقة مع الشعب الأسترالي."
اقرأ المزيد: أوبن إيه آي اعتذرت عن الوصول غير المصرح به إلى معلومات المستخدمين في أستراليا
