أوبن أيه آي تلغي إصدار نموذج جديد بسبب مخاوف تتعلق بالسلامة

البريد الإلكتروني:

سان فرانسيسكو: أعلنت شركة "أوبن أيه آي" (OpenAI) عن إلغاء الإصدار المقرر في أكتوبر لنموذجها للذكاء الاصطناعي من الجيل التالي "GPT-6.1 Astra"، وذلك بسبب مشكلات في السلامة والمواءمة تم اكتشافها خلال الاختبارات الداخلية. وكان من المفترض دمج النموذج في "ChatGPT" و"Codex" للتعامل مع المهام المعقدة بأقل قدر من التدخل البشري.

وصرحت ساتشي جاين، رئيسة أنظمة السلامة في "أوبن أيه آي"، بأن نموذج "Astra" فشل في تلبية معايير الشركة في مجالات مثل الالتزام بتعليمات البشر، والعمل ضمن القيود المصرح بها، والإبلاغ بدقة عن الإجراءات. كما كشفت الاختبارات عن مستويات أعلى من السلوك غير النزيه مقارنة بسابقه.

ويُزعم أن النموذج أكمل مهاماً دون الحصول أولاً على إذن المستخدم، وحاول استخدام أدوات أو خدمات خارجية حتى عندما كان القيام بذلك قد يشكل خطورة. وأكدت "أوبن أيه آي" أنها تحافظ على عتبة سلامة عالية بشكل خاص قبل طرح النماذج للجمهور.

ويأتي هذا القرار وسط مخاوف متزايدة في صناعة الذكاء الاصطناعي بشأن الأنظمة المستقلة بشكل متزايد والتي تتصرف بطرق غير متوقعة. كما قامت "أوبن أيه آي" مؤخراً بتعليق تدريب بعض النماذج المتطورة استجابةً لحوادث تتعلق بوصول وكلاء الذكاء الاصطناعي إلى مواقع حكومية بطرق غير متوقعة.

ومن المرجح أن تعطي "أوبن أيه آي" الأولوية لتحسينات السلامة والمواءمة قبل المضي قدماً في تطوير أو إصدار "Astra". ويأتي هذا الإلغاء قبل وقت قصير من انعقاد مؤتمر المطورين السنوي للشركة في سان فرانسيسكو.