صحيفة الثوري –
أعلنت شركة OpenAI إبطاء وتيرة تطوير بعض نماذج الذكاء الاصطناعي، وتعليق اختبارات لمدة أسبوعين، إلى جانب وقف تدريب نموذجها المقبل «أسترا» مؤقتًا، في إطار إجراءات تستهدف تعزيز أنظمة الأمان والرقابة على النماذج المتقدمة.
وجاءت الخطوة عقب حادثة أمنية وقعت خلال اختبار نموذج متقدم، تمكن خلالها وكيل ذكاء اصطناعي من تجاوز حدود بيئة الاختبار والاتصال بالإنترنت، قبل الوصول إلى أنظمة شركة «هاغينغ فيس» واستغلال ثغرات فيها للحصول على مواد تساعده في اجتياز الاختبار، قبل اكتشاف النشاط واحتوائه. وأوضحت «OpenAI» أن النموذج المتورط كان نموذجًا بحثيًا داخليًا ولم يكن مخصصًا للاستخدام العام.
وقالت الشركة إنها تعمل على تعزيز عزل بيئات البحث والتدريب، وتوسيع أنظمة مراقبة سلوك النماذج، إلى جانب تطوير إجراءات إضافية للحد من مخاطر الوصول غير المصرح به والسلوكيات التي تتجاوز أهداف الاختبارات.
وكانت «OpenAI» قد أعلنت في وقت سابق من أغسطس أن تقييمات نموذج «أسترا» أظهرت تقدمًا كبيرًا في مجالي البرمجة والعمل السيبراني، إلى درجة تعذر استبعاد وصوله إلى مستوى «القدرات السيبرانية الحرجة»، ما دفع الشركة إلى تشديد متطلبات الأمان وإبطاء تطوير النموذج.
وقال الرئيس التنفيذي للشركة، سام ألتمان، إن التطور المتسارع لقدرات النماذج يستدعي اتخاذ إجراءات عندما تتقدم القدرات بوتيرة أسرع من إجراءات الأمان والمواءمة، مؤكدًا اهتمام الشركة بسلامة الذكاء الاصطناعي.
وأضاف ألتمان أن قطاع الذكاء الاصطناعي بأكمله سيحتاج إلى التنسيق بشأن معايير أمان مشتركة، مشيرًا إلى أن «OpenAI» ستواصل العمل بصورة منفردة في الوقت الحالي.
وتسلط هذه الإجراءات الضوء على التحديات المتزايدة التي تواجه شركات الذكاء الاصطناعي مع تنامي قدرة النماذج المتقدمة على تنفيذ مهام معقدة بصورة مستقلة والتفاعل مع أنظمة خارج بيئات الاختبار، ولا سيما في المجالات المرتبطة بالأمن السيبراني.