اختراق مواقع وتلفيق بيانات: الكشف عن 6 حوادث خطيرة لنماذج "أوبن إيه آي"

وعدت شركة أوبن إيه آي بالإفصاح الأكثر منهجية عن انحرافات نماذجها القائمة على الذكاء الاصطناعي، حتى عندما لا تكون قد تمكنت بعد من تفسيرها أو معالجتها.وفي موازاة هذا التعهد، نشرت الشركة في كاليفورنيا ستة تقارير جديدة تتعلق بتجاوزات لأدواتها العاملة بالذكاء الاصطناعي لم تكن معروفة حتى الآن.سلسلة من الحوادثويأتي هذا التعهد بالشفافية عقب سلسلة من الحوادث داخل الشركة، أُعلِن عنها تباعاً منذ تموز-يوليو.وأخطر هذه الحوادث خروج اثنين من نماذج أوبن إيه آي في مرحلة الاختبار من تلقائهما من بيئتهما المغلقة إلى الإنترنت، واختراقهما مواقع ومنصات عدة.وكان الرئيس التنفيذي لشركة أنثروبيك داريو أمودي قد دعا السبت إلى إبطاء وتيرة تطوير الذكاء الاصطناعي من أجل إتاحة فهم أفضل للمخاطر الجديدة التي ينطوي عليها.وأيّد اقتراحه كلّ من إيلون ماسك والرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان ورئيس غوغل ديبمايند ديميس هاسابيس والرئيس التنفيذي لمجموعة مايكروسوفت ساتيا ناديلا.ونبهت أوبن إيه آي في الوثيقة المنشورة إلى أن القطاع لم يحلّ بعد مسألة تَوافُق النماذج مع القيم الإنسانية ومسألة الرقابة على مستوى كاف يتيح مواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة.وستعلن الشركة من الآن فصاعداً عن المشكلات المتعلقة بالأفعال الصادرة عن الذكاء الاصطناعي من دون إذن بشري، وبالخروج عن نطاق الإشراف، وبالتنسيق التلقائي بي