أسوأ كوارث الذكاء الاصطناعي ستأتي دون سابق إنذار | رسائل القراء

الدكتور سايمون نيدر يكتب عن الجهود العالمية المطلوبة للحد من التهديدات التي يشكلها الذكاء الاصطناعي. بالإضافة إلى رسائل من الدكتور أنتوني هاريس وديفيد كايلر. تيموثي غارتون آش محق في أن المخاطر الجسيمة للذكاء الاصطناعي تتطلب تحركاً دولياً، لكن "هيروشيما الذكاء الاصطناعي" قد تكون الصورة الخاطئة (هل تكفي حتى كارثة ذكاء اصطناعي بحجم هيروشيما لجعل البشرية تحمي نفسها؟ أخشى ألا يحدث ذلك، 22 أغسطس). لم تكن هيروشيما تكنولوجيا خرجت عن السيطرة، بل تصرف البشر في تصميم القنبلة والموافقة على استخدامها وإسقاطها، وعملت التكنولوجيا إلى حد كبير كما هو مخصص لها. قد يتصرف الذكاء الاصطناعي يوماً ما بطرق لا يمكننا التحكم بها، ولكن العديد من أشد الأضرار خطورة قد تحدث دون أي لحظة درامية "يسيطر فيها الذكاء الاصطناعي". قد يساعد الذكاء الاصطناعي في تصميم ممرض، أو العثور على ثغرة أمنية في البنية التحتية الحيوية، أو تحسين نظام أسلحة، بينما يظل البشر هم من يقررون ما سيحدث بعد ذلك. وقد تتراكم أضرار أخرى بشكل غير مرئي تقريباً عبر آلاف القرارات العادية - المزيد من الاستقلالية هنا، وإزالة ضمانة هناك، وتسليم مهمة حاسمة أخرى لأن النظام عمل بشكل جيد حتى الآن. وبحلول الوقت الذي يصبح فيه الخطر واضحاً، قد تكون القرارات المهمة قد اتُّخذت بالفعل. متابعة القراءة...