لم تعد مسألة الذكاء الاصطناعي مجرد خيال، إذ أن العلماء المعاصرون البارزون والمهندسون حاليأ يشعرون بالقلق من أن الذكاء الاصطناعي الفائق قد يتفوق على الذكاء البشري في المستقبل القريب، وهذا بلا شك سيكون أسوأ خطأ في تاريخ البشرية.
تشير التوجهات الحالية إلى أننا بدأنا الدخول في سباق تسلح دولي لمثل هذه التكنولوجيا. ومما لا شك فيه أن الذكاء الاصطناعي يشكل قلقا كبيرا بالنسبة لأولئك الذين يرغبون بإيقاف حدث كهذا ويبقى سؤالهم هو: كيف نعيق سباق تسلح من هذا النوع؟ أو على الأقل كيف نحفز الأطراف المتنافسة على عدم الاستعجال في الإنجاز؟
أشار الفيلسوف نيك بوستروم إلى أن الذكاء الاصطناعي الفائق يثير تحديين أساسيين لمخترعيه، التحدي الأول مسألة التحكم والتي تعنى بكيفية التأكد من أن الذكاء الاصطناعي الفائق يمتلك نفس الأهداف التي تمتلكها البشرية، لأنه دون ذلك يمكن أن يدمر الذكاء الاصطناعي البشرية عمدًا أو عن غير قصد أو نتيجة الإهمال.
التحدي الثاني: مسألة سياسية وهي كيف نضمن ألّا تنحصر فوائد هذا الذكاء الفائق في نخبة مجتمعية صغيرة فقط، مسببةً تفاوتًا هائلًا في المكانة الاجتماعية والثروة.
ولكن بكل الأحوال كيف يمكن للحكومات التعامل مع الذكاء الاصطناعي؟ تشير عمليات الشراء العامة "الحكومية" إلى جميع الأشياء التي تدفع الحكومات مالًا للشركات الخاصة مقابل توفيرها، بدءًا من البرمجيات المستخدمة في الوكالات الحكومية وصولًا إلى العقود التي تستخدم في إدارة الخدمات. يمكن للحكومات أن تفرض قيودًا على أي مورد للذكاء الاصطناعي الفائق تضطرهم إلى معالجة المشكلات المحتملة، ودعم التقنيات المكملة لتحسين الذكاء البشري وتحقيق التكامل بينه وبين الذكاء الاصطناعي.
كما قد تقبل الحكومات شراء ثاني أفضل إصدار من الذكاء الاصطناعي الفائق محدثةً بذلك وبشكل فعال جائزة للمستوى الثاني، في سباق التسلح، ليوقف هذا مبدأ "الرابح يأخذ كل شيء" في هذه المنافسة.
بالطبع يتوقف الأمر على كون الذكاء الاصطناعي الفائق يشكل تهديدًا للبشرية، إلا أن بعض العلماء لا يعتقدون بأن هذا سيحدث، ومع الوقت من الممكن اعتماد الهندسة التي تبعدنا عن مخاطر الذكاء الاصطناعي الفائق، ويعتقد البعض أن البشر قد يندمجون معه.
