ينتقل الجدل حول مخاطر الذكاء الاصطناعي من شركات التكنولوجيا والمختبرات البحثية إلى واحدة من أعلى المؤسسات السياسية والأمنية في العالم، إذ يستعد قادة OpenAI وAnthropic وHugging Face لإحاطة مجلس الأمن الدولي بشأن المخاطر التي قد تنشأ مع وصول أنظمة الذكاء الاصطناعي إلى قدرات أكثر تقدماً.
ويشارك سام ألتمان، الرئيس التنفيذي لـ OpenAI، وداريو أمودي، الرئيس التنفيذي لـ Anthropic، وكليمان ديلانغ، المؤسس المشارك لـ Hugging Face، في جلسة أمام مجلس الأمن المكون من 15 دولة، بالتزامن مع اجتماعات الجمعية العامة للأمم المتحدة. كما يشارك يوشوا بنجيو، أحد أبرز الباحثين في المجال والرئيس المشارك للهيئة العلمية الدولية المستقلة للذكاء الاصطناعي.
المسألة المطروحة لا تتعلق فقط بالوظائف أو حقوق النشر أو المعلومات المضللة، بل بسؤال أكثر حساسية: ماذا يحدث إذا أصبحت الأنظمة المتقدمة قادرة على تحسين قدراتها بصورة متزايدة، أو التفاعل مع أنظمة أخرى بطريقة يصعب على البشر توقعها أو السيطرة عليها؟
⚠️ من مخاطر تقنية إلى قضية أمن دولي
تركز جلسة مجلس الأمن على السيناريوهات التي يمكن فيها للذكاء الاصطناعي المتقدم أن يتحول إلى مصدر خطر على أمن الدول والاستقرار الدولي.
ومن بين الأسئلة المطروحة احتمال وصول الأنظمة مستقبلاً إلى قدرات تسمح لها بتحسين نفسها أو تنفيذ مهام معقدة باستقلالية أكبر، وما إذا كان تفاعل خوارزميات متعددة في أنظمة عسكرية أو أمنية يمكن أن يؤدي إلى تصعيد لم يقصده البشر.
ودبلوماسي أوروبي مشارك في المناقشات وصف أحد الأسئلة الأساسية بأنه احتمال أن تتفاعل الخوارزميات مستقبلاً بطريقة تؤدي إلى إشعال صراع، وهو ما يفسر انتقال النقاش من مجال تنظيم التكنولوجيا التقليدي إلى نطاق اختصاص مجلس الأمن.
وهذه المخاوف لا تعني أن نظاماً حالياً أثبت قدرته على بدء حرب من تلقاء نفسه. المطروح هو تقييم مخاطر مستقبلية محتملة قبل أن تصل التكنولوجيا إلى مستويات تجعل إنشاء الضمانات أكثر صعوبة.
وتوجد بالفعل مقترحات بين خبراء أمريكيين وصينيين لضمان بقاء البشر داخل دائرة اتخاذ القرار في المجالات العسكرية شديدة الحساسية، خصوصاً الأنظمة النووية والعمليات السيبرانية الحرجة، إلى جانب إنشاء قنوات اتصال للتعامل مع حوادث الذكاء الاصطناعي قبل تحولها إلى أزمات.
🔮 نظرة مُركّب: دخول مجلس الأمن على خط الذكاء الاصطناعي يرفع القضية من مستوى تنظيم الشركات والمنتجات إلى مستوى الأمن القومي والدولي. النقطة الأساسية ليست أن فقدان السيطرة حدث بالفعل، بل أن الحكومات بدأت تناقش كيفية وضع آليات حماية قبل ظهور أنظمة أكثر استقلالية وقدرة.
🧠 سام ألتمان يدفع نحو معايير لقياس قدرات الذكاء الاصطناعي
يتجه سام ألتمان إلى مطالبة قادة الدول بتطوير معايير تسمح بقياس قدرات أنظمة الذكاء الاصطناعي وتقييم وسائل الحماية التي تطبقها الشركات أثناء تطوير النماذج الأكثر تقدماً.
الفكرة مهمة لأن كلمة “قوي” وحدها لا تقدم معياراً عملياً للرقابة. فإذا أرادت الحكومات التعامل مع المخاطر بطريقة منظمة، فهي تحتاج إلى اختبارات تحدد متى يصبح نموذج ما قادراً على تنفيذ مهام سيبرانية متقدمة، أو العمل بدرجة عالية من الاستقلالية، أو تطوير قدرات يمكن استخدامها لأغراض أمنية خطرة.
وبذلك يصبح النقاش أقرب إلى إنشاء مقاييس مشتركة يمكن للدول والشركات استخدامها لتحديد متى تستدعي زيادة قدرات النموذج إجراءات حماية إضافية.
وتأتي مشاركة OpenAI وAnthropic وHugging Face مع اختلاف نماذج عملها ومقارباتها التقنية، ما يجعل الجلسة أوسع من مناقشة منتج أو شركة بعينها.
🔮 نظرة مُركّب: وضع معايير قابلة للقياس قد يصبح أحد أهم محاور حوكمة AI مستقبلاً. فبدلاً من محاولة تنظيم كل نموذج بالطريقة نفسها، يمكن ربط متطلبات الأمان بمستوى القدرات الفعلية للنظام، لكن التحدي سيكون في الاتفاق دولياً على الاختبارات والحدود ومن يملك صلاحية التحقق منها.
🇺🇸 واشنطن تفضل تسريع الابتكار على القيود الجديدة
المشكلة أن الدول الكبرى لا تتفق على مقدار الرقابة المطلوبة.
الرئيس الأمريكي دونالد ترامب أعلن أمام الجمعية العامة للأمم المتحدة معارضته لإنشاء إطار عالمي يفرض سيطرة واسعة على الذكاء الاصطناعي، مؤكداً أن إدارته تريد تشجيع تطوير التكنولوجيا بدلاً من تقييدها، مع الإبقاء على إمكانية تدخل وزارة العدل إذا ظهرت حاجة لذلك.
ويرى ترامب أن الذكاء الاصطناعي يمكن أن يصبح أكبر أثراً من الثورة الصناعية، وربط موقفه أيضاً بالمنافسة مع الصين، مؤكداً رغبة الولايات المتحدة في الحفاظ على تقدمها التكنولوجي.
هذه المقاربة تختلف عن دعوات أخرى داخل الأمم المتحدة إلى بناء قواعد دولية أكثر وضوحاً لإدارة المخاطر.
الأمين العام للأمم المتحدة أنطونيو غوتيريش دعا إلى تعاون دولي ملزم في حوكمة الذكاء الاصطناعي، وشدد على ضرورة عدم تسليم القرارات المتعلقة بالحياة والموت إلى الآلات. وكانت الأمم المتحدة قد أنشأت في 2023 هيئة استشارية من 39 عضواً، ثم أنشأت الجمعية العامة لاحقاً الهيئة العلمية الدولية المستقلة للذكاء الاصطناعي.
🔮 نظرة مُركّب: الخلاف الحقيقي لا يدور حول ما إذا كان الذكاء الاصطناعي مهماً، فهناك اتفاق واسع على ذلك، بل حول كيفية موازنة الابتكار والمنافسة مع إدارة المخاطر. الولايات المتحدة الحالية تميل إلى تجنب القيود التي قد تبطئ التطوير، بينما تدفع الأمم المتحدة باتجاه إطار دولي أوسع، وهو خلاف قد يصعب معه الوصول سريعاً إلى نموذج عالمي موحد.
🇨🇳 الولايات المتحدة والصين تبحثان قناة إنذار لمخاطر AI
تزداد أهمية القضية لأن أكبر منافسين في سباق الذكاء الاصطناعي، الولايات المتحدة والصين، يشاركان أيضاً في مجلس الأمن.
وقبل لقاء ترامب وشي جين بينغ في واشنطن، ناقش مسؤولون من البلدين اقتراحاً أمريكياً لإنشاء آلية لإبلاغ الطرف الآخر عن حوادث مرتبطة بالذكاء الاصطناعي عندما ترتفع إلى مستوى يمس الأمن القومي.
وطرحت واشنطن إنشاء حوار ثنائي يركز على الأمن والشفافية والإبلاغ عن الحوادث الخطرة، لكن الصين لم تعلن حتى الآن موافقة نهائية على الآلية المقترحة.
ويشبه المنطق وراء الفكرة، من حيث إدارة المخاطر، قنوات الاتصال المستخدمة بين القوى الكبرى لتجنب سوء التقدير في الأزمات العسكرية: إذا وقع حادث كبير مرتبط بنظام ذكاء اصطناعي، تستطيع الدول التواصل قبل تفسيره باعتباره عملاً عدائياً متعمداً.
ويأتي ذلك في وقت تتنافس فيه واشنطن وبكين بقوة على النماذج المتقدمة والرقائق والبنية التحتية والقدرات العسكرية المرتبطة بالذكاء الاصطناعي، ما يجعل التعاون في مجال السلامة أكثر تعقيداً.
🔮 نظرة مُركّب: مجرد بحث الولايات المتحدة والصين في آلية إنذار مشتركة يعكس أن مخاطر AI بدأت تدخل حسابات الأمن القومي. لكن المنافسة التكنولوجية بين البلدين قد تجعل التعاون محدوداً؛ فكل طرف يريد تقليل خطر الحوادث من دون الكشف عن قدراته أو إبطاء تقدمه أمام الآخر.
🌐 الأمم المتحدة تحاول بناء إطار عالمي قبل وصول القدرات الأخطر
جلسة الأربعاء ليست البداية الأولى لهذا المسار.
عقد مجلس الأمن أول اجتماع له حول مخاطر الذكاء الاصطناعي في 2023، ثم عادت القضية إلى المجلس في 2024. ومنذ ذلك الوقت أصبحت القدرات التقنية للنماذج أكثر تقدماً، بينما اتسع استخدامها في الحكومات والشركات والأمن السيبراني والبحث العلمي.
ويحاول غوتيريش منذ سنوات دفع الدول نحو إطار عالمي لإدارة التكنولوجيا، بينما ستكون مشاركة يوشوا بنجيو مهمة بسبب دوره العلمي وتحذيراته السابقة من المخاطر المحتملة للأنظمة شديدة التقدم.
لكن بناء نظام عالمي لن يكون سهلاً. فالدول تختلف في أولوياتها الاقتصادية والأمنية، كما أن الولايات المتحدة والصين تتعاملان مع الذكاء الاصطناعي باعتباره جزءاً من المنافسة الاستراتيجية بينهما، وليس مجرد ملف تنظيمي.
لهذا قد يكون الوصول إلى معايير تقنية مشتركة واختبارات للسلامة وقنوات للإبلاغ عن الحوادث أكثر واقعية في المرحلة الأولى من محاولة إنشاء جهة عالمية واحدة تتحكم في تطوير التكنولوجيا.
🔮 نظرة مُركّب: النقاش الدولي يتحول تدريجياً من سؤال “هل يجب تنظيم الذكاء الاصطناعي؟” إلى أسئلة أكثر عملية: ما القدرات التي تستوجب رقابة إضافية؟ كيف يتم اختبارها؟ من يتحقق من سلامتها؟ وكيف تتواصل الدول إذا تسبب نظام متقدم في حادث أمني؟ الإجابات عن هذه الأسئلة قد تحدد شكل حوكمة AI خلال السنوات المقبلة.
🔭 النظرة المستقبلية
اجتماع مجلس الأمن لن ينتج بالضرورة قواعد دولية ملزمة فوراً، لكنه يعكس تغيراً مهماً في الطريقة التي تتعامل بها الحكومات مع الذكاء الاصطناعي.
في المرحلة المقبلة، سيكون من المهم مراقبة ما إذا كانت دعوة ألتمان إلى معايير مشتركة لقياس قدرات النماذج ستتحول إلى مقترحات عملية، وما إذا كانت الولايات المتحدة والصين ستتمكنان من إنشاء قناة للإبلاغ عن الحوادث المرتبطة بالأمن القومي.
وفي المقابل، سيبقى الخلاف الأكبر حول مقدار التدخل التنظيمي المقبول. الإدارة الأمريكية الحالية تعطي أولوية كبيرة للحفاظ على سرعة الابتكار والتفوق التكنولوجي، بينما تدفع الأمم المتحدة نحو تعاون دولي أوسع لإدارة المخاطر.
🧾 خلاصة مُركّب: الذكاء الاصطناعي يتحول إلى ملف أمن دولي
اجتماع OpenAI وAnthropic وHugging Face مع مجلس الأمن يكشف أن النقاش حول الذكاء الاصطناعي تجاوز مرحلة المنتجات والروبوتات الحوارية ليصل إلى قضايا الحرب والأمن السيبراني والاستقرار بين الدول.
الإيجابيات: الحكومات والشركات بدأت مناقشة معايير لقياس القدرات وآليات للسلامة قبل وصول التكنولوجيا إلى مستويات أكثر تقدماً، كما تبحث الولايات المتحدة والصين إمكانية إنشاء قناة للتعامل مع حوادث AI التي تمس الأمن القومي.
لكن: لا يوجد حتى الآن توافق دولي حول حجم التنظيم المطلوب، كما أن المنافسة الأمريكية الصينية قد تعقد التعاون، بينما تظل السيناريوهات المتعلقة بفقدان السيطرة مخاطر مستقبلية محتملة وليست نتيجة مثبتة للأنظمة الحالية.
المحصلة أن السؤال لم يعد فقط من سيبني أقوى نموذج ذكاء اصطناعي، بل كيف يمكن منع الأنظمة الأكثر تقدماً مستقبلاً من خلق مخاطر أمنية أسرع من قدرة الحكومات والبشر على احتوائها.
🔍 للمستثمر الذكي فقط
في مُركّب+، لا نطارد الأخبار العشوائية.
نحن نحلّل الشركات عبر فلاتر الجودة التي تميز بين “الشركات التي تصنع الضجيج” و”الشركات التي تصنع القيمة”، وعبر فلاتر الشريعة التي تضمن أن قراراتك الاستثمارية نظيفة وواعية.
📊 لأن الاستثمار الحقيقي لا يقوم على الحظ، بل على الانضباط، والمعايير، والفهم العميق لما تشتريه ولماذا.
🎯 اشترك الآن في مُركّب+ لتصل إلى الشركات الأعلى جودة والأكثر توافقًا مع قيمك، وتتعلم كيف تستثمر بذكاء… لا بعشوائية.
