واشنطن – سدن
هناك أخطاء يمكن إصلاحها بزر (تراجع)، وأخطاء تحتاج إلى اعتذار، وأخطاء أخرى لا تمنح صاحبها فرصة ثانية، وفي العالم الذي تدخل فيه أنظمة الذكاء الاصطناعي غرف العمليات العسكرية ومراكز الاستخبارات وصناعة القرار السياسي، يصبح الخطأ من النوع الثالث أكثر احتمالاً مما نحب الاعتراف به.
فقد كشفت صحيفة (لوموند) نقلاً عن تحقيق نشرته CNN، أن تقريراً استخبارياً استخدم الذكاء الاصطناعي قاد إلى تعريف سفينة صينية في محيط مضيق هرمز بصورة خاطئة على أنها تنقل مواد نووية، وبحسب الرواية المنشورة، لم يبق الأمر داخل شاشة محلل، بل بدأت الولايات المتحدة بالفعل الاستعداد لعملية اعتراض، وكانت طائرات قد تحركت، قبل أن يراجع مسؤولون عسكريون التقرير بتفصيل أكبر ويكتشفوا أن المعلومات التي استند إليها كانت مولدة بالذكاء الاصطناعي وأنها خاطئة بالكامل، إحدى المصادر التي نقلت عنها CNN وصفت ما حدث بأنه واقعة كادت تشعل حرباً.
إذا صحت التفاصيل كاملة، فنحن أمام واحدة من الحالات المبكرة التي توضح أن (هلوسة) الذكاء الاصطناعي لم تعد مشكلة طالب يضع مرجعاً غير موجود في بحث جامعي، فعندما تنتقل التقنية إلى الأمن القومي، تستطيع المعلومة المختلقة أن تتحول إلى طائرة تقلع، وسفينة تعترض، ودولة تتلقى إهانة عسكرية، ثم أزمة تحتاج إلى زعيمين عقلانيين لمنعها من الانفجار.
والمشكلة تبدأ من طبيعة النماذج نفسها، فالنموذج اللغوي لا يعرف الحقيقة بالطريقة التي يفهم بها الإنسان المعرفة، إنه يولد المخرج الأكثر احتمالاً وفق البيانات والسياق والتعليمات، وقد يكون الناتج مقنعاً، مرتباً، دقيق اللغة، ومخطئاً تماماً، وهذه الخاصية كانت معروفة منذ الموجة الأولى للنماذج التوليدية، لكن البشر يملكون ضعفاً مقابلاً، فنحن نميل إلى تصديق الشيء الذي يبدو واثقاً، وخصوصاً عندما يخرج من نظام يحمل هالة التقنية.
في العمل المكتبي، يمكن لموظف أن يراجع التقرير، وفي غرفة عمليات تتحرك فيها الأحداث بالدقائق، قد تتحول السرعة نفسها إلى عدو للمراجعة.
وهنا يظهر مفهوم يعرف في دراسات الأتمتة باسم (انحياز الأتمتة)، فعندما يقترح النظام إجابة، يميل الإنسان إلى التعامل معها بوصفها نقطة البداية الصحيحة، بدلاً من اعتبارها مجرد فرضية تحتاج إلى الإثبات، وكلما ارتفعت سمعة النظام ودقته السابقة، زاد الخطر، فالآلة التي تخطئ نصف الوقت لا يثق بها أحد، أما التي تصيب 99 مرة ثم تخطئ في المرة المئة، فقد يكون خطؤها أخطر لأن الجميع تعلموا الثقة بها.
لكن الأمر يزداد تعقيداً في الاستخبارات.. فالمعلومات هناك ناقصة بطبيعتها، كصور أقمار صناعية، واتصالات مبتورة، وتحركات سفن، وسجلات شحن، ومصادر بشرية، واحتمالات، وهذه بيئة مثالية للذكاء الاصطناعي من ناحية قدرته على معالجة كميات هائلة من البيانات، لكنها أيضاً بيئة مثالية للخطأ الذي يصعب اكتشافه.
فيمكن للنظام أن يرى نمطاً لا يراه الإنسان، ويمكنه أيضاً أن يرى نمطاً غير موجود، وهذا الفارق هو المسافة بين التحليل والكارثة.
ولهذا فإن السباق العسكري نحو الذكاء الاصطناعي يحتاج إلى مبدأ يبدو بديهياً لكنه قد يصبح صعباً عملياً، ان الآلة تستطيع أن تقترح، لكن الإنسان يجب أن يتحمل مسؤولية التصديق.
والمشكلة أن عبارة (الإنسان في الحلقة) لا تكفي، إذا كان الإنسان يستقبل كل يوم ألف تنبيه من النظام ويكتشف أن 999 منها صحيحة، فإن وجوده الشكلي لا يضمن أنه سيشك في التنبيه الألف، فالرقابة البشرية الحقيقية تحتاج إلى تصميم إجراءات تجبر المحلل على البحث عن دليل مستقل، لا مجرد الضغط على زر الموافقة.
والقضية تزداد خطورة حين تصل إلى السلاح النووي..
يأتي ذلك قبل لقاء مرتقب في واشنطن في 24 أيلول بين الرئيسان الأميركي والصيني، حيث أصبح الذكاء الاصطناعي واحداً من الملفات المحتملة للنقاش. وتقول (رويترز) إن العلاقات الأميركية الصينية تدخل اللقاء وهي مثقلة بالتجارة وتايوان وإيران والذكاء الاصطناعي، بينما تحدثت تقارير أميركية عن إمكانية العودة إلى تفاهمات تمنع إدخال AI في قرار استخدام السلاح النووي.
وهذا قد يكون المجال الوحيد تقريباً الذي لا تحتاج فيه واشنطن وبكين إلى الثقة ببعضهما كي تتعاونا، يكفي أن تخافا من الشيء نفسه.
في أيام الحرب الباردة لم تصبح الولايات المتحدة والاتحاد السوفيتي صديقين كي ينشئا خطوطاً ساخنة واتفاقات لمنع سوء الحساب، فقد أدرك الطرفان ببساطة أن خطأً نووياً لا يسمح للمنتصر بالاحتفال طويلاً، والذكاء الاصطناعي يحتاج إلى ثقافة مشابهة قبل أن تحدث الكارثة التي تجبر العالم عليها.
المفارقة أن البشر صنعوا AI جزئياً لتقليل أخطائهم، لكن النظام الجديد يضيف فئة مختلفة من الأخطاء، فخطأ سريع واسع ومقنع، قادر على الانتقال بين الأنظمة قبل أن يسأل أحد من أين جاءت المعلومة أصلاً، وقصة السفينة الصينية، إذا تأكدت تفاصيل الواقعة كما نشرت، لم تكن تحمل المادة النووية التي نسبها إليها التقرير، لكنها حملت درساً أثقل بكثير، مفاده ان في عصر الذكاء الاصطناعي قد تبدأ الحرب المقبلة لا لأن زعيماً أرادها، بل لأن آلة قالت شيئاً غير صحيح، وإنساناً مستعجلاً صدقها.
ولهذا يجب أن تكون قاعدة الأمن الجديدة واضحة، فكلما كانت نتيجة القرار غير قابلة للتراجع، وجب أن تقل سلطة الخوارزمية عليه، فالسرعة ميزة في كتابة البريد وفي تحليل الأسواق، لكنها ليست فضيلة مطلقة عندما تكون الطائرات قد بدأت بالإقلاع.