"الآلة مهما كانت ذكيّة، تبقى آلة وحسب": أندريا تورنيلّي
كتب أندريا تورنيلّي، مدير تحرير دائرة الاتّصالات الفاتيكانيّة أنْ في العام ١٩٨٣ أقدم رجل واحد على إنقاذ العالم من حرب نوويّة كان سيتسبّب فيها خطأٌ آليّ. قبل أن يتناول هذا الموضوع بالتفاصيل، توقّف المسؤول الفاتيكانيّ عند رسالة البابا فرنسيس لمناسبة اليوم العالميّ للسلام ٢٠٢٤ التي كتب فيها: "لا يمكن لأنظمة الأسلحة المستقلّة أن تكون أبدًا أشخاصًا مسؤولين أخلاقيًّا: لأنّ القدرة البشريّة الحصريّة على الحكم الأخلاقيّ وعلى اتّخاذ القرار الأخلاقيّ هي أكثر من مجرّد مجموعة معقّدة من الخوارزميّات، ولا يمكن اختزال هذه القدرة إلى برمجة آلة ما، تبقى آلة، على الرغم من كونها "ذكيّة". ولهذا السبب، من الضروريّ أن نضمن رقابة بشريّة ملائمة ومعنويّة ومتماسكة لأنظمة الأسلحة".
أضاف تورنيلّي أنّ: "ثمة واقعة حصلت لأربعين سنة خلت، لا بدّ من أن تتحوّل إلى نموذج بالنسبة إلينا عندما يدور الحديث عن الذكاء الاصطناعيّ المطبّق في مجال الحروب والأسلحة وأدوات الموت. إنّها قصّة ضابط سوفييتيّ اتّخذ قرارًا مخالفًا البروتوكولات المتّبعة وأنقذ العالم من صراع نوويّ كانت ستترتّب عليه نتائج كارثيّة. دُعي ذلك الرجل Stanislav Evgrafovich Petrov وكان مقدّمًا في الجيش الروسيّ، وكان يؤدّي خدمته ليل السادس والعشرين من أيلول سبتمبر عام ١٩٨٣ في ملجأ مُحصّن يراقب الأنشطة الصاروخيّة للولايات المتّحدة...وكانت الحرب الباردة، في ذلك الوقت، على أشدِّها والمناورات العسكريّة استعدادًا لسناريوهات حرب نوويّة جارية".
تابع تورنيلي قائلًا: "في ليل السادس والعشرين من أيلول/سبتمبر من ذلك العام، أدرك بيتروف أنّ الآلة المسمّاة "كروكوس"، التي اعتبرت، في ذلك الوقت، الدماغ المراقب لأنشطة العدوّ، رصدت انطلاقَ صاروخ أميركيّ من مونتانا متوجّهًا نحو أراضي الاتّحاد السوفييتي. وكان البروتوكول المتّبع يقتضي بأن يُبلّغ الضابط السوفيّتي المرجعيّات العسكريّة لتعطي بدورها الضوء الأخضر لإطلاق الصواريخ باتّجاه الولايات المتّحدة. وتوقّع بيتروف أن يأتيَ الردّ السوفييتي هائلًا. واعتبر أنّ الآلة أعطت إنذارًا خاطئًا. ومع أنّه كان يعلم أن الصواريخ العابرة للقارّات تستغرق أقلّ من نصف ساعة للوصول إلى وجهتها، قرّر عدم الإبلاغ عمّا حصل وسط دهشة معاونيه الحاضرين معه.
إتّضح لاحقًا أنّ آلة "كروكوس" ارتبكت خطأً وأنّ أيّ صاروخٍ أميركيّ لم يُطلق، بل كان الأمر مجرّد انعكاسٍ لنور الشمس في الغيوم".
وأكّد تورنيلي أنّ الذكاء البشريّ ذهب أبعد من الذكاء الاصطناعيّ. وقرار عدم الردّ اتّخذه إنسان عرف كيف ينظر أبعد من المعطيات والبروتوكولات. وبهذه الطريقة، أكمل المسؤول الفاتيكانيّ، تمّ تفادي كارثة نوويّة، ولم يعلم أحد بما حصل تلك الليلة لغاية تسعينيّات القرن الماضي. الضابط السوفييتي، الذي توفّي في أيلول/سبتمبر عام ٢٠١٧، علّق على ما حصل معه في ذلك الملجأ المحصّن لافتًا إلى أنه لم يفعل شيئًا استثنائيًّا بل قام بواجبه وحسب وقال: "كنت الرجل الصحيح في المكان الصحيح وفي الزمان الصحيح". كان بيتروف الإنسان القادر على كشف خطأ ارتكبته آلة قيل عنها إنّها لا تُخطئ، كان إنسانًا قادرا على إعطاء تقييم أخلاقيّ وعلى اتّخاذ قرار أخلاقيّ، لأنّ الآلة مهما كانت ذكيّة، تبقى آلة وحسب".
في ختام مقاله، أشار تورنيلّي إلى مواقف البابا فرنسيس تجاه الحرب والتي عبّر عنها في مناسبات عدّة مؤكّدًا أنّ الحرب هي ضرب من الجنون وهي هزيمة للبشريّة. كما أنّ الحرب تشكّل انتهاكًا صارخًا للكرامة البشريّة. وذكّر مدير تحرير دائرة الاتّصالات الفاتيكانيّة بخطورة أن يخوض الإنسان الحروب مختبئًا وراء الخوارزميّات، وأن يسلّم أمره إلى الذكاء الاصطناعيّ ليُحدّد الأهداف العسكريّة وطُرق ضربها، وبهذه الطريقة تقوم الآلة بعمليّة الاختيار، وهذا أمر يُلقي بثقله على ضمير الإنسان.