وکاله آریا للأنباء -
تبدو فکره أن تقتل أنظمه الذکاء الاصطناعی ملیار إنسان أقرب إلى سیناریو خیال علمی. لکن السؤال الذی طرح فی نقاش على شاشه الجزیره لا یتعلق بالرقم وحده، بل بمن یمتلک قرار استخدام القوه عندما تختار منظومه آلیه هدفا وتشتبک معه من دون تدخل بشری مباشر.
فی مقابله مع الجزیره، قال البروفیسور بیتر لی، أستاذ الأخلاقیات التطبیقیه فی مرکز دراسات الدفاع بجامعه بورتسموث، وعضو اللجنه الاستشاریه لأخلاقیات الذکاء الاصطناعی والاستقلالیه التابعه لوزاره الدفاع البریطانیه، إنه یتفهم القلق الذی أثاره حدیث رئیس شرکه مایکروسوفت بیل غیتس عن إمکانیه أن تتسبب أنظمه الذکاء الاصطناعی فی قتل أعداد هائله من البشر.
قصص مقترحه
list of 2 items list 1 of 2 عاصفه "نورإیستر" تضرب أمریکا.. إلغاء رحلات و100 ألف منزل بلا کهرباء list 2 of 2 بین مصافی روسیا وشبکه کهرباء أوکرانیا.. لماذا لا توقف هدنه الطاقه الحرب؟ end of list وأوضح "لی" أن غیتس، لم یوضح الآلیه التی یمکن أن تقود إلى هذا السیناریو.. مشددا على أن أنظمه الذکاء الاصطناعی ما زالت فی مراحل مبکره من التطویر.
بهذا المعنى، لا یقدم "لی " جوابا یبدد المخاوف، بل یعید وضعها فی مکانها الأدق: لیست المشکله أن الآله ستستیقظ فجأه لتقتل ملیارا، بل إن استخدامها العسکری یتقدم، فیما تبقى قواعد التحکم فیها موضع خلاف بین الدول.
الخطر حین تدخل الآله إلى منظومات القوه
ورأى لی أن السیناریو الکارثی قد یرتبط بإدماج الذکاء الاصطناعی فی أنظمه القیاده والسیطره النوویه لدى الولایات المتحده أو روسیا . لکنه استبعد أن یکون للذکاء الاصطناعی، فی وضعه الراهن، قدره على تنفیذ قتل بهذا الحجم، مشیرا إلى أن القوى النوویه تملک إجراءات أمنیه معقده لحمایه منظوماتها، وأنها لیست أنظمه یمکن اختراقها ببساطه عبر الإنترنت.
غیر أن هذا التقدیر لا یلغی أصل الإشکال. فالأنظمه ذاتیه التشغیل لا تثیر الجدل بسبب قدرتها التقنیه فقط، بل لأنها قد تقلص المسافه بین تحلیل البیانات وتحدید الهدف وتنفیذ الضربه. والسؤال الذی یطرح هنا لیس: هل تستطیع الخوارزمیه أن تخوض حربا نوویه وحدها؟ بل: إلى أی حد یسمح البشر لها بأن تشارک فی قرار استخدام القوه قبل أن یبقى تدخلهم مجرد إجراء شکلی؟
ولهذا تدعو الأمم المتحده واللجنه الدولیه للصلیب الأحمر إلى قواعد دولیه ملزمه تحظر بعض أنواع الأسلحه الذاتیه وتفرض قیودا واضحه على أنواع أخرى، مع الحفاظ على السیطره البشریه فی استخدام القوه الممیته.
صوره توضیحیه لسرب من المسیرات الانتحاریه، تعکس المخاوف من توسیع دور الذکاء الاصطناعی فی أنظمه التحکم والتسلیح (غیتی) جنیف تکشف التناقض
فی جنیف ، شارک ممثلو 128 دوله فی محادثات أممیه بشأن قواعد تنظیم الأسلحه الفتاکه ذاتیه التشغیل. وانتهت المحادثات إلى نص غیر ملزم یمکن أن یمهد لمفاوضات لاحقه بشأن حظر فئات من هذه الأسلحه وتنظیم استخدام فئات أخرى، وفق رویترز.
ونقلت صحیفه واشنطن بوست عن مصادر مطلعه أن الولایات المتحده وروسیا دفعتا باتجاه تخفیف ضوابط مقترحه على استخدام هذه الأسلحه. واقترحتا فی المراحل الأخیره تعدیلات لحذف بنود وتلیین قیود، خصوصا تلک المتصله بوجوب بقاء الإنسان مسیطرا على منظومات تستطیع اختیار الأهداف والاشتباک معها ذاتیا.
هنا تظهر المفارقه: العالم یناقش منع الآله من الانفراد بقرار القتل، بینما الدول الأکثر امتلاکا للتقنیات العسکریه المتقدمه تتعامل مع القیود باعتبارها کلفه محتمله على سباق التفوق.
لماذا لا ترید القوى الکبرى معاهده ملزمه؟
یرى لی أن رفض الولایات المتحده وروسیا والصین معاهده ملزمه لیس جدیدا، إذ شهد الموقف نفسه خلال مفاوضات جنیف عام 2019. ویعزو ذلک إلى منافسه حاده على الریاده التقنیه فی الذکاء الاصطناعی، إذ لا ترید أی من هذه القوى التخلی عن میزه عسکریه محتمله أو تقیید قدرتها على تطویرها.
وقارن لی هذا الوضع بالأسلحه النوویه. فتلک الأسلحه تطورت إلى مرحله سمحت بإنشاء ترتیبات للحد من انتشارها، بینما تظل أسلحه الذکاء الاصطناعی فی طور مبکر، حیث یجری التنافس على امتلاک الإمکانات قبل أن تتبلور قواعد کابحه لها.
خط اتصال لا یوقف السباق
وأعلن البیت الأبیض أن واشنطن وبکین اتفقتا على إنشاء قناه اتصال ثنائیه للتعامل مع حوادث مرتبطه بالذکاء الفائق، إلى جانب حوار لتبادل وجهات النظر بشأن مخاطره ومنافعه، وفق وثیقه معلومات أمریکیه.
لکن لی لا یرى فی هذه القناه مسارا لتنظیم الأسلحه ذاتیه التشغیل أو الحد منها. ویصفها بأنها آلیه لتخفیف الأزمات ومنع سوء التقدیر أو اندلاع صدام غیر مقصود، لا اتفاقا یغیر طبیعه التنافس بین القوتین.
وقد تبدو قناه الاتصال خطوه مطمئنه، لکنها تکشف فی الوقت نفسه حدود الدبلوماسیه الحالیه: إداره الحادث لا تعنی منع سببه. فالدول یمکن أن تتفق على تجنب سوء الفهم، بینما تواصل فی الخلفیه تطویر أدوات تمنحها قدره أکبر على القتال واتخاذ القرار بسرعه أکبر.
من الرقم إلى السؤال الحقیقی
لا یوجد، فی حدیث لی، ما یؤکد أن الأسلحه ذاتیه التشغیل قادره الیوم على قتل ملیار إنسان. بل إنه استبعد ذلک صراحه فی مرحلتها الراهنه. لذلک سیکون اختزال القضیه فی رقم صادم تضلیلا لطبیعه الخطر.
الخطر الذی یلفت إلیه حدیث الضیف وتکشفه مفاوضات جنیف هو أن قرار القتل یتحول تدریجیا إلى مجال تنافس بین القوى الکبرى قبل أن تتفق على الحد الأدنى من المسؤولیه البشریه والقانونیه.
وعندما یصبح الإبقاء على الإنسان داخل حلقه القرار بندا تفاوضیا قابلا للحذف أو التخفیف، فإن السؤال الأهم لا یعود کم شخصا قد تقتل الآله، بل: من سیحاسب عندما تقرر الآله أن تقتل؟
المصدر: الجزیره