وکاله آریا للأنباء - ضعف الرقابه على الذکاء الاصطناعی ینذر بارتفاع تکالیف الاحتیال والهجمات السیبرانیه والأخطاء الآلیه (الفرنسیه)
تتسع الفجوه بین سرعه تطور الذکاء الاصطناعی وقدره الحکومات على بناء قواعد تحکم استخدامه، فی وقت تحولت فیه التکنولوجیا إلى أحد أکبر مجالات الاستثمار العالمی ومحرک محتمل للإنتاجیه والنمو، وهو ما یجعل تنظیمها معادله اقتصادیه تتجاوز مسأله السلامه وحدها.
فالقواعد الصارمه قد ترفع تکلفه تطویر النماذج وتبطئ طرح التطبیقات وتثقل الشرکات الناشئه، لکن ضعف الرقابه یحمل بدوره فاتوره قد تظهر فی الاحتیال والهجمات السیبرانیه والأخطاء الآلیه وفقدان الثقه واضطرابات سوق العمل، وصولا إلى مخاطر یمکن أن تنتقل عبر النظام المالی.
قصص مقترحه
list of 3 items list 1 of 3 ألتمان وأمودی یحذران مجلس الأمن من الذکاء الاصطناعی.. ویتعهدان بالإبطاء list 2 of 3 الذکاء الاصطناعی یشعل النقاش باجتماع الأمم المتحده فماذا قال قاده العالم؟ list 3 of 3 من "الذکاء الاصطناعی" إلى "الذکاء الفائق".. ماذا یعنی اقتراح ترمب؟ end of list وتزداد صعوبه المعادله مع احتدام المنافسه بین الولایات المتحده والصین ، واختلاف نماذج التنظیم عالمیا، بینما یحاول الاتحاد الأوروبی بناء إطار قائم على درجات المخاطر، وتبحث الاقتصادات الأخرى عن قواعد تحمی المستخدمین من دون خساره الاستثمار والتکنولوجیا.
فاتوره المخاطر
اکتسب النقاش زخما جدیدا بعدما حذر مسؤولون وباحثون فی شرکات الذکاء الاصطناعی من مخاطر الأنظمه الأکثر استقلالیه، بالتزامن مع الکشف عن حوادث مرتبطه باستخدام نماذج متقدمه فی الهجمات السیبرانیه وقدرتها المتزایده على تنفیذ مهام متعدده الخطوات بأقل قدر من التدخل البشری.
ودفع ذلک مفوض الأمم المتحده السامی لحقوق الإنسان فولکر تورک إلى اعتبار التنظیم الذاتی الطوعی للشرکات غیر کاف، داعیا إلى الإبلاغ عن الحوادث الخطیره والتحقق من قدرات النماذج وتعزیز الرقابه على الشرکات التی تطور الأنظمه الأکثر تقدما.
لکن المخاطر التی تواجه الاقتصاد لا تحتاج إلى سیناریو یصل فیه الذکاء الاصطناعی إلى مستوى یهدد البشریه کی تصبح مکلفه.
ویقول أستاذ واستشاری هندسه النظم الرقمیه والذکیه زیاد یوسف، للجزیره نت، إن أول هذه المخاطر یرتبط بالأمن السیبرانی والاحتیال، إذ یمکن للذکاء الاصطناعی توسیع القدره على إنتاج البرمجیات الخبیثه وانتحال الأصوات والهویات وتنفیذ الهجمات، وقد تتحمل البنوک وشرکات التأمین والمستهلکون ومرافق البنیه التحتیه تکالیف هذه الهجمات.
ویشیر إلى خطر آخر یتمثل فی تکرار القرار الخطأ على نطاق واسع، فإذا اعتمد بنک نموذجا غیر مضبوط لتقییم الائتمان، أو استخدمته مؤسسه صحیه أو شرکه فی قرارات تمس أعدادا کبیره من الأشخاص، یمکن أن یتحول الخطأ الفردی إلى آلاف أو ملایین القرارات الآلیه.
ویضیف یوسف أن الثقه نفسها أصبحت أصلا اقتصادیا فی سوق الذکاء الاصطناعی، لأن توسیع استخدام الأنظمه یتطلب السماح لها بالوصول إلى البیانات وتنفیذ مهام فعلیه، وبالتالی فإن تراجع ثقه الشرکات والمستهلکین قد یحد من تبنی التکنولوجیا حتى مع استمرار تحسن قدراتها.
مخاطر مترابطه
ویتفق المختص فی قطاع التکنولوجیا محمد السویسی على وضع الأمن السیبرانی فی مقدمه المخاطر الاقتصادیه، مع انتقال النشاط الاقتصادی بصوره متزایده إلى الأنظمه الرقمیه ودخول وکلاء الذکاء الاصطناعی إلى عملیات کانت تحتاج سابقا إلى تدخل بشری مباشر.
ویقول السویسی، خلال حدیثه للجزیره نت، إن المخاطر تصبح أکثر حساسیه عندما ترتبط بالبنوک وشرکات التأمین والمؤسسات الحکومیه والشرکات الکبرى والصغیره، لأن أی اختراق أو تصرف غیر متوقع من نظام یتمتع بصلاحیات واسعه یمکن أن یمتد أثره إلى مؤسسات أخرى مترابطه معه.
ولا یحصر السویسی المشکله فی الأمن، إذ یشیر إلى تحد آخر یتعلق بقدره الاقتصادات والشرکات على استیعاب التکنولوجیا، فی ظل نقص المهارات وارتفاع تکلفه بعض النماذج والبنیه التحتیه اللازمه لتشغیلها.
کما یحذر من أن الاعتماد الواسع على عدد محدود من الشرکات المزوده للنماذج والحوسبه السحابیه قد یخلق شکلا من التبعیه التکنولوجیه، خصوصا عندما تستخدم المؤسسات بیانات اقتصادیه وتجاریه حساسه داخل أنظمه تسیطر علیها شرکات خارج أسواقها المحلیه.
ویضاف إلى ذلک سوق العمل، إذ یقدر صندوق النقد الدولی أن نحو 40% من الوظائف عالمیا معرضه بدرجات مختلفه لتأثیر الذکاء الاصطناعی، من خلال استبدال بعض المهام أو تغییر طبیعه الوظائف ومتطلبات المهارات.
نحو 40% من الوظائف عالمیا معرضه بدرجات مختلفه لتأثیر الذکاء الاصطناعی (أدوبی ستوک) کلفه السلامه
غیر أن تطبیق هذه الضوابط یفرض تکالیف إضافیه على الشرکات، تشمل اختبار النماذج وتعزیز الأمن السیبرانی وحوکمه البیانات، إلى جانب التوثیق والتدقیق القانونی ومراقبه الأنظمه بعد إطلاقها، فی حین قد تتطلب النماذج الأعلى خطوره تقییما مستقلا قبل إتاحتها للمستخدمین.
ویقول السویسی إن هذه المتطلبات ترفع رأس المال المطلوب قبل الوصول إلى السوق، وقد تؤخر إطلاق التطبیقات بسبب المراحل الإضافیه من الفحص والتوثیق والموافقه، وهو عبء تستطیع الشرکات الکبرى تحمله بدرجه أکبر من الشرکات الناشئه.
لکن هذه الکلفه، بحسب السویسی، تجب مقارنتها بما یمکن أن توفره لاحقا، لأن الأعطال وتسرب البیانات والدعاوى القضائیه وسحب المنتجات من السوق قد تکون أکثر تکلفه من اکتشاف الخلل قبل الإطلاق.
ویتفق یوسف مع ذلک، مشیرا إلى أن السلامه ترفع کلفه التطویر فی البدایه، لکنها یمکن أن تخفض فاتوره المشکلات بعد الانتشار، خصوصا عندما یستخدم النظام على نطاق واسع.
ومن هنا تصبح القضیه الاقتصادیه، وفق الخبیرین، مرتبطه بتناسب القواعد مع الخطر، بحیث لا یتحمل تطبیق محدود الاستخدام المتطلبات نفسها المفروضه على نظام یتخذ قرارات ائتمانیه أو صحیه أو یتحکم فی بنیه تحتیه حساسه.
متطلبات تنظیم الذکاء الاصطناعی ترفع رأس المال المطلوب وقد تؤخر وصول التطبیقات إلى السوق (بیکسلز) ثقه المستثمرین
وتبرز معضله أخرى مع تحول البیئه التنظیمیه إلى عامل مؤثر فی قرارات الاستثمار وتوجیه رؤوس الأموال، إذ تتبنى الولایات المتحده نهجا یمنح مساحه أکبر للابتکار والمنافسه التکنولوجیه، بینما یعتمد الاتحاد الأوروبی نموذجا یصنف أنظمه الذکاء الاصطناعی وفق مستوى المخاطر ویفرض متطلبات أشد على الأنظمه عالیه الخطوره، فی حین تجمع الصین بین تنظیم التکنولوجیا وتعزیز الأمن وتوسیع القدرات المحلیه.
ویقول یوسف إن التنظیم یمکن أن یدعم الاستثمار عندما یمنح الشرکات والممولین إجابات واضحه عن الأنشطه المسموح بها، والمسؤولیه القانونیه، والاختبارات المطلوبه، وحجم المخاطر التی ینبغی تسعیرها قبل ضخ رأس المال.
لکن القواعد قد تعطی النتیجه المعاکسه عندما تصبح غامضه أو متغیره أو مکلفه بصوره لا تتناسب مع المخاطر، وهو ما قد یدفع الشرکات إلى نقل بعض عملیات التطویر أو إطلاق المنتجات إلى أسواق أخرى.
ویلخص یوسف المعادله بأن رأس المال لا یهرب بالضروره من وجود القواعد، بقدر ما یتأثر بالقواعد غیر الواضحه والمتغیره وغیر المتناسبه مع مستوى المخاطر.
ویرى السویسی -بدوره- أن الوضوح یقلل الغموض القانونی ویسمح للمستثمر بحساب تکلفه الامتثال قبل ضخ الأموال، خصوصا فی قطاعات حساسه مثل البنوک والتأمین والصحه والنقل، لکنه یحذر من أن الإجراءات المعقده والباهظه قد تتحول إلى عائق أمام دخول منافسین جدد.
وضوح قواعد الذکاء الاصطناعی یساعد المستثمرین على حساب تکلفه الامتثال قبل ضخ رؤوس الأموال (غیتی) هیمنه العمالقه
وقد یؤدی التنظیم إلى نتیجه غیر مقصوده تتمثل فی تعزیز أفضلیه شرکات التکنولوجیا الکبرى، لقدرتها على تحمل تکالیف الامتثال وفرقها القانونیه والهندسیه الضخمه، بینما تواجه الشرکات الناشئه المتطلبات نفسها بموارد مالیه وبشریه محدوده.
ویحذر یوسف من أن فرض تکلفه ثابته مرتفعه للامتثال بصرف النظر عن حجم الخطر قد یؤدی إلى نتیجه عکسیه، إذ یسعى المنظم إلى خفض مخاطر الذکاء الاصطناعی لکنه ینتهی بتعزیز هیمنه الشرکات الکبرى.
ویقترح معالجه ذلک من خلال مستویات مختلفه للرقابه، تبدأ بمتطلبات أساسیه للخصوصیه والأمن والشفافیه فی التطبیقات منخفضه المخاطر، وترتفع فی مجالات مثل الائتمان والتوظیف والصحه، وصولا إلى اختبارات ومراقبه أکثر صرامه للنماذج القادره على تنفیذ هجمات سیبرانیه أو التعامل مع أنظمه حرجه.
ویمکن دعم الشرکات الأصغر، وفق یوسف، عبر تبسیط متطلبات التوثیق، وتوفیر بیئات اختبار تنظیمیه وإرشادات موحده ومرافق تقییم مشترکه أو مدعومه، بما یخفض التکلفه الثابته للامتثال ویحد من الضغوط على مواردها.
ویتفق السویسی مع هذا النهج، ویرى أن أدوات الترجمه والمساعده المکتبیه لا ینبغی أن تعامل تنظیمیا بالطریقه نفسها التی تعامل بها التطبیقات المستخدمه فی البنوک والصحه والتوظیف.
ویضیف أن البیئات التجریبیه التنظیمیه یمکن أن تمنح الشرکات الناشئه فرصه لاختبار منتجاتها قبل تحمل کامل الالتزامات، لأن ارتفاع کلفه الامتثال بدرجه تفوق قدره الشرکات الصغیره قد یقلص الابتکار ویترک السوق بصوره أکبر للشرکات العملاقه.
مستقبل الوظائف
ولا تقتصر التداعیات الاقتصادیه للتنظیم على الشرکات، إذ تمتد إلى سوق العمل، مع تقدیرات لصندوق النقد الدولی تشیر إلى تعرض نحو 40% من الوظائف عالمیا لتأثیر الذکاء الاصطناعی، بین وظائف قد ترتفع إنتاجیتها وأخرى قد تتراجع الحاجه إلى بعض مهامها.
وهذا یعنی أن السیاسه العامه لا تواجه فقط سؤال کیفیه منع نظام غیر آمن، وإنما کیفیه إداره انتقال اقتصادی یمکن أن یعید توزیع الدخل والمهارات والفرص بین القطاعات والعمال.
وتشیر بعض التحلیلات إلى أن ضعف إداره التحول فی سوق العمل قد یجعل مکاسب الإنتاجیه الناتجه عن الذکاء الاصطناعی عاملا فی اتساع عدم المساواه، إذا ترکزت العوائد لدى مالکی رأس المال والتکنولوجیا، بینما یتحمل العمال الجزء الأکبر من تکلفه إعاده هیکله الوظائف.
فی المقابل، قد یؤدی الإفراط فی تقیید التکنولوجیا إلى إبطاء المکاسب المحتمله فی الإنتاجیه والابتکار، وهو ما یجعل سیاسات التدریب وإعاده التأهیل وشبکات الحمایه الاجتماعیه جزءا مکملا لتنظیم الذکاء الاصطناعی، ولیس بدیلا عنه.
ویرى یوسف أن نجاح التنظیم لا یقاس بعدد القوانین أو حجم الغرامات وحدهما، بل بقدرته على تحقیق توازن بین مجموعه من المؤشرات الاقتصادیه والتقنیه.
وتشمل هذه المؤشرات تطور الحوادث السیبرانیه والاحتیال والأضرار المرتبطه بالذکاء الاصطناعی، بالتوازی مع الاستثمار ورأس المال الجریء وتأسیس الشرکات الجدیده ومعدلات تبنی التکنولوجیا والإنتاجیه ودرجه المنافسه وتکلفه الامتثال وثقه المستخدمین.
فاستمرار الاستثمار والإنتاجیه وتأسیس الشرکات بالتزامن مع تراجع الحوادث الکبیره قد یشیر إلى قدره القواعد على الجمع بین النمو والسلامه.
المصدر: الجزیره