وکاله آریا للأنباء - أوبن إیه آی تواصل مراجعه سجلات نشاط وکلائها وتشدید إجراءات الأمان والرقابه على بیئات البحث (الفرنسیه)
اخترق سربٌ من وکلاء الذکاء الاصطناعی التابعین لشرکه أوبن إیه آی مواقع إلکترونیه لجهات حکومیه أمریکیه إلى جانب عشرات المؤسسات الأخرى، وذلک فی إطار حادثه استمرت لعده أشهر شهدت خروج اختبارات أجرتها الشرکه عن مسارها المخطط له، ما أسفر عن نشاط غیر متوقع عبر شبکه الإنترنت.
وقد وصل هؤلاء الوکلاء إلى مواقع تابعه لوزاره التجاره وهیئه الأوراق المالیه والبورصات الأمریکیه، ومارسوا أنشطه وصفتها أوبن إیه آی بأنها "غیر متوافقه مع الأهداف المحدده" أو "غیر منضبطه" -وهو المصطلح الذی تستخدمه شرکات الذکاء الاصطناعی للإشاره إلى التصرفات الخاطئه أو السلوکیات المنحرفه لأنظمتها. وفی هذه الحاله بالتحدید، تجسد هذا السلوک غیر المنضبط فی عملیات تصفح عدوانیه ومکثفه للویب.
وأفادت صحیفه الغاردیان، أن أحد هذه الأنشطه شمل الوصول إلى بیانات من مکتب الإحصاء الأمریکی عبر موقع وزاره التجاره، فی حین لم ینجح الوکلاء فی الوصول إلى أنظمه غیر عامه، بحسب المعلومات التی أعلنتها أوبن إیه آی.
قصص مقترحه
list of 2 items list 1 of 2 خریطه القوه فی الذکاء الاصطناعی.. من یملک الشرکات والنماذج والرقائق؟ list 2 of 2 ذکاء اصطناعی فی جیبک.. میتا "میوز تشارم" یفتتح عصر ما بعد الهواتف الذکیه end of list وأکدت الشرکه أن جزءا کبیرا من النشاط الذی کشفته خلال عملیات بحث وتقییم داخلیه، مرتبط بمهام بحثیه تهدف إلى الوصول إلى مصادر معلومات عامه وموثوقه، لکن بعض الوکلاء تصرفوا بطرق تجاوزت ما کان متوقعا منهم، بما فی ذلک محاوله تجاوز ضوابط أمنیه أو التفاعل مع مواقع خارجیه.
تسریب بیانات المستخدمین
وکشفت الشرکه، فی واقعه أخرى أن بعض وکلاء الذکاء الاصطناعی التابعین لها أرسلوا بیانات إلى مواقع خارجیه من دون قصد، بینها 53 صوره رفعها مستخدمون إلى شات جی بی تی، فی حادثه تفتح مجددا النقاش حول قدره الشرکات على مراقبه تصرفات أنظمه الذکاء الاصطناعی التی تنفذ مهام متعدده بصوره شبه مستقله.
وبحسب تقریر نشرته وکاله رویترز، قالت أوبن إیه آی إن وکلاءها نشروا صورا مرتبطه بمستخدمین على مواقع لاستضافه الصور، لکنها لم تحدد ما إذا کانت هذه الصور مولده بالذکاء الاصطناعی أو صورا لأشخاص حقیقیین یمکن التعرف إلیهم، کما لم تکشف متى جرى نشرها أو المسار الذی اتبعه الوکلاء للوصول إلیها.
وذکر موقع أکسیوس ، نقلا عن تصریحات الشرکه، أن الصور نشرت على شکل روابط فی مواقع لاستضافه الصور لم تکن مدرجه للعامه، وأن أوبن إیه آی تعاونت مع مزودی خدمات الاستضافه لإزاله معظمها، بینما کانت تعمل على إزاله الصور المتبقیه، کما قالت الشرکه إن الصور جاءت من مستخدمین کانت بیاناتهم مؤهله للاستخدام فی تدریب النماذج، وفق إعدادات الخصوصیه الخاصه بهم.
وتشیر هذه التفاصیل إلى أن الواقعه لا تتعلق باختراق مباشر لخوادم شات جی بی تی، بل بسلوک وکلاء یعملون داخل بیئات البحث والاختبار، حیث تمکنوا من الوصول إلى بیانات ثم نقلها إلى خدمات خارجیه بطریقه لم تکن مقصوده من الشرکه، وتظل طبیعه الصور والمعلومات التی قد تحتوی علیها غیر معلومه، إذ لم تکشف أوبن إیه آی ما إذا کانت تتضمن أشخاصا یمکن تحدید هویاتهم أو بیانات حساسه.
تحقیق یمتد لأشهر
وتأتی هذه الإفصاحات بعد حادثه أعلنت عنها أوبن إیه آی فی یولیو/تموز الماضی، عندما تمکنت نماذج داخلیه قید الاختبار من تجاوز بعض الضوابط المفروضه علیها والوصول إلى الإنترنت وأنظمه خارجیه خلال تقییمات للأمن السیبرانی.
وفی تقریر نشرته الشرکه فی 26 أغسطس/آب الماضی أیضا، قالت إن النماذج تمکنت من اکتشاف طرق للاتصال ببعضها بعضا والوصول إلى الإنترنت رغم القیود المفروضه علیها، قبل أن تتطور أنشطتها إلى اختراق أجزاء من البنیه التحتیه البحثیه وأنظمه شرکه هاغینغ فیس ، وأعلنت الشرکه عقب ذلک تشدید عزل بیئات البحث، وتقیید الوصول إلى الإنترنت، وتعزیز أنظمه المراقبه.
وقالت أوبن إیه آی إن مراجعه نشاط الوکلاء السابق قد تستغرق أشهرا بسبب حجم السجلات والبیانات التی یتعین فحصها، وإنها أبلغت عشرات الجهات الخارجیه التی ربما تأثرت بأنشطه غیر مقصوده. ووفق رویترز، کانت الشرکه قد حددت بحلول منتصف سبتمبر/أیلول الحالی نحو 24 حادثه تصرف فیها وکلاء بطریقه غیر مرغوبه، مع استمرار ارتفاع العدد مع تقدم التحقیق فی السجلات الداخلیه.
أوبن إیه آی أوضحت أن الصور المنشوره جاءت من حسابات سمحت باستخدام بیاناتها لتحسین النماذج (غیتی) وتبرز هذه الوقائع تحدیا متزایدا أمام مطوری أنظمه الذکاء الاصطناعی الوکیلیه، فکلما توسعت قدره الوکیل على تصفح الإنترنت والوصول إلى الملفات والخدمات وتنفیذ سلسله من المهام، تصبح مراقبه تصرفاته ومنع انتقاله إلى أنشطه لم یطلبها المستخدم أو المطور أکثر تعقیدا.
وتوضح وثائق أوبن إیه آی الخاصه بوکلاء شات جی بی تی أن الشرکه تستخدم بالفعل طبقات متعدده من الحمایه، تشمل مراقبه محاولات حقن التعلیمات، وطلبات تأکید لبعض الإجراءات عالیه التأثیر، وإشراف المستخدم فی مواقع معینه، لکنها تقر بأن هذه الإجراءات لا تلغی جمیع المخاطر.
المصدر: الجزیره + وکالات