وكيل ذكاء اصطناعي يصل دون تصريح إلى بوابة حكومية أسترالية ويثير مخاوف أمنية
· مسؤل
أثارت واقعة وصول وكيل ذكاء اصطناعي تابع لشركة «أوبن إيه آي» بصورة غير مصرح بها إلى بوابة حكومية أسترالية، مخاوف جديدة بشأن حدود استقلالية أنظمة الذكاء الاصطناعي وقدرتها على تنفيذ إجراءات تتجاوز المهمة الأصلية الموكلة إليها.
ووقعت الحادثة في يونيو الماضي، أثناء تنفيذ الوكيل مهمة بحثية مرتبطة ببيانات الإنفاق العام على الأدوية، قبل أن يصل إلى بوابة إحصاءات مرتبطة ببرنامج «ميديكير» الأسترالي، وفق التفاصيل التي أعلنتها الحكومة الأسترالية خلال سبتمبر.
وكانت المهمة الأصلية مرتبطة بالبحث في بيانات عامة، إلا أن وصول النظام إلى بوابة حكومية مخصصة لإحصاءات الرعاية الصحية فتح نقاشًا حول الإجراءات التي يجب أن تسبق منح أنظمة الذكاء الاصطناعي المستقلة إمكانية الوصول إلى المواقع وقواعد البيانات.
وأثارت الواقعة اهتمامًا خاصًا بسبب طبيعة الوكلاء الذكيين، وهي أنظمة تستطيع تنفيذ سلسلة من الخطوات لتحقيق هدف محدد بدلًا من الاكتفاء بإعطاء إجابة نصية للمستخدم. ويعني ذلك أن الخطأ في تحديد نطاق المهمة أو الصلاحيات يمكن أن يؤدي إلى وصول النظام إلى موارد لم تكن ضمن الهدف الأساسي.
وقالت السلطات الأسترالية إنها أبلغت الشركة بالواقعة، بينما دفعت الحادثة الحكومة إلى التفكير في تشديد الضوابط المنظمة لاستخدام الذكاء الاصطناعي، خصوصًا عندما يتعلق الأمر بالأنظمة القادرة على تنفيذ إجراءات بصورة مستقلة.
وتأتي القضية في وقت تتوسع فيه المؤسسات الحكومية والشركات الخاصة في تجربة وكلاء الذكاء الاصطناعي لتنفيذ أعمال البحث والتحليل ومعالجة البيانات والمهام الإدارية.
ويرى متخصصون في أمن المعلومات أن أحد التحديات الأساسية أمام هذه الأنظمة يتمثل في تحديد الصلاحيات بدقة، بحيث لا يحصل الوكيل على وصول أوسع من المطلوب لتنفيذ المهمة، مع وجود وسائل لإيقافه ومراجعة خطواته.
وتسلط الواقعة الأسترالية الضوء على الفرق بين نظام ذكاء اصطناعي يقدم معلومات للمستخدم ونظام يستطيع التحرك عبر مواقع وخدمات رقمية لتنفيذ مهمة كاملة.
ومع توسع استخدام الوكلاء المستقلين، أصبح اختبار حدود الصلاحيات والمراقبة البشرية وتأمين الأنظمة جزءًا أساسيًا من النقاش حول مستقبل الذكاء الاصطناعي، خاصة في القطاعات التي تتعامل مع بيانات حكومية أو صحية أو مالية.
About The Author
اترك تعليقاً