طبقات مراقبة.. “غوغل” تكشف خطتها لحماية ميزات المتصفح الذكية

حرير- مع ازدياد توجه شركات التكنولوجيا إلى تزويد المتصفحات بميزات “وكيلة” قادرة على تنفيذ المهام تلقائياً، مثل حجز التذاكر أو إتمام عمليات التسوق، تتصاعد المخاوف من مخاطر أمنية قد تؤدي إلى تسريب بيانات المستخدم أو خسائر مالية.

وفي هذا السياق، كشفت شركة غوغل عن آلية حماية جديدة لمتصفح كروم تهدف لضبط سلوك هذه الوكلاء الأذكياء ومنعها من تجاوز الحدود المسموح بها.

وقالت الشركة، في توضيح تقني نشرته بعد استعراض هذه القدرات في سبتمبر الماضي، إن ميزات الذكاء الاصطناعي ستصل إلى المستخدمين خلال الأشهر المقبلة، لكنها ستخضع لسلسلة من طبقات التدقيق والمراقبة.

مراقبة الذكاء بالذكاء

أوضحت “غوغل” أنها تستخدم مجموعة من النماذج لمراجعة كل خطوة تتخذها الوكلاء الأذكياء.

أبرز هذه النماذج هو User Alignment Critic المبني على جيميني، والذي يقيم المهام المقترحة من نموذج التخطيط.

إذا وجد أن الخطوات لا تتوافق مع هدف المستخدم، يطلب من النموذج إعادة صياغة الخطة.

وتشير الشركة إلى أن نموذج “الناقد” لا يرى المحتوى الكامل للمواقع، بل يتعامل فقط مع بيانات وصفية لحماية الخصوصية.

حدود واضحة للمواقع المسموح بها

لمنع الوكلاء من الوصول إلى مواقع غير آمنة أو غير موثوقة، تعتمد “غوغل” على تقنية Agent Origin Sets التي تحدد بدقة المواقع التي يمكن للوكيل قراءتها أو التفاعل معها.

فعلى سبيل المثال، يمكن للوكيل قراءة قوائم المنتجات في مواقع التسوق، لكنه لا يمكنه الاطلاع على الإعلانات أو العناصر غير ذات الصلة.

كما يُسمح له بالنقر أو الكتابة داخل إطارات معينة في الصفحة فقط.

وأضافت الشركة أن هذه القيود تمنع حدوث تسريبات لبيانات حساسة بين المواقع، وتتيح للمتصفح منع إرسال أي معلومات إلى نماذج الذكاء إذا كانت خارج نطاق السماح.

منع الروابط الخبيثة والاستئذان في المهام الحساسة

تستخدم “غوغل” أيضاً نموذجاً آخر للتحقق من عناوين الروابط التي يقترحها الوكيل، ما يساعد في منع انتقاله إلى مواقع ضارة أو عناوين تم توليدها بشكل غير آمن.

وفي المهام شديدة الحساسية، مثل زيارة مواقع بنكية أو صفحات تتضمن معلومات طبية، سيطلب المتصفح موافقة المستخدم أولاً.

وينطبق الأمر ذاته على مواقع تتطلب تسجيل الدخول أو إجراءات مثل الشراء أو إرسال الرسائل.

وأكدت “غوغل” أن نماذج الذكاء لا يمكنها الوصول إلى كلمات المرور المحفوظة في “مدير كلمات المرور” داخل كروم.

تصدٍ للهجمات وتعلم مستمر

إلى جانب كل ما سبق، طورت “غوغل” مصنفاً خاصاً لاكتشاف هجمات حقن التعليمات (Prompt Injection)، وتختبر قدرات الوكلاء ضد هجمات حقيقية طورها باحثون متخصصون.

وتأتي هذه الخطوات في وقت يتسابق فيه مطورو المتصفحات المعتمدة على الذكاء الاصطناعي لحماية مستخدميهم؛ إذ أطلقت منصة “Perplexity” مؤخراً نموذجاً مفتوح المصدر لكشف المحتوى الضار بهدف منع الهجمات التي تستهدف الوكلاء الأذكياء.