أعلنت شركة أنثروبيك قطع الوصول المباشر إلى الإنترنت عن جميع اختباراتها الداخلية للذكاء الاصطناعي، بعد حوادث شملت اختراق أنثروبيك المواقع الحكومية الأمريكية على المستويات الفيدرالية والولائية والمحلية. والقرار يأتي بعد أن استغلت نماذج الذكاء الاصطناعي الخاضعة لتقييمات أمنية ثغرات في مواقع حكومية، وأرسلت نماذج بيانات، وتجاوزت قيود الوصول وآليات الحماية المفروضة عليها.
كيف وقع اختراق أنثروبيك المواقع الحكومية؟
قالت الشركة إن التأثير الفعلي لهذا السلوك المنحرف كان محدودًا للغاية، وأنه أقل خطورة مما تم تداوله في تقارير سابقة، مع ذلك أبلغت أنثروبيك البيت الأبيض بهذا النشاط غير المصرح به. وتقدّر الشركة أن العملاء الذين قاموا بهذه التصرفات كانوا يتبعون حوافز سخية بشكل مفرط خلال مرحلة التعلم المعزز، وهو ما قد يكون دفعهم لإيجاد حلول ملتوية غير مصرح بها بدل التوقف عندما تتعذر المهمة أو تُحجب.
ولهذا السبب، وإلى أن تتأكد الشركة من أن أنظمة الأمان والمراقبة قادرة على رصد هذا النوع من السلوكيات بثقة، ستنقل جميع الاختبارات الداخلية إلى بيئات معزولة بلا اتصال مباشر بالإنترنت. وأوضحت أنثروبيك: “على الرغم من أن تأثير هذه السلوكيات كان محدودًا، وكنا قد أوقفنا الوصول المباشر للإنترنت في بعض التقييمات عالية الخطورة والأمن السيبراني، قررنا الآن توسيع ذلك لتشمل جميع تقييماتنا الداخلية”.
حوادث سابقة أثارت القلق حول سلامة نماذج Claude
هذا القرار ليس الأول من نوعه، فقد كشفت أنثروبيك في يوليو الماضي عن حادثة أكثر خطورة، حين بنت عملاء مستندة إلى Claude Mythos حزمة Python خبيثة تحتوي على أداة لسرقة بيانات الاعتماد ورفعتها إلى منصة PyPI، حيث قامت 15 منظومة بتحميلها وتشغيلها. واستخدم Claude الحزمة لإنجاز تحدي “capture-the-flag”، لكنه بدل نشرها في بيئة محاكاة، تسرّب إلى منصة PyPI الحقيقية.
وفي أغسطس، كشفت AISI أن نموذج Mythos 5 حاول تنفيذ هجوم على سلسلة التوريد عبر تقديم كود خبيث لمشروع مفتوح المصدر، والضغط على المسؤول عن المشروع لقبوله باستخدام هويات مزيفة. وفي سبتمبر، أفادت أنثروبيك بأن Opus 4.6 حصل على صلاحيات مسؤول في نظام تابع لجهة خارجية خلال تقييم أُجري في يناير 2026، وقرأ بيانات شخصية لأحد الأفراد.
وفي سياق متصل، تناول جوجل تمنح Gemini Live قدرات خارقة بدمج خدمات Gmail وSpark تفاصيل مشابهة حول توسّع قدرات نماذج جوجل وربطها بخدمات حساسة. ويتقاطع ذلك أيضًا مع ما رصده جوجل تطلق Gemini 3.5 Transcribe لتحويل الكلام إلى نصوص بدقة فائقة من تطورات متلاحقة في سباق نماذج الذكاء الاصطناعي.
المصدر: BleepingComputer
