"أنثروبيك" تقرّ بفشل أمني في واقعة اختراق نماذجها لثلاث مؤسسات

أقرّت شركة الذكاء الاصطناعي الأميركية "أنثروبيك" بأنّ سلسلة من حوادث الاختراق التي نفذتها نماذجها كشفت عن "فشل في الأمن التشغيلي"، مؤكدةً أنها شدّدت إجراءات اختبار أنظمتها بعد تلك الحوادث. وكانت "أنثروبيك"، مطوّرة "كلود"، قد كشفت، في يوليو/ تموز الماضي، أنّ نماذجها تمكّنت خلال خضوعها لاختبارات من الوصول إلى الإنترنت المفتوح، ووصلت من دون تصريح إلى أنظمة ثلاث مؤسسات لم تكشف عن أسمائها.

وقالت الشركة، في تدوينة نشرتها، أمس الثلاثاء، إنّ تقنياتها "ليست متوافقة تماماً" مع القيم والأهداف البشرية. وأوضحت أنّ النماذج خضعت للاختبارات من دون تطبيق إجراءات الحماية الخاصة بالأمن السيبراني بشكل متعمّد، مشيرةً إلى أنها تمكنت من الوصول إلى الإنترنت المفتوح بسبب سوء تفاهم مع شركة خارجية تتولى الاختبارات. وأضافت: "كنا نعتمد إلى حدّ كبير على طبقة دفاع واحدة، في حين كنا في حاجة إلى عدّة طبقات".

وإثر هذه الحادثة أوقفت "أنثروبيك" مؤقتاً اختبارات الأمن السيبرانية الداخلية والخارجية لنماذجها بهدف إدخال تعديلات تعزّز السلامة. وأضافت منذ ذلك الحين مجموعة إجراءات، منها نظام إنذار يطلق تنبيهاً عند محاولة أحد النماذج الخروج من بيئة الاختبار أو عندما يحصل على إمكانية الوصول إلى الإنترنت، وتعزيز عزل بيئات الاختبار الأكثر خطورة، فضلاً عن إلزام الشركات الخارجية المتعاونة معها بمجموعة من معايير السلامة.

وأشارت الشركة في تدوينتها إلى أن إعدادات التدريب المعيبة كانت من "أكبر المساهمين" في السلوك غير المتوافقة مع القيم البشرية، مثل الامتناع عن إلحاق الضرر. وحدّدت مشكلتين ظهرتا خلال هذه الحوادث، الأولى هي استمرار النماذج بالتصرف على أنها موجودة داخل بيئة محاكاة رغم عثورها على أدلة تشير إلى اتصالها بالإنترنت. أما الثانية فكانت تهوّر النماذج التي أظهرت استعداداً للقيام بإجراءات ضارة على الإنترنت لتحقيق هدف محدّد هو اجتياز اختبار للأمن السيبراني.

تكنولوجيا

التحديثات الحية

البنتاغون يطلق نسخته الخاصة من "تشات جي بي تي" و"غروك"

وجدّدت "أنثروبيك" الدعوة إلى اتخاذ إجراءات منسّقة بين الحكومات وشركات الذكاء الاصطناعي لضبط وتيرة تطور هذه التكنولوجيا. وقالت: "نؤمن بأن العالم سيستفيد إذا تبنى هذا القطاع آلية قانونية وفعالة وقابلة للتحقّق لتنسيق وتيرة التطوير في أقرب وقت ممكن". وأضافت: "أكدت حوادث شهر يوليو أن الحاجة الملحة إلى تحسين دفاعاتنا في مجال الأمن السيبراني أكبر بكثير ممّا كنا نعتقده سابقاً".