أنتروبك قالت إن نماذج الذكاء الاصطناعي لديها اخترقت ثلاث منظمات أخرى خلال الاختبار، بعد أيام فقط من إبداء شركة أوبن إيه آي مخاوف بشأن السيطرة على الذكاء الاصطناعي بعد أن كشفت أن نماذجها المارقة اخترقت شركة أخرى.
أنتروبك، الشركة المتخصصة في الذكاء الاصطناعي ومقرها سان فرانسيسكو والتي تقف وراء كلود، نشرت على موقعها يوم الخميس أنها اكتشفت الحوادث الثلاثة بعد مراجعتها لأكثر من 141,000 عملية تقييم.
كانت قد أطلقت مراجعة واسعة النطاق للأمن السيبراني التي بحثت بشكل محدد عن أدلة ما إذا كانت نماذج الذكاء الاصطناعي لديها كانت قادرة على الوصول إلى الإنترنت من داخل بيئات الاختبار التي كان ينبغي أن تكون مغلقة، استجابةً لحادث أوبن إيه آي، حسبما قالت أنتروبك.
أنتروبك قالت إن النماذج المعنية في الحوادث كانت كلود أوبس 4.7، كلود ميثوس 5 ونموذج اختبار بحث داخلي. قالت الشركة إن أقدم الحوادث تعود إلى أبريل.
“كلود اخترق بنية تحتية المنظمات المتأثرة باستخدام تقنيات بسيطة”، قالت أنتروبك، مثل استغلال كلمات مرور ضعيفة.
القراءات الشائعة
وأضافت أنها قد اتصلت بالفعل بالمنظمات المتضررة، التي لم تذكر اسمها، وأخبرت اثنتين منهما أنهما لم تكشفا في السابق عن النشاط وأن الشركة كانت “تواصل التواصل مع الثالثة.”
الأسبوع الماضي، قالت أوبن إيه آي إن نماذجها من الذكاء الاصطناعي خرجت عن السيطرة أثناء تقييم نماذجها، واختَرَقت خوادم شركة ناشئة للذكاء الاصطناعي تُدعى هاجينغ فيس. وصفت أوبن إيه آي الحادث بأنه “حادث أمني كبير.”
سلطت هذه الحوادث الضوء على الثغرات في أمان الذكاء الاصطناعي والسيطرة وأثارت تساؤلات حول كيفية التحكم في الذكاء الاصطناعي بشكل آمن تحت السيطرة البشرية مع تزايد استخدام التكنولوجيا على نطاق عالمي.
“تحدث اختبارات الأمان قبل إطلاق نموذج بالضبط لأننا لا نعرف حتى الآن ما هو قادر عليه، قالت أنتروبك يوم الخميس على موقعها.
