تريد Microsoft التأكد من عدم وقوعنا ضحية لمنظمة العفو الدولية القاتلة

قد يتمكن أي شخص قلق بشأن تهديد صعود Skynet-Esque للآلات من الراحة قليلاً بعد إصدار تدابير وقائية جديدة مصممة لتجنب انتفاضة محتملة للذكاء الاصطناعي.
تعاونت شركة MITER Corporation غير الربحية مع 12 شركة تكنولوجية كبرى ، بما في ذلك شركات مثل Microsoft و IBM و Nvidia لإطلاق Adversarial ML Threat Matrix.
تقول المجموعة إن النظام عبارة عن إطار عمل مفتوح تم إنشاؤه لمساعدة محللي الأمن في اكتشاف التهديدات التي تستهدف أنظمة التعلم الآلي (ML) وتنبيهها والاستجابة لها ومعالجتها.
اختيارنا لأفضل خدمات الحوسبة السحابية اليوم
فيما يلي أفضل محطات العمل لجميع احتياجات الكمبيوتر الشخصي
لقد وجدنا أفضل خيار لبرنامج إدارة السحابة
مصفوفة ML
تقول Microsoft إن الدافع وراء الإصدار هو استمرار النمو في عدد الهجمات ضد أنظمة ML التجارية في جميع أنحاء العالم. استطلعت الشركة مجموعة مختارة من 28 شركة كبرى ، ووجدت أن جميعها تقريبًا لا تزال غير مدركة للتهديد الذي يمكن أن يشكله التعلم الآلي العدائي ، حيث قال 25 من أصل 28 إنهم لا يمتلكون الأدوات المناسبة لتأمينهم. أنظمة ML.
من أجل المساعدة في طمأنة هذه المنظمات وتقديم المشورة لها ، فإن Adversarial ML Threat Matrix تتطلع إلى المساعدة في تمكين فرق الأمان للدفاع ضد الهجمات على أنظمة ML.
تحتوي المصفوفة على عدد من نقاط الضعف السابقة وسلوكيات الخصوم التي رصدتها Microsoft و MITER على مر السنين ، بالإضافة إلى مجموعة كاملة من خبرات Microsoft في قطاع الأمن.
وقالت مايكروسوفت في إحدى المدونات: "وجدنا أيضًا أنه عند مهاجمة نظام ML ، يستخدم المهاجمون مجموعة من" الأساليب التقليدية "مثل التصيد والحركة الجانبية جنبًا إلى جنب مع تقنيات تعلم الآلة العدائية".
مستودع Adversarial ML Threat Matrix GitHub مفتوح الآن للشركات المهتمة بمعرفة المزيد.
"عندما يتعلق الأمر بأمن التعلم الآلي ، فإن الحواجز بين المساعي والمسؤوليات العامة والخاصة غير واضحة ؛ وأشار ميكيل رودريغيز ، مدير أبحاث التعلم الآلي ، MITER إلى أن تحديات القطاع العام مثل الأمن القومي ستتطلب تعاون الجهات الفاعلة الخاصة بقدر ما تتطلب الاستثمارات العامة.
"لذلك ، من أجل المساعدة في مواجهة هذه التحديات ، نحن في MITER ملتزمون بالعمل مع مؤسسات مثل Microsoft والمجتمع الأوسع لتحديد نقاط الضعف الحرجة عبر سلسلة توريد التعلم الآلي. هذا الإطار هو الخطوة الأولى في المساعدة على جمع المجتمعات معًا تمكين المؤسسات من التفكير في التحديات الناشئة في تأمين أنظمة التعلم الآلي بشكل أكثر شمولية ".