Qualquer pessoa preocupada com a ameaça de um aumento nas máquinas estilo Skynet pode ficar um pouco mais tranquila após o lançamento de novas salvaguardas projetadas para prevenir um potencial AI elevação.
A organização sem fins lucrativos MITER Corporation fez parceria com 12 empresas de tecnologia de primeira linha, incluindo empresas como Microsoft, IBM e Nvidia, para lançar a Adversarial ML Threat Matrix.
O grupo afirma que o sistema é uma estrutura aberta criada para ajudar os analistas de segurança a detectar, alertar, responder e lidar com ameaças que visam sistemas de aprendizado de máquina (ML).
Matriz ML
A Microsoft diz que o lançamento foi motivado pelo crescimento contínuo no número de ataques contra sistemas comerciais de ML em todo o mundo. A empresa pesquisou uma seleção de 28 grandes empresas e descobriu que quase todas ainda não estão cientes da ameaça que o aprendizado de máquina adverso pode representar, com 25 das 28 dizendo que não têm as ferramentas certas para proteger seus sistemas de ML.
Para ajudar a tranquilizar e aconselhar essas organizações, a Adversary Machine Learning Threat Matrix busca ajudar a treinar equipes de segurança para se defenderem de ataques a sistemas de aprendizado de máquina.
A Matrix contém uma série de vulnerabilidades anteriores e comportamentos adversários que a Microsoft e o MITER identificaram ao longo dos anos, bem como uma série de experiências da Microsoft na indústria de segurança.
“Também descobrimos que, ao atacar um sistema de ML, os invasores usam uma combinação de ‘técnicas tradicionais’, como phishing e movimento lateral, juntamente com técnicas de ML adversárias”, disse a Microsoft em um postagem do blog.
Matriz de Ameaças Adversárias de ML Repositório GitHub Agora está aberto para empresas interessadas em mais informações.
“Quando se trata de segurança de aprendizado de máquina, as barreiras entre os esforços e responsabilidades públicos e privados estão desaparecendo; Os desafios do setor público, como a segurança nacional, exigirão a cooperação de atores privados, bem como investimentos públicos ”, disse Mikel Rodríguez, Diretor de Pesquisa em Aprendizado de Máquina do MITER.
“Portanto, para ajudar a enfrentar esses desafios, nós da MITER estamos comprometidos em trabalhar com organizações como a Microsoft e a comunidade em geral para identificar vulnerabilidades críticas na cadeia de suprimentos de aprendizado de máquina. Esta estrutura é um primeiro passo para ajudar a unir as empresas. Comunidades permitem que as organizações pensem sobre os desafios emergentes para proteger os sistemas de aprendizado de máquina de forma mais abrangente. “
