Quando Usar ART: Aproveitando o Adversarial Robustness Toolbox da IBM para Soluções de IA

A IBM está avançando na segurança da inteligência artificial (IA) por meio de sua iniciativa de código aberto, a Adversarial Robustness Toolbox (ART). Hoje, o ART é lançado na Hugging Face, oferecendo ferramentas projetadas para usuários de IA e cientistas de dados, visando minimizar riscos de segurança potenciais. Embora este lançamento marca um novo marco, o ART está em desenvolvimento desde 2018 e foi contribuído para a Linux Foundation como um projeto de código aberto em 2020. Ao longo dos anos, a IBM tem evoluído o ART como parte da iniciativa da DARPA chamada Garantindo a Robustez da IA contra a Decepção (GARD).

A preocupação com a segurança da IA se torna cada vez mais urgente com o aumento da prevalência das tecnologias de IA. Ameaças comuns incluem a contaminação de dados de treinamento e táticas de evasão que podem desviar modelos de IA por meio da injeção de dados maliciosos ou manipulação de objetos de entrada. Ao integrar o ART com a Hugging Face, a IBM busca aumentar a acessibilidade das ferramentas de segurança defensiva de IA para desenvolvedores, ajudando-os a mitigar ameaças de maneira mais eficaz. Organizações que utilizam modelos de IA da Hugging Face agora podem proteger seus sistemas contra ataques de evasão e contaminação, integrando essas defesas de forma fluida em seus fluxos de trabalho.

“A Hugging Face hospeda uma coleção substancial de modelos inovadores”, afirmou Nathalie Baracaldo Angel, Gerente de Segurança e Privacidade em IA da IBM. “Essa integração capacita a comunidade a utilizar as ferramentas de red-blue team dentro do ART para modelos da Hugging Face.”

A Jornada do ART: Da DARPA para a Hugging Face

O compromisso da IBM com a segurança da IA antecede o atual boom da IA generativa, ilustrando uma abordagem proativa para proteger tecnologias de IA. Como uma iniciativa de código aberto, o ART faz parte do projeto LF AI & Data da Linux Foundation, beneficiando-se de diversas contribuições de várias organizações. Além disso, a DARPA financiou a IBM para aprimorar as capacidades do ART sob a iniciativa GARD.

Embora a inclusão do ART na Linux Foundation permaneça inalterada, agora ele também dá suporte a modelos da Hugging Face. A Hugging Face ganhou rapidamente destaque como uma plataforma colaborativa para compartilhar modelos de IA, e a IBM estabeleceu várias parcerias com a organização, incluindo um projeto conjunto com a NASA focado em IA geoespacial.

Compreendendo a Robustez Adversarial e Sua Importância na IA

A robustez adversarial é essencial para fortalecer a segurança da IA. Angel explica que esse conceito envolve reconhecer tentativas adversariais potenciais de comprometer sistemas de aprendizado de máquina e estabelecer defesas proativas. “A área requer uma compreensão das táticas adversariais para proteger efetivamente o pipeline de aprendizado de máquina”, afirmou, enfatizando uma abordagem de red team para identificar e mitigar riscos relevantes.

Desde sua criação em 2018, o ART evoluiu para enfrentar o cenário em mudança das ameaças à IA, incluindo vários ataques e defesas em múltiplas modalidades, como detecção de objetos, rastreamento, processamento de áudio e mais. “Recentemente, focamos na integração de modelos multimodais como o CLIP, que em breve estará disponível no sistema”, observou. “No dinâmico cenário de segurança, é crucial desenvolver continuamente novas ferramentas em resposta a ameaças e defesas em evolução.”