IA Responsável: Uma Discussão Crítica em Tecnologia
A IA Responsável é um tema central no atual cenário tecnológico. Com os desenvolvedores de modelos se esforçando para evitar o uso negligente ou mal-intencionado da IA generativa e dos grandes modelos de linguagem (LLMs), as regulamentações globais sobre IA estão em evolução. No entanto, os desenvolvedores de IA e as organizações necessitam de soluções eficazes imediatamente.
Essa crescente preocupação levou à adoção de licenças com cláusulas específicas de uso comportamental, incluindo as Licenças de IA Responsável (RAIL), que têm um caráter não lucrativo. Essas licenças limitam legalmente a forma como modelos de IA, códigos e dados de treinamento podem ser utilizados quando compartilhados.
Para facilitar ainda mais a customização e a padronização durante a adoção acelerada da IA generativa, a RAIL lançou o Gerador de Licenças Rail. Essa ferramenta inovadora permite que os desenvolvedores de IA escolham artefatos relevantes para licenciamento e imponham restrições de uso a partir de um catálogo selecionado.
"Um modelo de base geralmente oferece ampla versatilidade — pode interpretar diferentes idiomas e ser aplicado em aplicações posteriores com ajustes mínimos," explicou Daniel McDuff, co-presidente da RAIL. Ele acrescentou: "Antes, havia menos necessidade de restrições de aplicação. Hoje, no entanto, esses modelos versáteis podem ser facilmente reutilizados, o que torna essas licenças essenciais."
Codificando Princípios Éticos com Autoridade Legal
Desde sua criação em 2018, a iniciativa RAIL cresceu e abrange 41.700 repositórios de modelos com licenças RAIL. Modelos notáveis que incorporam cláusulas de uso comportamental incluem BLOOM da Hugging Face, Llama 2 da Meta, Stable Diffusion e Grid.
O Gerador de Licenças Rail tem como objetivo aumentar esse número, reduzindo as barreiras de acesso. Desenvolvida pelo Grupo de Trabalho RAIL sobre Ferramentas e Governança Processual, liderado por Jesse Josua Benjamin, Scott Cambo e Tim Korjakow, essa ferramenta proporciona um processo simplificado para a criação de licenças personalizadas.
Os usuários começam selecionando um tipo de licença, o que gera um modelo inicial. Os tipos de licença disponíveis incluem:
- Open RAIL: Permite que os desenvolvedores utilizem, distribuam e modifiquem artefatos licenciados, desde que sigam as restrições comportamentais estabelecidas.
- Research RAIL: Limita o uso de artefatos licenciados apenas para fins de pesquisa, proibindo o uso comercial e mantendo as restrições comportamentais.
- RAIL: Exclui cláusulas de uso comportamental, mas pode incluir termos adicionais que governam quem pode usar o artefato licenciado e a forma de uso.
Na próxima etapa, os usuários escolhem os artefatos a serem licenciados ou compartilhados, frequentemente envolvendo a liberação cuidadosa de códigos, algoritmos ou modelos associados à IA. Eles podem, então, selecionar entre uma variedade de restrições específicas do sistema.
A licença final é exportada com opções nos formatos LaTeX, texto bruto e Markdown, além de downloads em PNG de ícones de domínio e QR codes que levam à licença completa.
O Gerador de Licenças Rail apoia indivíduos que não têm acesso a equipes jurídicas, embora seja utilizado por organizações de grande e pequeno porte. McDuff observou uma "camada comum de insegurança" na redação de documentos de licença, uma vez que a linguagem deve ser adaptada a domínios, contextos e tipos de IA específicos. Muitos desenvolvedores hesitam, sentindo-se não qualificados para redigir termos legais devido a seus antecedentes em ciência da computação ou pesquisa.
"Agora, criar uma licença leva apenas minutos, uma vez que você identifica as cláusulas que deseja incluir," afirmou McDuff. "Essa ferramenta codifica princípios éticos com autoridade legal."
O Impacto da IA em Processos Científicos Tradicionais
A abertura e as iniciativas de código aberto são fundamentais para a pesquisa científica e o avanço tecnológico, permitindo a verificação e auditoria de descobertas. Essa transparência beneficiou substancialmente a IA, embora modelos de base apresentem desafios únicos devido à sua natureza adaptável.
Embora os desenvolvedores frequentemente criem modelos poderosos com boas intenções, a versatilidade desses modelos pode levar a aplicações indesejadas ou prejudiciais. A descentralização agrava esses riscos, complicando a responsabilização e o recurso para os usuários finais.
"O código aberto é vantajoso, mas se torna mais complexo quando um único ator pode exercer uma influência significativa a jusante, como a disseminação de desinformação," alertou McDuff.
Danish Contractor, co-presidente da RAIL, destacou a confusão que os desenvolvedores enfrentam sobre as restrições de uso. "Muitos assumem que se 'a IA pode fazer X, então pode fazer Y'," ele explicou. Por exemplo, um modelo médico poderia ser mal utilizado — intencional ou involuntariamente — em áreas como robótica ou aplicações militares.
A comunicação eficaz e o acesso a ferramentas para monitorar e aplicar violações de licenciamento são essenciais, enfatizou Contractor. Restrições comportamentais podem oferecer um equilíbrio de consistência e diversidade nas cláusulas aplicadas. Enquanto algumas cláusulas são universalmente aplicáveis, como aquelas contra discriminação e desinformação, a padronização é crucial.
"Há uma necessidade de ferramentas que ajudem a criar licenças familiares e flexíveis, com um nível necessário de linguagem jurídica," reiterou McDuff. Ele concluiu: "O risco associado ao uso inadequado de código aberto é muito significativo para empresas como Google ou Microsoft ignorarem."
Classificação
