A IA transformou drasticamente o cenário tecnológico, especialmente após o lançamento público do ChatGPT. No entanto, o rápido avanço da IA levanta preocupações significativas. Instituições líderes, como o laboratório de pesquisas em IA Anthropic, alertam sobre suas potenciais capacidades destrutivas, especialmente com a intensificação da competição entre sistemas como o ChatGPT. Questões chave incluem a perda de milhões de empregos, violações de privacidade de dados e a proliferação de desinformação, tudo isso atraiu a atenção de stakeholders globais, particularmente entidades governamentais.
Nos Estados Unidos, o Congresso tem intensificado o foco na regulamentação da IA, apresentando diversos projetos de lei com o objetivo de aumentar a transparência, desenvolver uma estrutura baseada em riscos e mais. Em outubro, a administração Biden-Harris emitiu uma Ordem Executiva sobre o Desenvolvimento e Uso Seguro, Seguro e Confiável da Inteligência Artificial. Esta ordem define diretrizes em várias áreas, incluindo cibersegurança, privacidade, viés, direitos civis, discriminação algorítmica, educação, direitos dos trabalhadores e pesquisa. Além disso, como parte do G7, a administração recentemente introduziu um código de conduta para a IA.
Da mesma forma, a União Europeia está avançando com sua proposta de legislação sobre IA, o EU AI Act. Essa regulamentação visa ferramentas de IA de alto risco que possam violar os direitos individuais, especialmente em setores como a aviação. O EU AI Act enfatiza controles essenciais para IA de alto risco, incluindo robustez, privacidade, segurança e transparência. Sistemas considerados de risco inaceitável serão proibidos no mercado.
Embora as discussões continuem sobre o papel do governo na regulamentação da IA, uma governança eficaz também beneficia as empresas. Encontrar um equilíbrio entre inovação e regulamentação pode proteger as organizações de riscos desnecessários, ao mesmo tempo em que lhes proporciona uma vantagem competitiva.
O Papel das Empresas na Governança da IA
As empresas têm a responsabilidade de mitigar os riscos associados às tecnologias de IA. A dependência da IA generativa de grandes volumes de dados levanta importantes questões de privacidade. Sem uma governança adequada, a confiança e a lealdade do consumidor podem diminuir, à medida que os clientes se preocupam sobre como suas informações sensíveis estão sendo utilizadas.
Além disso, as empresas devem estar cientes das responsabilidades potenciais ligadas à IA generativa. Se materiais gerados por IA se assemelharem a obras existentes, as empresas podem enfrentar reivindicações por violação de direitos autorais, expondo-se a repercussões jurídicas e financeiras.
É crucial reconhecer que as saídas da IA podem replicar preconceitos sociais, incorporando-os em sistemas de tomada de decisão que impactam a alocação de recursos e a visibilidade na mídia. Uma governança eficaz envolve a criação de processos robustos para minimizar os riscos de viés, o que implica envolver as partes afetadas na revisão de parâmetros e dados, promover uma força de trabalho diversificada e refinar conjuntos de dados para gerar saídas percebidas como justas.
Avançando, estabelecer uma governança sólida é essencial para proteger os direitos individuais enquanto se promove o avanço de tecnologias transformadoras de IA.
Uma Estrutura para Práticas Regulatórias
Implementar a devida diligência pode mitigar riscos, mas estabelecer uma estrutura regulatória forte é igualmente importante. As empresas devem focar nos seguintes aspectos-chave:
Identificar e Abordar Riscos Conhecidos
Embora haja divergências sobre as ameaças mais prementes representadas pela IA descontrolada, existe um consenso sobre várias preocupações, como deslocamento de empregos, violações de privacidade, proteção de dados, desigualdade social e problemas de propriedade intelectual. As empresas devem avaliar os riscos específicos relevantes para suas operações. Ao alcançar um consenso sobre esses riscos, as organizações podem criar diretrizes para abordá-los e gerenciá-los proativamente.
Por exemplo, minha empresa, Wipro, desenvolveu uma estrutura de quatro pilares voltada para promover um futuro responsável impulsionado por IA, enfocando considerações individuais, sociais, técnicas e ambientais. Essa estrutura serve como uma abordagem para as empresas estabelecerem diretrizes robustas para suas interações com sistemas de IA.
Aprimorar Práticas de Governança
As organizações que utilizam IA devem priorizar a governança para garantir responsabilidade e transparência ao longo do ciclo de vida da IA. A implementação de uma estrutura de governança ajuda a documentar os processos de treinamento de modelos, reduzindo os riscos associados à falta de confiabilidade de modelos, introdução de viés e alterações nas relações entre variáveis.
Os sistemas de IA são inerentemente sociotécnicos, compostos por dados, algoritmos e envolvimento humano. Portanto, é vital integrar considerações tecnológicas e sociais nas estruturas regulatórias. A colaboração entre empresas, academia, governo e sociedade é essencial para evitar o desenvolvimento de soluções de IA por grupos homogêneos, o que poderia levar a desafios imprevistos.
Classificação
