O Primeiro-Ministro do Reino Unido, Rishi Sunak, enfatizou a necessidade de uma visão equilibrada sobre a inteligência artificial (IA) enquanto se prepara para a Cúpula de Segurança em IA, marcada para os dias 1 e 2 de novembro. Em sua fala na Royal Society, a principal instituição científica do país, ele reconheceu os riscos significativos associados à IA, especialmente seu potencial de uso indevido por atores mal-intencionados. No entanto, ele alertou contra uma postura excessivamente alarmista.
“Atualmente, as entidades que desenvolvem IA também são responsáveis por testar sua segurança, e mesmo elas costumam não ter uma compreensão completa das capacidades futuras de seus modelos,” comentou Sunak. “Existem incentivos poderosos para competir criando os modelos mais avançados rapidamente, o que nos leva a questionar se devemos confiar que eles avaliem seus próprios resultados.”
Sunak se opôs a regulamentos precipitados que poderiam sufocar a inovação, afirmando: “Como podemos criar leis eficazes sobre algo que não compreendemos totalmente? Em vez disso, estamos promovendo capacidades de classe mundial dentro do governo para entender e avaliar a segurança dos modelos de IA.” A abordagem do governo britânico em relação à legislação sobre IA tem sido notavelmente menos rigorosa em comparação com a União Europeia, que delineou seus requisitos em um documento branco e delegou a criação de regras aos reguladores em domínios específicos.
Em junho, durante a conferência AI Summit London, o ministro de IA do país indicou que as regulamentações futuras complementarão padrões técnicos e técnicas de garantia, sinalizando possíveis melhorias na supervisão.
Uma Abordagem Colaborativa para a Segurança em IA
Sunak expressou sua intenção de trabalhar em colaboração com outras nações na segurança da IA, ao invés de adotar uma postura adversarial. Esse espírito colaborativo se reflete no convite estendido à China para participar da cúpula, apesar das tensões existentes com os EUA. Ele articulou a importância de envolver diversas perspectivas, afirmando: “Uma estratégia séria para a IA deve envolver diálogos com todas as principais potências de IA do mundo.”
A China implementou regulamentações rigorosas para suas empresas de IA, exigindo uma revisão de segurança pelo órgão nacional de supervisão de dados antes que novos modelos de IA generativa possam ser lançados ao público. No entanto, o governo chinês indicou disposição para participar de discussões internacionais sobre supervisão da IA, embora o presidente Xi Jinping tenha enfatizado o foco na segurança nacional.
O Vice-Primeiro-Ministro, Oliver Dowden, confirmou que a China aceitou o convite para a cúpula, embora tenha destacado a necessidade de aguardar a confirmação de todos os participantes potenciais.
Sunak espera que a cúpula promova uma compreensão compartilhada dos riscos da IA e busque um consenso sobre a primeira declaração internacional a respeito desses desafios. Ele imagina a criação de um “painel de especialistas verdadeiramente global” em IA, composto por indicações dos países e organizações participantes, encarregado de publicar um relatório abrangente sobre o ‘Estado da Ciência da IA’.
“Nosso sucesso depende da colaboração com as empresas de IA. À medida que a tecnologia avança, devemos garantir que nossa compreensão coletiva dos riscos se adapte simultaneamente,” afirmou. Essa iniciativa está alinhada com pedidos de figuras proeminentes, incluindo o Secretário-Geral da ONU, António Guterres, para a criação de um órgão regulador global para monitorar a segurança da IA, semelhante à Agência Internacional de Energia Atômica (AIEA).
Perspectivas e Preocupações da Indústria
Enquanto Sunak promove a visão do Reino Unido como uma potência líder em IA, o governo alocou 120 milhões de dólares para um grupo que aconselhará sobre questões de IA, incluindo o laureado com o Prêmio Turing, Yoshua Bengio. A cúpula contará com líderes proeminentes da indústria, como o CEO da OpenAI, Sam Altman, e o CEO da Google DeepMind, Demis Hassabis, ao lado de políticos de destaque como a Vice-Presidente dos EUA, Kamala Harris.
Maya Dillon, Chefe de IA na Cambridge Consultants, enfatizou a necessidade de cooperação em meio à revolução da IA, afirmando: “O desafio não é apenas abraçar a IA, mas direcionar seu curso de forma consciente. Essa revolução deve entrelaçar o sucesso empresarial com o bem-estar da sociedade, exigindo colaboração genuína.”
Paul Henninger, Chefe de Tecnologia Conectada na KPMG Reino Unido, observou que, embora a cúpula possa impulsionar estratégias colaborativas de avaliação de risco, as organizações também esperarão atualizações regulares à medida que a tecnologia continuar a evoluir.
Apesar das metas ambiciosas estabelecidas para a cúpula, Chris Royles, CTO de Campo da EMEA na Cloudera, considerou a busca por regulamentações abrangentes como uma aspiração elevada. Ele sugeriu que as empresas deveriam se concentrar em treinar seus modelos de IA com fontes de dados confiáveis. Da mesma forma, Fabien Rech, gerente geral da Trellix, defendeu a priorização de medidas de segurança no desenvolvimento de IA para aumentar a confiança e proteger contra ameaças cibernéticas.
Destacando os Riscos da IA
Antes do discurso de Sunak, o governo do Reino Unido divulgou um documento delineando os potenciais riscos da IA, que incluíram:
- Danos Sociais: A geração de desinformação e deepfakes, interrupções de emprego devido à automação e preconceitos algorítmicos que poderiam levar a resultados injustos.
- Riscos de Uso Indevido: O potencial de tecnologias de IA para facilitar a criação de armas ou aumentar a efetividade de ciberataques e esforços de desinformação.
- Riscos de Perda de Controle: Preocupações sobre a entrega de poderes de decisão a sistemas de IA desalinhados e agentes avançados que buscam aumentar sua influência.
O relatório também delineou desafios pervasivos que poderiam aumentar esses riscos, como as complexidades de projetar sistemas de IA seguros, avaliar sua segurança e garantir responsabilidade em sua implementação.
Em resposta ao relatório, Sjuul van der Leeuw, CEO da Deployteq, elogiou a abordagem séria do governo do Reino Unido em relação à segurança da IA, reconhecendo as significativas oportunidades que a IA oferece em várias indústrias, dependendo de uma regulamentação eficaz e orientações dos formuladores de políticas.
Classificação
