Yann LeCun, cientista-chefe de IA da Meta, criticou publicamente os apoiadores do polêmico projeto de lei de segurança em IA da Califórnia, SB 1047, nesta quarta-feira. Este descontentamento ocorreu logo após o apoio de Geoffrey Hinton à legislação, um dia antes. Esse desacordo entre pioneiros da IA destaca as divisões significativas dentro da comunidade sobre o futuro da regulamentação de IA.
A legislatura da Califórnia aprovou o SB 1047, que aguarda a assinatura do governador Gavin Newsom. O projeto gerou um intenso debate sobre a regulamentação de IA, propondo responsabilização para desenvolvedores de modelos de IA em larga escala que causarem danos catastróficos sem as devidas medidas de segurança. Ele foca especificamente em modelos que custam pelo menos US$ 100 milhões para treinar e aqueles operando na Califórnia, a quinta maior economia do mundo.
A Batalha dos Titãs da IA: LeCun vs. Hinton sobre o SB 1047
LeCun, uma figura chave em deep learning, argumenta que muitos apoiadores do projeto possuem uma "visão distorcida" das capacidades da IA. "Essa distorção decorre da falta de experiência, ingenuidade sobre os desafios futuros e estimativas exageradas do progresso de suas organizações", postou na plataforma X (anteriormente Twitter).
Seus comentários miravam diretamente o apoio de Hinton a uma carta aberta, assinada por mais de 100 funcionários atuais e antigos de empresas líderes em IA, como OpenAI e Google DeepMind. Essa carta, enviada ao governador Newsom em 9 de setembro, pediu a ele que sancionasse o SB 1047, citando sérios riscos de poderosos modelos de IA, incluindo a potencial exploração para armas biológicas e ciberataques a infraestruturas críticas.
Esse desentendimento público entre LeCun e Hinton ilustra as complexidades da regulamentação de uma tecnologia em rápida evolução. Hinton, que deixou o Google no ano passado para expressar preocupações sobre os riscos da IA, representa aqueles que acreditam que os sistemas de IA podem criar ameaças existenciais em breve. Em contraste, LeCun defende que tais apreensões são prematuras e prejudiciais à pesquisa aberta.
Dentro do SB 1047: O Projeto de Lei Controverso que Está Reformulando a Regulamentação da IA
O debate em torno do SB 1047 rompeu as alianças políticas tradicionais. Apoios notáveis incluem Elon Musk, apesar de críticas anteriores ao autor do projeto, o senador estadual Scott Wiener. Por outro lado, opositores incluem a ex-presidente Nancy Pelosi e a prefeita de San Francisco, London Breed, além de importantes empresas de tecnologia e capitalistas de risco.
A Anthropic, uma empresa de IA que inicialmente se opôs ao projeto, mudou sua posição após emendas, afirmando que "os benefícios do projeto provavelmente superam seus custos". Essa mudança ressalta a natureza evolutiva da legislação e as negociações em curso entre os legisladores e o setor tecnológico.
Críticos afirmam que o SB 1047 pode sufocar a inovação e prejudicar empresas menores e projetos de código aberto. Andrew Ng, fundador da DeepLearning.AI, argumentou na revista TIME que o projeto "comete o erro fundamental de regular uma tecnologia de uso geral em vez de suas aplicações."
Os defensores, no entanto, sustentam que os potenciais riscos do desenvolvimento não regulamentado de IA superam essas preocupações. Eles acreditam que o foco em modelos com orçamentos superiores a US$ 100 milhões garante que apenas grandes empresas bem-resourced, capazes de estabelecer medidas de segurança robustas, sejam afetadas.
Silicon Valley Dividido: Como o SB 1047 Divide o Mundo da Tecnologia
A participação de funcionários atuais de empresas que se opõem ao projeto revela desacordos internos sobre a necessidade de equilibrar inovação e segurança.
Enquanto o governador Newsom considera a decisão de assinar o SB 1047, ele enfrenta uma escolha que pode influenciar a trajetória do desenvolvimento de IA na Califórnia e potencialmente em todo os EUA. Com a União Europeia avançando com seu AI Act, a decisão da Califórnia pode determinar se os EUA adotam uma abordagem mais proativa ou mais cautelosa em relação à regulamentação federal da IA.
O confronto entre LeCun e Hinton representa um microcosmo do debate mais amplo sobre segurança e regulamentação da IA. Isso enfatiza o desafio que os formuladores de políticas enfrentam ao elaborar legislações que abordem efetivamente preocupações de segurança sem obstruir o progresso tecnológico.
À medida que o campo da IA evolui rapidamente, o resultado dessa batalha legislativa na Califórnia pode estabelecer um precedente crucial para como a sociedade gerencia as promessas e os perigos dos sistemas avançados de inteligência artificial. Observadores da indústria de tecnologia, formuladores de políticas e o público estarão atentos à decisão do governador Newsom nas próximas semanas.
Classificação
