O governador da Califórnia, Gavin Newsom, vetou o projeto de lei SB 1047, que visava impedir o uso indevido da inteligência artificial (IA) que poderia causar "dano crítico" aos seres humanos. A Assembleia Estadual da Califórnia aprovou a legislação em 28 de agosto com 41 votos a 9, mas entidades como a Câmara de Comércio pediram ao governador que a rejeitasse.
Em sua mensagem de veto datada de 29 de setembro, Newsom reconheceu que, embora o projeto fosse "bem-intencionado," ele não considerava fatores críticos, como a implementação da IA em ambientes de alto risco e a gestão de dados sensíveis. Em vez disso, ele destacou que o projeto impunha padrões rigorosos até mesmo para funções básicas de IA utilizadas em sistemas grandes.
O SB 1047 buscava responsabilizar os desenvolvedores de modelos de IA pela implementação de protocolos de segurança para evitar resultados catastróficos. As medidas de segurança exigidas incluíam testes rigorosos, avaliações externas de riscos e um recurso de "parada de emergência," com penalidades que começavam em US$ 10 milhões por violações iniciais e escalavam para US$ 30 milhões em infrações subsequentes. Contudo, a versão revisada removeu a capacidade do procurador-geral do estado de processar empresas de IA por negligência, a menos que um evento catastrófico ocorresse, limitando as ações legais potenciais a recursos injuncionais nessas situações.
A legislação visava regular modelos de IA com custo operacional mínimo de US$ 100 milhões e capacidades de treinamento de 10^26 FLOPS. Também afetaria projetos desenvolvidos com investimentos significativos de terceiros superiores a US$ 10 milhões. Qualquer empresa operando na Califórnia precisaria cumprir as estipulações do projeto se atendesse a esses critérios.
Newsom expressou preocupação com o foco restrito do projeto em sistemas de IA em grande escala, afirmando: "Não acredito que esta seja a melhor abordagem para proteger o público de ameaças reais que a tecnologia apresenta." Ele advertiu que essa ênfase poderia criar uma falsa sensação de segurança, uma vez que modelos menores e especializados poderiam representar riscos equivalentes, senão maiores, e sufocar inovações benéficas ao público.
A versão anterior do SB 1047 propunha a criação de uma Divisão de Modelos de Fronteira para regular as tecnologias de IA. No entanto, o projeto foi modificado para colocar a supervisão sob uma Junta de Modelos de Fronteira dentro da Agência de Operações Governamentais, com membros nomeados pelo governador e pela legislatura.
Autor do projeto, o senador estadual da Califórnia Scott Wiener enfrentou forte oposição da comunidade de tecnologia. Pesquisadores proeminentes em IA, como Geoffrey Hinton e Yoshua Bengio, apoiaram a iniciativa, expressando preocupações sobre os perigos da IA. Wiener enfatizou a importância de medidas proativas, afirmando: "Não vamos esperar que algo ruim aconteça."
Em sua mensagem de veto, Newsom reafirmou o compromisso do estado com a segurança, insistindo: "A Califórnia não abandonará sua responsabilidade. Protocolos de segurança devem ser adotados, e consequências claras para os maus atores precisam ser aplicáveis." Ele defendeu um framework regulatório que evolua em paralelo com os avanços da IA.
O projeto recebeu considerável oposiçãode líderes e organizações de tecnologia, incluindo a pesquisadora Fei-Fei Li e o cientista chefe de IA da Meta, Yann LeCun, que criticaram o projeto por potencialmente atrapalhar a inovação em IA. Grupos comerciais de tecnologia, representando grandes empresas como Amazon, Apple e Google, alertaram que o SB 1047 poderia sufocar novos desenvolvimentos no setor de tecnologia da Califórnia. Além disso, a firma de capital de risco Andreessen Horowitz e várias startups levantaram preocupações sobre as implicações financeiras para inovadores em IA, levando a emendas na versão do SB 1047 que avançou pelo Comitê de Apropriações da Califórnia em 15 de agosto.
Classificação
