Dinheiro e Política se Encontram na Segurança da IA: A Ascensão de um Novo Super PAC

Em janeiro, entrevistei Mark Beall, cofundador e ex-CEO da Gladstone AI, cuja consultoria recentemente divulgou um relatório inovador sobre segurança em IA para o Departamento de Estado. As principais recomendações do relatório, publicadas pela TIME, delineiam como os EUA devem abordar os riscos significativos à segurança nacional associados à IA avançada.

Durante nossa conversa, explorei o crescente debate entre líderes de IA e políticas sobre a influência do altruísmo eficaz (EA) nos círculos de segurança em IA em Washington, D.C. Beall, ex-chefe de políticas de IA do Departamento de Defesa dos EUA, expressou uma forte urgência em gerenciar potenciais ameaças catastróficas relacionadas à IA. Ele enfatizou a necessidade de "salvaguardas sensatas" nas redes sociais, alertando que devemos agir antes de enfrentarmos um desastre relacionado à IA.

Para muitos, "segurança em IA" evoca preocupações sobre riscos existenciais, frequentemente alimentadas por sistemas de crença como o altruísmo eficaz. Os autores da Gladstone AI relataram ter consultado mais de 200 funcionários do governo, especialistas e profissionais de laboratórios de IA renomados, como OpenAI e Google DeepMind, durante sua extensa pesquisa.

No entanto, o relatório enfrentou ceticismo nas redes sociais. Nirit Weiss-Blatt, pesquisadora em comunicação, destacou comentários do coautor Eduoard Harris sobre o criticado problema do "maximizador de clipes de papel", que alguns consideram um cenário extremo. Além disso, Aidan Gomez, CEO da Cohere, criticou a legitimidade da pesquisa, sugerindo que os usuários poderiam obter resultados mais representativos por meio de enquetes nas redes sociais. William Falcon, CEO da Lightning AI, descartou ainda as alegações de que a IA de código aberto representa ameaças de extinção, argumentando que a IA de código fechado pode ser potencialmente mais perigosa.

Curiosamente, a saída de Beall da Gladstone coincidiu com o lançamento do que ele descreveu como "o primeiro Super PAC de segurança em IA." Lançado junto com o relatório da Gladstone, o PAC tem como objetivo educar os eleitores sobre a política de IA, sublinhando o crescente impacto público dessa questão. Beall mencionou ter garantido financiamento inicial para o Super PAC e planos de arrecadar milhões a mais.

O histórico do cofundador Brendan Steinhauser como consultor republicano enfatiza a missão bipartidária do PAC. Beall afirmou: "Queremos que legisladores de ambos os lados promovam a inovação e protejam a segurança nacional." A experiência de Steinhauser em política nacional, que abrange duas décadas, apoia esse objetivo.

Embora o lançamento simultâneo do Super PAC e do relatório da Gladstone possa parecer incomum, Jeremie Harris, cofundador da Gladstone, esclareceu que o relatório foi encomendado pelo Escritório de Segurança Internacional e Não Proliferação do Departamento de Estado para fornecer uma análise especializada imparcial. Ele assegurou que a Gladstone opera de forma independente de quaisquer afiliações políticas ou influências de financiamento.

Beall reconheceu a importância do relatório da Gladstone, mas enfatizou que "agora, o verdadeiro trabalho começa." Ele pediu ao Congresso que aprove uma legislação que garanta uma abordagem flexível e de longo prazo para o desenvolvimento da IA. Quando questionado sobre possíveis doadores, Beall expressou esperanças de formar uma coalizão diversificada, citando a preocupação generalizada da nação sobre os riscos catastróficos da IA.

Embora o foco público também possa ser atraído para ameaças imediatas, como deepfakes e desinformação eleitoral, é claro que a segurança em IA e as políticas relacionadas se entrelaçarão com financiamento e política daqui para frente.