Justin Maier: Enfrentando Desafios e Oportunidades na IA de Código Aberto
Justin Maier, fundador da plataforma de IA de código aberto Civitai, teve um ano conturbado em Boise, Idaho, lidando com desafios pessoais e profissionais.
Criada há apenas um ano, Civitai apoia uma comunidade voltada para a descoberta, criação e compartilhamento de modelos e conteúdos gerados por imagem, utilizando o popular gerador de texto para imagem Stable Diffusion. Em pouco tempo, Civitai cresceu de uma startup com quatro pessoas e menos de 100.000 usuários para uma equipe de 15 membros, garantindo US$ 5 milhões em financiamento da Andreessen Horowitz. A plataforma agora atrai 10 milhões de visitantes únicos a cada mês, com milhões de imagens e modelos carregados.
No entanto, Maier enfrentou reveses significativos, incluindo o recente diagnóstico de sua filha com diabetes tipo 1 na mesma semana do anúncio de financiamento da Civitai. Além disso, a Civitai foi alvo de críticas pela 404 Media, que alega que a plataforma possibilitou um “mercado de pornografia com IA”, lucrou com pornografia não consensual e criou recompensas em deepfake para indivíduos reais.
Em uma entrevista exclusiva, Maier afirmou que a cobertura distorce a base de usuários e o uso pretendido da Civitai. Ele descreveu a situação como “desafiadora e triste”, enfatizando que a Civitai se concentra em aplicações positivas da tecnologia de IA.
Maier declarou que Civitai comprometeu recursos significativos à moderação de conteúdo, com metade da equipe dedicada à segurança. "Estamos trabalhando arduamente para garantir a segurança, mas a rápida inovação requer adaptações diárias", explicou.
Civitai serve como uma plataforma para entusiastas de modelos LoRA — modelos ajustados para geração de arte com IA. A maioria dos usuários utiliza a Civitai para empreendimentos criativos, que vão da fan fiction à moda. “Quando lançamos no ano passado, tínhamos 50 modelos. Agora, estamos vendo um influxo de 500 modelos diariamente”, observou.
Embora as alegações da 404 Media sejam preocupantes, Maier esclareceu que frequentemente se baseiam em dados desatualizados. Ele contestou a afirmação de que 60% do conteúdo era NSFW, afirmando que menos de 20% do conteúdo postado atualmente se encaixa nessa categoria.
A Civitai também introduziu um centro de segurança que delineia suas políticas, incluindo uma proibição total de representações fotorrealistas e sexuais de menores, empregando o Amazon Rekognition para detecção automática de conteúdos.
De Projeto Pessoal a Plataforma
A Civitai surgiu como um projeto pessoal após o envolvimento de Maier com o Midjourney, que despertou seu interesse pela comunidade Stable Diffusion. Ele imaginou um espaço onde os usuários pudessem compartilhar e navegar facilmente por modelos de IA. A Civitai foi lançada oficialmente em novembro e rapidamente ganhou adesão, alcançando uma base de 100.000 usuários em janeiro e um milhão em março.
O objetivo da Civitai é diminuir as barreiras de entrada para a IA generativa de código aberto, atendendo a entusiastas ansiosos para explorar a tecnologia sem amplo conhecimento em aprendizado de máquina. “Encontramos um equilíbrio entre ferramentas voltadas para o consumidor, como o Midjourney, e soluções empresariais, como o Hugging Face”, explicou Maier.
Abordando Preocupações sobre Conteúdo NSFW
Reconhecendo que o conteúdo NSFW é um problema prevalente, Maier expressou a necessidade de se preparar para possíveis abusos desde o início. Embora a plataforma pudesse limitar esse tipo de conteúdo, ele optou por uma abordagem mais equilibrada para fomentar o desenvolvimento da comunidade, entendendo que melhorias na tecnologia muitas vezes surgem de casos de uso variados.
Maier comparou essa abordagem à Parábola do Joio do Novo Testamento, sugerindo que suprimir conteúdo indesejado poderia sufocar a inovação. “A comunidade que ultrapassa esses limites contribui para avanços que beneficiam a tecnologia de IA como um todo”, enfatizou.
Acusações sobre Recompensas e Relatórios da Comunidade
Coberturas recentes da 404 Media também levantaram preocupações sobre “recompensas” para deepfakes de indivíduos reais. Maier esclareceu que essas recompensas funcionam como solicitações de serviço, onde usuários podem buscar modelos de IA adaptados às suas necessidades específicas. Esses anúncios permanecem privados até que o criador opte por torná-los públicos, garantindo moderação para cumprir as diretrizes de conteúdo.
As políticas da empresa incentivam a comunidade a relatar conteúdo impróprio, recompensando usuários com moeda interna, Buzz, por seus esforços em manter um ambiente seguro. No entanto, dada a natureza de código aberto da Civitai, uma vez que os modelos são baixados, a plataforma não pode controlar seu uso posterior em diferentes sistemas, destacando uma limitação na regulação de conteúdo.
Compromisso com a Melhoria Contínua
Apesar dos desafios, Maier permanece dedicado a aprimorar a Civitai e promover o uso seguro da IA. Em resposta a desenvolvimentos recentes, a empresa introduziu medidas para indivíduos que desejam remover sua imagem de conteúdos gerados.
À medida que a IA continua a evoluir rapidamente, a Civitai colabora ativamente com reguladores para garantir a segurança pública enquanto promove inovação. Maier busca utilizar a tecnologia para o bem, incluindo uma campanha de caridade durante as festas para a Juvenile Diabetes Research Foundation, motivada pela condição de sua filha.
“Nós nos importamos profundamente em manter uma plataforma segura”, afirmou, ressaltando o objetivo da Civitai de tornar a IA acessível enquanto navega por desafios contínuos. “Nos esforçamos diariamente para garantir uma experiência positiva para o usuário e estamos comprometidos com a melhoria contínua.”
Classificação
