Notícias de IA

O algoritmo PAIR da Universidade da Pensilvânia identifica e gera prompts de jailbreak para contornar as salvaguardas em LLMs, operando em um ciclo colaborativo entre dois modelos. Em testes, obteve sucesso em 60% das tentativas em modelos como GPT-3.5 e GPT-4, destacando sua eficiência e transferência.

Embora a moderação de conteúdo em jogos tenha avançado, o aumento das interações online exige estratégias mais eficazes. Profissionais do setor discutem práticas, códigos de conduta e tecnologias que priorizam a segurança e a adaptação às comunidades, visando reduzir a toxicidade e proteger usuários.

Sam Altman, CEO da OpenAI, demonstrou ceticismo em relação ao novo produto de IA de Elon Musk, Grok, durante o Dev Day da OpenAI. A rivalidade entre os dois cresceu desde que Musk tentou assumir o controle da OpenAI em 2018, levando a tensões. Altman, focado em inovações como o GPT-4 Turbo, reafirma a liderança da OpenAI na corrida da IA.

Cibercriminosos usam IA generativa e engenharia social para explorar vulnerabilidades de endpoints. O relatório da Forrester sobre segurança de endpoints destaca a necessidade de integração de IA/ML. Tendências incluem foco na prevenção, consolidação de ferramentas e transição EDR para XDR.

No DevDay, a OpenAI apresentou o GPT-4 Turbo, com maior capacidade de contexto e preços reduzidos, além da Assistants API para agentes de IA personalizados. Melhorias em visão computacional e TTS foram destacadas, junto com o Copyright Shield. Essas inovações visam facilitar o uso da IA, mas exigem atenção à privacidade e segurança de dados.

A OpenAI lançou os "GPTs", agentes de IA personalizáveis que permitem aos usuários criar versões do ChatGPT para tarefas específicas. Disponíveis para assinantes, os GPTs visam empresas e consumidores, promovendo personalização e eficiência, enquanto destacam preocupações sobre segurança e ética.

A 01.AI, startup chinesa liderada por Kai-Fu Lee, lançou o Yi-34B, um modelo de linguagem grande multilíngue com 34 bilhões de parâmetros, superando concorrentes e focando em aplicações comerciais. A empresa busca promover a IA 2.0, oferecendo soluções adaptadas e inovadoras no mercado.

A Replit anunciou um investimento de $20 milhões da Craft Ventures, fortalecendo sua missão de oferecer recursos de inteligência artificial generativa para desenvolvedores. O financiamento também permite liquidez para funcionários. A empresa desenvolverá um modelo de linguagem próprio, replit-code, e se concentrará na criação de "ajudantes" de IA.

O avanço da IA acelera, com previsões de que alcançará inteligência humana até 2028, levantando debates éticos e regulatórios. Enquanto líderes defendem regulamentação segura, alguns expressam ceticismo. Iniciativas globais buscam um equilíbrio entre inovação e supervisão, destacando a cooperação internacional.

A OpenAI realizará sua primeira conferência para desenvolvedores, o DevDay, em 6 de novembro. Espera-se uma interface renovada do ChatGPT e novos recursos para criação de chatbots. Também será apresentado um plano de assinatura para equipes. A cobertura ao vivo será feita pela mídia.

Após o lançamento do Grok, uma IA da xAI, Elon Musk anunciou seu acesso a usuários selecionados. Grok, um modelo de linguagem avançado, combina humor com informações em tempo real. Supere modelos como GPT-3.5 em benchmarks, visando expansão futura a assinantes do X Premium+.

Elon Musk anunciou que sua empresa xAI lançará um modelo de IA em 4 de novembro de 2023. A xAI, focada em "entender a verdadeira natureza do universo", busca oferecer uma alternativa competitiva às existentes, com um enfoque ético e seguro. Musk visa desenvolver uma IA que minimize ameaças existenciais.