O Futuro dos Assistentes de IA: Uma Mudança Potencialmente Transformadora
No futuro próximo, assistentes de IA integrados a dispositivos vestíveis se incorporarão de forma harmoniosa em nossas vidas diárias, oferecendo orientações em tempo real enquanto navegamos por diversas situações — desde compras em lojas movimentadas até visitas ao pediatra. Essa tecnologia participará ativamente de todos os aspectos da nossa existência, influenciando nossas interações sociais com amigos, família, colegas de trabalho e até estranhos.
Entretanto, o conceito de "influência" levanta preocupações sobre privacidade e autonomia. Embora muitos possam se sentir inseguros com essa assistência tão abrangente, é provável que a sociedade abrace essas tecnologias, aproveitando seus conselhos oportunos e informados que se tornam essenciais.
Entendendo Assistentes de IA Contextuais
Quando falamos em "assistentes de IA", muitas vezes pensamos em ferramentas básicas como Siri ou Alexa, que respondem a comandos de voz simples. Os assistentes de próxima geração serão muito mais sofisticados, graças à sua percepção contextual — capazes de perceber e reagir aos sons e imagens ao nosso redor por meio de câmeras e microfones avançados integrados à tecnologia vestível.
Previstos para causar um grande impacto até 2024, esses assistentes de IA sensíveis ao contexto prometem fornecer informações personalizadas com base nas nossas atividades atuais. Eles serão quase como um superpoder — oferecendo insights sobre produtos nas vitrines, identificando plantas em trilhas ou sugerindo receitas com os ingredientes disponíveis em nossa cozinha. Contudo, existe o risco de esses assistentes se tornarem excessivamente persuasivos, potencialmente manipulando os usuários enquanto os guiam em tarefas cotidianas, especialmente quando utilizados por empresas para publicidade direcionada.
A Ascensão dos Modelos de Linguagem Grande Multimodais (LLMs)
Para mitigar os riscos de manipulação associados à IA, os formuladores de políticas devem abordar essa questão crítica, especialmente já que a tecnologia para assistentes contextuais surgiu recentemente. Os LLMs multimodais, capazes de processar entradas de texto, imagens, áudio e vídeo, representam um avanço tecnológico significativo, permitindo que sistemas de IA interpretem e respondam ao nosso ambiente em tempo real.
Por exemplo, o ChatGPT-4 da OpenAI, lançado em março de 2023, é um dos primeiros modelos multimodais mainstream, seguido de perto pelo LLM Gemini do Google. Notavelmente, o modelo AnyMAL da Meta leva isso um passo adiante, incorporando pistas de movimento que permitem um assistente de IA que considera tanto o que você vê quanto como você se move.
Tecnologia Vestível Liderando a Inovação
Com os avanços na tecnologia de IA disponível para uso do consumidor, as empresas estão desenvolvendo rapidamente dispositivos equipados com câmeras, microfones e sensores de movimento para fornecer assistência sensível ao contexto. Óculos inteligentes, por exemplo, são uma plataforma ideal para essa tecnologia, garantindo que as câmeras capturem o olhar do usuário enquanto microfones estéreo proporcionam consciência espacial dos sons ao redor.
A Meta se destaca atualmente com seus óculos inteligentes Ray-Ban atualizados, projetados para suportar capacidades avançadas de IA. Em 12 de dezembro, começara a implementação de recursos de IA que oferecem assistência prática, como sugestões de combinações de roupas com base nas preferências do usuário.
A Humane, outro player importante, desenvolveu um pin vestível com funcionalidades semelhantes, que deve ser lançado no início de 2024. Embora ambas as abordagens sejam promissoras, acredito que os óculos fornecem uma integração mais eficaz, alinhando-se à linha de visão do usuário e aprimorando experiências de realidade mista.
Independentemente de a tecnologia estar integrada em óculos, fones de ouvido ou outros dispositivos, assistentes de IA sensíveis ao contexto logo se tornarão comuns. Eles prometem recursos poderosos, incluindo tradução em tempo real, contexto histórico e assistência personalizada durante interações sociais, aprimorando nossas habilidades de comunicação e consciência social.
Navegando os Riscos da Influência da IA
Como pesquisador ao longo da vida em IA e realidade mista, sempre estive preocupado com o potencial da IA para manipular interações humanas. Em meu conto "Carbon Dating", ilustrei esse perigo por meio de uma narrativa onde as interações de um casal idoso são guiadas exclusivamente por conselhos de IA, destacando a perda de conexão autêntica. Essa fábula cautelar foi posteriormente adaptada para o filme "Metaverse 2030" pelo Escritório de Autoridade de Proteção de Dados do Reino Unido (ODPA).
Os riscos mais prementes envolvem entidades corporativas e governamentais impondo suas agendas por meio da influência conversacional, permitindo que conteúdos personalizados sejam direcionados a indivíduos. Para conscientizar sobre esses perigos, a Responsible Metaverse Alliance lançou "Privacy Lost", um curta que aborda esses aspectos manipulativos da IA.
A Escolha É Nossa — Por Enquanto
Muitas pessoas acham naturalmente desconfortável a ideia de que a IA forneça orientações. Contudo, à medida que o coaching de IA se torna parte das normas sociais, aqueles que resistem podem se encontrar em desvantagem, pois informações essenciais podem ser automaticamente fornecidas a outros durante as conversas. Essa mudança pode criar uma nova dinâmica social em que a consulta de informações pessoais se tornará obsoleta, uma vez que estarão acessíveis por meio da IA.
Refiro-me a esse fenômeno como "mentalidade aumentada", uma tendência inevitável onde ferramentas de IA aprimoram nossas capacidades cognitivas e sociais. Avanços recentes, como os LLMs sensíveis ao contexto, eliminaram barreiras técnicas anteriores, sinalizando uma mudança iminente na forma como interagimos com a IA.
Com grandes empresas de tecnologia disputando a dominação desse mercado emergente, pode surgir uma divisão digital entre aqueles que podem pagar por ferramentas que potencializam a IA e aqueles que não podem. As implicações da influência conversacional impulsionada por IA podem levar a violações de privacidade e à perda da autonomia pessoal.
Necessidade de Regulação Rigorosa
Estamos à beira de uma realidade em que corporações poderiam influenciar nossos pensamentos e ações por meio de assistentes de IA. Esse problema de manipulação é alarmante e exige uma regulação rigorosa para proteger a autonomia individual, especialmente em relação à IA sensível ao contexto.
Infelizmente, os recentes esforços legislativos como a Ordem Executiva sobre IA e o ATO de IA da UE não abordaram adequadamente essas preocupações. À medida que nos aproximamos de 2024, há uma necessidade urgente de que os formuladores de políticas priorizem a regulação da influência conversacional impulsionada por IA, garantindo que os usuários se beneficiem da orientação da IA sem entrar em um futuro perigoso.
É hora de agir.
Classificação
