Uso de Dados e Treinamento de Modelos de Machine Learning do Slack: O Que Você Precisa Saber
O Slack treina seus modelos de machine learning utilizando mensagens, arquivos e outros conteúdos dos usuários, sem obter consentimento explícito. Esse treinamento ocorre em uma base de exclusão, significando que seus dados privados são coletados por padrão. Para retirar seus dados desse processo, você deve solicitar ao administrador do Slack na sua organização (como RH ou TI) que entre em contato diretamente com o Slack, uma exigência inconveniente que alimenta preocupações sobre privacidade.
Corey Quinn, executivo no DuckBill Group, destacou essa questão ao descobrir informações ocultas nos Princípios de Privacidade do Slack. A seção relevante afirma: “Para desenvolver modelos de IA/ML, nossos sistemas analisam Dados do Cliente (por exemplo, mensagens, conteúdos e arquivos) enviados ao Slack, bem como Outras Informações (incluindo informações de uso) conforme definido em nossa Política de Privacidade e no seu contrato de cliente."
Em resposta às preocupações sobre privacidade, o Slack publicou um comunicado esclarecendo o uso de dados. A empresa afirma que os dados dos clientes não são utilizados para treinar nenhum de seus produtos de IA generativa, que se baseiam em modelos de linguagem de terceiros (LLMs). Em vez disso, esses dados suportam modelos de machine learning para recursos como recomendações de canais e resultados de busca. Importante, o Slack garante que esses modelos utilizam dados agregados e desidentificados, sem acessar o conteúdo de mensagens diretas, canais privados ou públicos. Esses dados podem incluir informações não identificáveis, como carimbos de data e hora das mensagens e contagens de interações dos usuários.
Um porta-voz da Salesforce reforçou essa garantia, afirmando: “Não construímos ou treinamos esses modelos de forma que eles possam aprender, memorizar ou reproduzir dados de clientes.”
No entanto, os usuários que desejam optar pela exclusão enfrentam obstáculos significativos. De acordo com o aviso de privacidade, o processo de exclusão exige que os proprietários organizacionais entrem em contato com a equipe de Experiência do Cliente do Slack pelo feedback, especificando o URL da organização e o assunto 'Solicitação de exclusão do modelo global do Slack.' Somente após o processamento dessa solicitação os usuários podem retirar seus dados do uso.
Embora o Slack tenha respondido às preocupações de Quinn, enfatizando a distinção entre seus modelos de machine learning em nível de plataforma e produtos de IA generativa, a linguagem de exclusão permanece ambígua. Notavelmente, o termo "clientes" não inclui os funcionários das organizações que utilizam o Slack, mantendo-os dependentes de seus administradores do local de trabalho para a proteção de dados.
Inconsistências nas políticas de privacidade do Slack complicam ainda mais a situação. Uma seção especifica que o Slack não pode acessar o conteúdo subjacente ao desenvolver modelos de IA/ML, citando medidas técnicas em vigor. No entanto, isso contradiz a política de treinamento de modelos de machine learning, gerando confusão entre os usuários.
Além disso, a página promocional do Slack para suas ferramentas premium de IA generativa afirma: “Seus dados são seus dados. Não os utilizamos para treinar a IA do Slack. Tudo opera na infraestrutura segura do Slack, atendendo aos mesmos padrões de conformidade que o próprio Slack.” Esta afirmação, embora tranquilizadora, pode enganar os usuários a pensarem que seus dados estão totalmente seguros contra treinamento de IA, apesar da realidade complexa em relação aos diferentes tipos de modelos utilizados.
Em resumo, as práticas atuais do Slack em torno do uso de dados e do treinamento de machine learning apresentam desafios significativos para a privacidade dos usuários. É fundamental que os usuários fiquem atentos e proativos na compreensão e proteção de seus direitos de dados dentro da plataforma.
Classificação
