L'utilisation des données et l'entraînement des modèles d'apprentissage automatique par Slack : Ce que vous devez savoir
Slack entraîne ses modèles d'apprentissage automatique à l'aide des messages, fichiers et autres contenus des utilisateurs sans obtenir de consentement explicite. Ce processus fonctionne sur la base de l'option de désabonnement par défaut, ce qui signifie que vos données privées sont collectées automatiquement. Pour retirer vos données de ce processus, il vous faudra demander à l'administrateur Slack de votre organisation (comme le service des ressources humaines ou informatique) de contacter directement Slack—une exigence peu pratique qui soulève des préoccupations en matière de confidentialité.
Corey Quinn, un cadre chez DuckBill Group, a mis en lumière ce problème après l'avoir découvert dans les Principes de Confidentialité de Slack. La section pertinente stipule : « Pour développer des modèles IA/ML, nos systèmes analysent les Données Clients (par exemple, messages, contenus et fichiers) soumis à Slack ainsi que d'Autres Informations (y compris les informations d'utilisation) définies dans notre Politique de Confidentialité et dans votre contrat client. »
En réponse aux préoccupations en matière de confidentialité, Slack a publié un article de blog clarifiant son utilisation des données. La société affirme que les données clients ne sont pas utilisées pour entraîner ses produits IA générative, qui reposent sur des modèles de langage de tiers. Au lieu de cela, ces données soutiennent les modèles d'apprentissage automatique pour des fonctionnalités telles que les recommandations de canaux et les résultats de recherche. Il est important de noter que Slack affirme que ces modèles utilisent des données agrégées et anonymisées sans accéder au contenu des messages directs (DM), des canaux privés ou publics. Ces données peuvent inclure des informations non-identifiables telles que des horodatages de messages et des comptes d'interaction des utilisateurs.
Un porte-parole de Salesforce a confirmé cette assurance, déclarant : « Nous ne construisons ni ne formons ces modèles de manière à ce qu'ils puissent apprendre, mémoriser ou reproduire des données clients. »
Cependant, les utilisateurs souhaitant se désinscrire rencontrent d'importants obstacles. Selon l'avis de confidentialité, le processus de désinscription requiert que les propriétaires d'organisations contactent l'équipe Expérience Client de Slack à l’adresse feedback, en spécifiant l'URL de leur organisation et l'objet 'Demande de désinscription du modèle global Slack.' Ce n'est qu'après le traitement de cette demande que les utilisateurs peuvent retirer l'utilisation de leurs données.
Bien que Slack ait répondu aux préoccupations de Quinn en soulignant la distinction entre ses modèles d'apprentissage automatique au niveau de la plateforme et ses produits IA générative, le langage lié à l'option de désabonnement demeure flou. Notamment, le terme "clients" n'inclut pas les employés des organisations utilisant Slack, les laissant dépendants de leurs administrateurs de bureau pour la protection des données.
Les incohérences dans les politiques de confidentialité de Slack compliquent davantage la situation. Une section précise que Slack ne peut pas accéder au contenu sous-jacent lors du développement de modèles IA/ML, évoquant des mesures techniques en place. Pourtant, cela contredit la politique d'entraînement des modèles d'apprentissage automatique, créant ainsi une confusion pour les utilisateurs.
Par ailleurs, la page promotionnelle de Slack pour ses outils IA générative premium affirme : « Vos données sont vos données. Nous ne les utilisons pas pour entraîner Slack AI. Tout fonctionne sur l'infrastructure sécurisée de Slack, respectant les mêmes normes de conformité que Slack lui-même. » Bien que cette déclaration soit rassurante, elle peut induire les utilisateurs en erreur en pensant que leurs données sont totalement à l'abri de l'entraînement par IA, malgré la réalité nuancée des différents types de modèles en cours d'utilisation.
En résumé, les pratiques actuelles de Slack concernant l'utilisation des données et l'entraînement des modèles d'apprentissage automatique posent d'importants défis à la confidentialité des utilisateurs. Ceux-ci doivent rester vigilants et proactifs pour comprendre et protéger leurs droits en matière de données sur la plateforme.
Classement
