Федеральная торговая комиссия (FTC) предупреждает о "тихих" изменениях в условиях обслуживания (TOS) для обучения ИИ. Вот почему это может быть недостаточно.

На этой неделе FTC предупредило компании о рисках тонкого изменения условий использования (TOS) с целью извлечения пользовательских данных для обучения ИИ. Агентство отметило, что такие действия могут быть признаны недобросовестными и обманными практиками.

"Компании могут почувствовать соблазн изменить свои политики конфиденциальности для расширения использования данных клиентов", — говорится в блоге FTC. "Чтобы избежать возможного недовольства по поводу конфиденциальности, эти изменения могут произойти без явного уведомления. Однако предприятия должны понимать, что нарушение обязательств по защите конфиденциальности пользователей может привести к юридическим последствиям."

Хотя предупреждение FTC имеет большое значение, оно поступает на фоне значительных изменений в отрасли. В июле 2023 года Google изменил свою политику конфиденциальности, разрешив использование публичных данных для улучшения моделей ИИ. Аналогично, в августе 2023 года появились сообщения о том, что Zoom тихо обновил свои TOS, разрешив обучение ИИ на пользовательских данных без возможности отказа.

В июне 2023 года среди создателей Adobe Stock возникли недовольства, когда они обнаружили, что Adobe использует их загруженные работы для своей модели ИИ Firefly без предварительного уведомления. "Я не помню, чтобы получал какое-либо сообщение о изменениях в условиях использования," — заметил один из создателей из Великобритании.

На самом деле, большинство пользователей не читают и не полностью понимают мелкий шрифт документов TOS. Исследование 2019 года, в котором анализировались TOS 500 популярных сайтов США, включая Google и Facebook, показало, что более 99% этих документов превышают уровень, на котором обычно читают большинство взрослых. Более того, опрос Deloitte 2017 года показал, что 91% потребителей США соглашаются с юридическими условиями, не читая их, а среди лиц в возрасте 18-34 лет этот показатель составляет 97%.

Брэдли Кун, эксперт по политике в Software Freedom Conservancy, подчеркнул важность чтения TOS на круглом столе FTC в октябре 2023 года. "Если есть один вывод, то это необходимость внимательно читать условия и положения. Вы можете непреднамеренно согласиться на включение своих творческих работ в наборы данных машинного обучения компании. Это может занять время, но это единственный способ понять, какие права вы могли отдать."

Интересно, что многие недавние обновления TOS просто уточняют существующие пункты. По словам Кэти Гарднер, партнера юридической фирмы Gunderson Dettmer, обновления обычно отражают изменения в практиках, и такие регламенты, как CCPA, требуют ежегодных пересмотров политики конфиденциальности. "Компании обязаны уведомлять пользователей о значительных изменениях, чтобы они имели юридическую силу," — объяснила она. "В случае с Zoom изменения могут показаться менее значительными, так как они только подтвердили существующие права."

Кроме того, Гарднер отметила, что многие обновления являются ответом на регуляторный контроль. "Методы, которые компании используют для получения согласия на использование данных в обучении ИИ, находятся под увеличенным вниманием," — добавила она, указывая на действия FTC против Ring и Amazon относительно прозрачности использования данных пользователей.

Пользователи могут ожидать дополнительных сюрпризов в TOS в ближайшие месяцы. Недавние запланированные обновления Findaway Voices, платформы аудиокниг Spotify для независимых авторов, вызвали опасения относительно переработки аудионарации для обучения ИИ. В ответ на мнения пользователей Spotify признал возникшую путаницу и работает над разъяснениями до вступления обновлений в силу 15 марта 2024 года.