최근 구글의 AI 어시스턴트 제미니가 세금 문서에 대한 무단 접근 및 요약으로 인해 심각한 프라이버시 우려를 일으켰습니다. 워싱턴 민주주의 및 기술 센터의 AI 거버넌스 수석 고문인 케빈 뱅크스턴이 이 문제를 제기하며 일상생활에서 AI의 역할에 대해 깊은 성찰을 촉구했습니다.
뱅크스턴은 제미니 AI 어시스턴트가 본인의 요청 없이 자동으로 세금 파일을 요약했다고 밝혔습니다. 이 기능을 비활성화할 옵션을 찾아보았으나 존재하지 않는 설정으로 안내받았습니다. 결국, 그는 해당 설정이 기본적으로 비활성화되어 있어 제미니가 그의 문서에 무단으로 접근하고 처리할 수 있었음을 발견했습니다.
구글은 제미니 사용 방법을 지원 문서에 상세히 설명했으나, 이 기능을 비활성화하거나 구글 드라이브에 저장된 파일에 대한 접근을 차단하는 방법은 명확히 제시하지 않았습니다. 이후 뱅크스턴은 드라이브 데이터 접근을 차단하기 위해 제미니 확장 기능을 비활성화하는 우회 방법을 공유했으나, 이 해결책은 구글의 공식적인 지원을 받지 못하였습니다.
많은 사용자들은 구글 워크스페이스 확장 기능을 비활성화한 후에도 제미니 AI 어시스턴트가 여전히 드라이브의 모든 문서를 읽고 요약한다고 보고하고 있습니다. 이는 구글의 데이터 처리 관행과 사용자 프라이버시 보호 의지에 대한 심각한 의문을 제기하고 있습니다.
현재 구글은 이 문제에 대한 포괄적인 해결책이나 지침을 발표하지 않았으며, 제미니가 구글 드라이브의 파일에 접근하는 것을 막기 위해 워크스페이스 랩스를 완전히 비활성화하라는 권고만 하고 있습니다. 그러나 이는 워크스페이스 랩스를 의존하는 사용자에게는 실질적인 옵션이 아닙니다.
AI 기술의 광범위한 사용은 기술 발전과 프라이버시 보호 간의 균형을 맞춰야 할 절실한 필요성을 강조합니다. 제미니 AI 어시스턴트를 둘러싼 논란은 AI의 편리함을 누리는 동시에 개인의 프라이버시와 데이터 보안을 우선시해야 한다는 중요한 메시지를 상기시킵니다.
앞으로 기술이 계속 발전하고 프라이버시 문제에 대한 대중의 인식이 높아짐에 따라, 구글과 같은 기술 대기업이 사용자 프라이버시와 데이터 보안을 강화하기 위한 보다 효과적인 조치를 취할 것으로 기대됩니다. 또한, 정부와 사회 전반이 규제를 강화하여 AI 기술의 건강한 발전을 촉진해야 할 것입니다.