마이크로소프트가 9월 말부터 적용되는 서비스 약관을 업데이트하며, Copilot AI 서비스는 전문적인 인간 조언을 대체해서는 안 된다고 강조했습니다. AI 기반 에이전트는 고객 서비스, 건강 및 웰빙 애플리케이션, 법률 정보 제공 등 다양한 산업에서 점점 더 많이 사용되고 있습니다. 그럼에도 불구하고, 마이크로소프트는 사용자에게 챗봇의 응답을 절대적인 지침으로 간주하지 말 것을 재차 강조합니다. 업데이트된 서비스 약관에서는 “AI 서비스는 전문적인 조언을 대체하기 위해 설계되거나 의도된 것이 아닙니다.”라고 명확하게 명시되어 있습니다.
회사는 건강 관련 봇을 구체적인 예로 언급하며, 이러한 봇이 “전문 의학적 조언을 대체하거나 질병 및 기타 상태를 진단, 치료, 완화, 예방, 혹은 치료하기 위해 설계되거나 의도된 것이 아님”을 분명히 했습니다. 또한 약관은 “마이크로소프트는 건강 봇으로부터 받은 정보를 기반으로 한 결정에 대해 책임을 지지 않습니다.”라고 언급합니다.
이 외에도 개정된 서비스 약관은 AI 사용에 대한 추가 제한을 명시하고 있습니다. 예를 들어, 사용자는 AI 서비스를 통해 데이터를 추출하는 것이 금지되어 있습니다. 약관은 “명시적으로 허용되지 않은 경우, AI 서비스로부터 데이터를 추출하기 위해 웹 스크래핑, 웹 수확 또는 웹 데이터 추출 방법을 사용할 수 없습니다.”라고 규정하고 있습니다. 마이크로소프트는 또한 모델의 가중치를 밝혀내거나 데이터를 “직접 또는 간접적으로 다른 AI 서비스를 생성, 훈련 또는 개선하는 데 사용하는” 역공학 시도를 금지합니다. 약관에서는 “모델, 알고리즘 및 시스템의 기본 구성 요소를 발견하기 위해 AI 서비스를 사용할 수 없습니다.”라고 명확히明記하고 있으며, 여기에는 모델 가중치를 결정하고 제거하거나 장치에서 AI 서비스의 일부를 추출하는 시도가 포함됩니다.
마이크로소프트는 생성적 AI의 오용 가능성에 대해 지속적으로 우려를 표명해왔습니다. 이러한 업데이트된 서비스 약관을 통해 회사는 AI 제품의 인기 상승에 따라 보호 법적 조치를 마련하고자 합니다.