테일러 스위프트 딥페이크: AI 기업들이 단순히 '떨쳐낼 수 없는 이유'

플레이어는 플레이하고, 비판자는 비판할 것입니다. 하지만 테일러 스위프트의 포르노 AI 생성 딥페이크 사건은 너무나 심각해 엘론 머스크가 X에 100명의 콘텐츠 모더레이터를 추가로 고용하느라 분주해졌고, 마이크로소프트는 Designer AI 앱의 안전 장치를 강화하게 만들었습니다. AI 기업들에게 전하고 싶은 간단한 메시지가 있습니다: “그냥 떨쳐버릴 수는 없습니다!”

떨쳐버리고 계속 나아가고 싶겠지만, 테일러 스위프트가 말하듯이 “문제가 생겼습니다.”

마크 안드리센의 "테크노-옵티미스트 선언"에서는 “기술은 인류의 야망과 업적의 영광”이라고 밝혔습니다. OpenAI의 미션은 인류에게 이로운 인공지능 일반(GAI)의 개발을 강조하며, Anthropic은 신뢰성과 조정 가능한 AI 시스템을 만드는 데 자신감을 보이고 있습니다. 한편, 메타의 수석 AI 과학자 얀 르쿤은 GPT-2의 안전 문제로 5년간 배포가 중단된 이후 “세상은 끝나지 않았다”고 주장했습니다. “실제로 나쁜 일은 발생하지 않았다”고 게시했습니다.

하지만, 얀, AI로 인해 나쁜 일들이 실제로 발생하고 있습니다. 이는 긍정적인 발전을 부정하는 것이 아니며, 기술의 발전에 대한 전반적인 낙관주의를 감소시키지도 않습니다. 하지만 실제로 사람들은 AI의 부정적인 영향을 경험하고 있으며, 일반 대중은 종종 AI 업계의 사람들이 인식하지 못하는 현실을 더 잘 이해하고 있습니다. AI 기업들이 이러한 우려를 솔직히 인정하고, 이를 해결하기 위한 방안을 제시해야 합니다.

그렇지 않으면, 작년 10월 언급했던 환멸의 절벽에 직면할 수 있습니다. AI의 급속한 발전과 함께, 선거 허위 정보, AI 생성 포르노, 일자리 대체, 표절 등의 다양한 도전 과제가 존재합니다. AI가 인류에 놀라운 잠재력을 제공하더라도, 기업들은 그 비전을 더 잘 전달해야 합니다.

현재 AI 기업들은 기존 문제를 해결하기 위한 구체적인 방법을 전달하는 데 어려움을 겪고 있습니다. 스위피들이 인식한 것처럼, “문제가 생겼습니다… 정말 큰 상처를 주셨네요.”

저는 AI 반영웅을 응원합니다. AI의 발전은 신나고 잠재력으로 가득 차 있지만, 도덕적으로 모호한 반영웅을 지원하는 것은 때때로 지칠 수 있습니다. AI의 리더들이 자신의 부족함을 인정했으면 좋겠고, “내가 문제야, 나야”라는 노래처럼 솔직하게 말할 수 있기를 바랍니다.

하지만 자기 반성은 필수적입니다. AI 연구자, 경영자, 정책 입안자들의 선의에도 불구하고, 테일러 스위프트 AI 딥페이크 사건은 빙산의 일각에 불과합니다. 수백만 명의 여성과 소녀들이 AI 생성 포르노의 표적이 될 위험에 직면해 있으며, 전문가들은 2024년 선거에서 AI가 문제를 더욱 악화시킬 것으로 예측하고 있습니다. 많은 노동자들이 자신의 해고를 AI 탓으로 돌릴 것이며, 그런 증거가 있더라도 말입니다.

사람들은 AI에 대해 점점 더 냉소적입니다. 이러한 반응은 AI가 주요 문제를 해결할 수 있는 능력을 인식하는 이들에게는 실망감을 줄 수 있습니다.

AI 기업들이 그들의 기술을 수용할 사람들을 존중하고 보호하는 방향으로 나아가지 않으면, 부정적인 결과를 피할 수 없게 될 것입니다. 그 일이 발생한다면—이제 우리는 나쁜 혈연관계를 갖게 됩니다.