AI 비서의 미래: 변혁적 변화의 가능성
곧 다가올 미래에는 착용 가능한 기기에 내장된 AI 비서가 우리의 일상 생활에 완벽하게 통합되어, 혼잡한 상점에서 쇼핑하거나 소아과를 방문하는 등 다양한 상황에서 실시간으로 안내를 제공하게 될 것입니다. 이 기술은 우리의 모든 삶의 측면에 적극적으로 참여하며 친구, 가족, 동료, 심지어 낯선 사람들과의 사회적 상호작용에도 영향을 미칠 것입니다.
그러나 "영향"이라는 개념은 개인 정보 보호와 자율성에 대한 우려를 불러일으킵니다. 많은 사람들이 이러한 광범위한 지원에 대해 불안하게 느낄 수 있지만, 사회는 아마도 이러한 기술을 받아들여 시의적절하고 정보에 기반한 조언을 제공받는 혜택을 누리게 될 것입니다.
맥락 인식 AI 비서 이해하기
"AI 비서"라고 하면 우리는 종종 Siri나 Alexa와 같은 기본 도구를 떠올립니다. 차세대 AI 비서는 맥락 인식이 가능하여, 첨단 카메라와 마이크를 통해 주위의 소리와 시각을 인식하고 대응할 수 있는 훨씬 더 정교한 형태가 될 것입니다.
2024년까지 큰 영향을 미칠 것으로 예상되는 이 맥락 인식 AI 비서는 우리의 현재 활동에 맞춤화된 정보를 제공할 것을 약속합니다. 예를 들어, 매장 내 상품에 대한 통찰력 제공, 하이킹 중 식물 식별, 주방 재료를 활용한 요리법 제안 등이 이루어질 것입니다. 그러나 이 비서가 과도하게 설득력 있게 변질되어 사용자를 조작할 위험이 있으며, 특히 기업들이 이를 타겟 광고에 사용할 경우 더욱 우려됩니다.
다양한 모달 대형 언어 모델(LLMs)의 부상
AI와의 조작 위험을 완화하기 위해 정책 입안자들은 이 중요한 문제에 집중해야 하며, 맥락 인식 비서 기술이 최근에 등장했다는 점이 더욱 중요합니다. 텍스트, 이미지, 오디오 및 비디오 입력을 처리할 수 있는 다중 모달 LLM은 AI 시스템이 환경을 실시간으로 해석하고 반응할 수 있게 하는 중요한 기술 혁신을 나타냅니다.
예를 들어, OpenAI의 ChatGPT-4는 2023년 3월에 발표된 최초의 주요 다중 모달 모델 중 하나이며, Google의 Gemini LLM도 뒤따릅니다. 특히 Meta의 AnyMAL 모델은 움직임 단서를 통합하여 사용자가 보는 것과 동시에 어떻게 움직이는지를 고려하는 AI 비서를 더욱 발전시켰습니다.
착용 가능한 기술이 선도하다
소비자 사용을 위한 AI 기술이 발전함에 따라, 기업들은 카메라, 마이크 및 움직임 센서가 장착된 장치를 신속하게 개발하여 맥락 인식 지원을 제공합니다. 착용 가능한 안경은 이 기술에 최적의 플랫폼을 제공하며, 카메라가 사용자의 시선을 포착하고 스테레오 마이크가 주변 소리를 인식하게 합니다.
Meta는 고급 AI 기능을 지원하도록 설계된 업데이트된 Ray-Ban 스마트 안경으로 주목받고 있으며, 12월 12일에는 사용자 취향에 기반한 의상 조합 제안을 포함한 AI 기능을 출시하였습니다. 다른 중요한 플레이어인 Humane은 비슷한 기능을 갖춘 착용 가능한 핀을 개발하였고, 2024년 초에 출시될 예정입니다. 이 두 가지 접근 모두 유망하지만, 안경이 사용자의 시선과 더 효과적으로 통합되어 혼합 현실 경험을 향상시킨다고 생각합니다.
기술이 안경, 이어버드 또는 다른 장치에 내장되든지 간에, 맥락 인식 AI 비서는 곧 일반화될 것입니다. 이들은 실시간 번역, 역사적 맥락, 사회적 상호작용 동안 개인화된 지원 등 강력한 기능을 제공하여 우리의 의사소통 기술과 사회적 인식을 강화할 것입니다.
AI 영향력의 위험 탐색하기
AI와 혼합 현실을 평생 연구해 온 연구자로서, AI가 인간 상호작용을 조작할 가능성에 대해 오랫동안 우려해 왔습니다. 제 단편소설 "Carbon Dating"에서는 AI 조언만으로 인도되는 노부부의 상호작용을 통해 진정한 연결의 상실 위험을 그렸습니다. 이 경고 이야기는 이후 영국 데이터 보호 기관(ODPA)에 의해 "Metaverse 2030" 영화로 각색되었습니다.
가장 긴급한 위험은 기업과 정부 기관이 대화형 영향력을 통해 그들의 의제를 강요하여 개인을 표적하는 맞춤형 콘텐츠를 가능하게 만드는 것입니다. 이러한 위험을 인식시키기 위해 Responsible Metaverse Alliance는 AI의 조작적 측면을 다룬 단편 영화 "Privacy Lost"를 발표했습니다.
우리의 선택은—현재로서는
많은 사람들이 AI가 조언을 속삭이는 개념에 불안감을 느끼는 것이 자연스러운 일입니다. 그러나 AI 코칭이 사회적 규범에 통합되면 저항하는 이들은 대화 중 다른 이들에게 자동으로 제공될 필수 정보에 대한 손해를 볼 수 있습니다. 이러한 변화는 개인 정보를 요청하는 것이 더 이상 필요하지 않은 새로운 사회적 역학을 만들어낼 수 있습니다.
저는 이 현상을 "증강 정신문"이라고 부르며, AI 도구가 우리의 인지 및 사회적 능력을 향상시키는 불가피한 경향으로 보고 있습니다. 최근의 발전, 특히 맥락 인식 LLM은 이전 기술적 장벽을 제거하여 AI와의 상호작용 방식에서의 급격한 변화를 예고합니다.
주요 기술 기업들이 이 새로운 시장에서 우위를 점하기 위해 경쟁함에 따라, AI 향상 도구를 구입할 수 있는 이들과 구매할 수 없는 이들 사이의 디지털 격차가 발생할 수 있습니다. AI 기반의 대화형 영향력의 결과는 개인 정보 보호 침해와 개인의 자율성 상실로 이어질 수 있습니다.
강력한 규제의 필요성
우리는 기업들이 AI 비서를 통해 우리의 사고와 행동에 영향을 미칠 수 있는 현실의 문턱에 서 있습니다. 이러한 조작 문제는 가슴 아프고, 특히 맥락 인식 AI에 대한 개인의 자율성을 보호하기 위해 엄격한 규제가 필요합니다.
안타깝게도 최근의 입법 노력인 AI에 대한 행정명령과 EU의 AI 법안은 이러한 우려를 충분히 해결하고 있지 않습니다. 2024년이 다가오면서 정책 입안자들은 사용자들이 AI의 조언을 활용하여 위험한 미래로 빠지지 않도록 대화형 영향력 규제를 우선시할 필요가 있습니다.
지금은 행동의 시간이 왔습니다.
순위 목록
