AI는 인간의 이해를 어떻게 향상시킬 수 있을까? 핵심: 질문을 통한 우리의 참여 유도

고객과 직접 대면하는 역할을 맡거나 팀과 협력한 경험이 있는 사람이라면, 각 개인이 가지고 있는 독특하고 때때로 혼란스러운 선호성에 대해 잘 알고 있습니다. 개인의 선호를 이해하는 것이 인간에게도 어렵지만, 개인적 경험과 맥락이 부족한 AI 모델에겐 더욱 복잡한 문제입니다. 그렇다면 AI는 어떻게 사용자들이 진정으로 원하는 것을 효과적으로 이해할 수 있을까요?

GATE 소개: AI 이해의 새로운 접근 방식

최고 대학의 연구진과 챗봇 Claude 2의 제작사인 스타트업 Anthropic이 이 과제를 해결하고 있습니다. 그들은 간단한 해결책을 제안합니다: AI 모델이 사용자에게 더 많은 질문을 던져 진정한 선호를 파악하도록 훈련하는 것입니다.

최근 Anthropic의 연구자 Alex Tamkin은 MIT와 스탠포드의 동료들과 함께 "생성적 능동 과제 이끌기" (GATE)를 소개했습니다. 그들의 목표는 명확합니다: 대규모 언어 모델(LLMs)을 활용해 인간의 선호를 자동화된 의사결정 시스템으로 전환하는 것입니다.

본질적으로 GATE는 LLM이 첫 번째 상호작용 중 사용자와 대화할 수 있도록 합니다. 모델은 텍스트를 생성하고 분석하는 것뿐 아니라 사용자 응답을 실시간으로 반영하여 입력과 관련된 개념을 바탕으로 사용자의 바람을 추론합니다. 연구자들은 “언어 모델이 텍스트를 이해하고 생성하는 효과성은 사용자의 선호를 효과적으로 이끌어내고 이해할 수 있음을 시사합니다”라고 말합니다.

GATE의 세 가지 방법

GATE 접근 방식은 여러 방식으로 구현될 수 있습니다:

1. 생성적 능동 학습: 이 방법에서는 LLM이 예시 응답을 생성하고 사용자 피드백을 요청합니다. 예를 들어, “이 기사가 궁금하신가요: 퓨전 요리의 예술: 문화와 맛의 혼합?”이라고 질문할 수 있습니다. 사용자 피드백에 따라 LLM은 제공하는 콘텐츠 유형을 조정합니다.

2. 예/아니오 질문 생성: 이 간단한 접근 방식은 “건강과 웰빙에 관한 기사를 읽는 것을 좋아하십니까?” 같은 이진 질문을 포함합니다. LLM은 사용자의 '예' 또는 '아니오'에 따라 응답을 조정하고, 부정적 답변을 받은 주제는 생략합니다.

3. 개방형 질문: 이 넓은 방법은 더 미세한 정보를 이끌어내기 위해 설정됩니다. LLM은 “여가 시간에 어떤 취미를 즐기며, 그것이 여러분에게 매력적인 이유는 무엇인가요?”라고 물을 수 있습니다.

GATE 시험의 긍정적인 결과

연구자들은 GATE 방법을 콘텐츠 추천, 도덕적 추론, 이메일 유효성 검사 등 세 분야에서 시험했습니다. OpenAI의 GPT-4를 미세 조정하고 388명의 참가자를 포함하여, GATE가 기존 방법에 비해 더 높은 정확성을 가진 모델을 더 적은 인지적 노력으로 생성하는 경우가 많음을 발견했습니다.

특히 GATE로 미세 조정된 GPT-4 모델은 사용자 선호 예측에서 눈에 띄는 향상을 보여주어 응답을 맞춤형으로 조율하는 능력이 크게 개선되었습니다.

이 연구는 LM이 GATE를 통해 인간의 선호를 기존 방법보다 더 정확하고 효율적으로 이끌어낼 수 있음을 강조합니다.

이 발전은 고객 또는 직원 상호작용을 위한 LLM 기반 챗봇 개발을 대폭 간소화할 수 있습니다. 기존 데이터셋에만 의존해 선호를 추론하는 대신, Q&A 프로세스에 참여하도록 모델을 미세 조정함으로써 사용자 경험을 향상시키고 더 관련성 높으며 유용한 상호작용을 보장할 수 있습니다.

그러니, 여러분의 선호하는 AI 챗봇이 곧 여러분의 선호에 대해 질문하기 시작한다면, 아마도 GATE 방법을 활용해 더 맞춤화되고 만족스러운 응답을 제공할 것입니다.