챗봇 허위정보 대응: 구글 딥마인드와 스탠포드 대학, AI 사실 확인 도구 출시

Home Hardware 챗봇 허위정보 대응: 구글 딥마인드와 스탠포드 대학, AI 사실 확인 도구 출시

3월 31일, 최근 보고서에 따르면 AI 챗봇 기술의 발전에도 불구하고 공통적인 문제가 지속되고 있습니다. 바로, 이 시스템들이 종종 사실과 무관한 답변을 제공한다는 것입니다. 이러한 현상은 "환각"이라고 불리며, AI가 믿을 수 있을 것처럼 보이는 잘못된 정보를 생성할 때 발생합니다.

이 문제를 해결하기 위해 Google DeepMind와 스탠포드 대학의 연구자들은 Search-Enhanced Fact Evaluator(그러니까 SAFE)라는 도구를 개발했습니다. 이 도구는 대규모 언어 모델을 활용하여 챗봇이 생성한 긴 응답을 사실 확인합니다. 연구 결과, 실험 코드 및 데이터셋이 공개되었습니다.

SAFE 시스템은 AI가 생성한 답변의 정확성과 진위를 검증하기 위해 네 단계의 과정을 거칩니다. 첫째, 응답을 검증이 필요한 개별 주장으로 나눕니다. 둘째, 필요한 경우 이러한 주장을 수정합니다. 셋째, 주장을 구글 검색 결과와 비교합니다. 마지막으로, 각 사실이 원래의 질문과 얼마나 관련이 있는지를 평가합니다.

시스템의 효과를 평가하기 위해 연구자들은 약 16,000개의 사실을 포함하는 데이터셋인 LongFact를 만들었고, Claude, Gemini, GPT, PaLM-2를 포함한 13개의 대규모 언어 모델에서 SAFE를 테스트했습니다. 100개의 논란이 있는 사실을 분석했을 때, SAFE는 추가 검토 후 76%의 정확도를 달성했습니다. 또한, 이 프레임워크는 수동 주석보다 20배 이상의 비용 효율성을 보여주었습니다. 이러한 발전은 AI 챗봇의 신뢰성을 높이는 중요한 단계를 의미합니다.

삼성, 더 스마트한 지원을 위한 Bixby의 생성적 AI 기능 강화

구글: 모바일 AI 모델이 상당한 메모리 자원을 소모합니다.

Most people like

PDF Flex

35.3K

PDF 문서와 상호작용하는 새로운 방법을 만나보세요! 저희 혁신적인 채팅 기능은 질문을 하고, 정보를 검색하며, PDF에서 핵심 데이터를 직접 추출할 수 있게 해줍니다. 문서와의 원활한 상호작용을 통해 작업 흐름을 간소화하고 생산성을 향상시켜 보세요—모두 실시간으로! 학생, 직장인, 연구자 누구에게나 이 도구는 PDF 작업 방식을 혁신적으로 변화시켜 주며, 정보 접근을 그 어느 때보다 쉽게 만들어줍니다.

PDF 변환기 AI PDF

Background Removal

14.2K

이미지 배경 제거를 위한 혁신적인 API.

배경 제거 Other

ELSA Speak

ELSA의 혁신적인 AI 기반 앱으로 쉽게 영어 발음을 향상시켜 보세요.

영어 발음 Other

Arcads

396.8K

빠른 시간 안에 매력적인 마케팅 영상을 만들어보세요.

AI 비디오 광고 AI Advertising Assistant

Find AI tools in YBX