OpenAI SearchGPT 공식 데모에서 발견된 취약점: 소스 코드와 검색 메커니즘의 비밀 밝혀내기

Home AI 뉴스 OpenAI SearchGPT 공식 데모에서 발견된 취약점: 소스 코드와 검색 메커니즘의 비밀 밝혀내기

제목: SearchGPT가 직면한 도전: 환상과 현실의 전투

SearchGPT의 출시 불과 이틀 후, 사용자 Kesku가 만든 시연이 놀라운 속도의 출력 결과로 온라인에서 큰 화제를 모았습니다. 하지만 OpenAI에서 발표한 공식 시연은 The Atlantic의 보고서에서 몇 가지 중요한 부정확성이 드러나면서 비판을 받았습니다. "2023년 8월 노스캐롤라이나 부운의 음악 페스티벌"에 대한 질문에 SearchGPT는 잘못된 날짜를 제공해 신뢰성에 대한 우려를 불러일으켰습니다.

OpenAI의 대변인 케일라 우드는 The Atlantic에 이 오류가 초기 프로토타입에서 발생한 것이라며 개선 작업이 진행 중이라고 밝혔습니다. 이 사건은 Google의 Bard가 출시 시기에 겪었던 주요 실수와 유사합니다. 2023년 2월, Bard는 제임스 웹 우주 망원경이 최초의 외계 행성 이미지를 포착했다고 잘못 주장했는데, 이는 실제로 유럽 남부 천문대의 VLT가 이루어낸 성과입니다. 이 실수로 인해 알파벳의 주가는 9% 하락하며 1천억 달러의 시장 가치가 증발했습니다.

이에 비해 OpenAI는 Google의 실패에서 배워 내부 테스트에 대한 접근을 제한하는 보다 신중한 접근 방식을 선택했습니다. 대규모 접근이 이루어지는 상황에서, 설령 OpenAI가 SearchGPT의 환상 발생을 최소화한다 하더라도, 작은 1%의 오류율이 매일 수백만 개의 부정확한 응답으로 이어질 수 있습니다. 현재 대형 언어 모델(LLM)에서 환상과 오류를 완전히 없앨 수 있는 신뢰할 수 있는 방법은 없습니다.

Andrej Karpathy는 Twitter에서 환상이 단순한 버그가 아니라 LLM의 독특한 특징이라고 지적했습니다. 그는 LLM을 '꿈의 기계'에 비유하며, 프롬프트에 반응하여 종종 유용한 콘텐츠를 생성하지만 때때로 사실 오류로 이끄는 '환상'이 발생할 수 있음을 강조했습니다. 이는 기존 검색 엔진이 데이터베이스에서 가장 관련성 높은 문서를 반환하는 방식과 근본적으로 다릅니다.

Karpathy는 현재 LLM 기반 AI 검색 모델이 100% 정확한 결과를 보장할 수 없다고 믿고 있습니다. 이는 흥미로운 질문을 제기합니다: 검색 엔진의 변환 과정에서 LLM의 창의성과 전통적인 검색 방법의 신뢰성이 공존할 것인가, 아니면 결국 하나가 다른 것을 대체할 것인가? 이 질문은 신중한 고려가 필요합니다.

95년 이후 출생 AI 천재, Cohere의 가치를 55억 달러로 끌어올리는 10억 달러 가량의 자금 조달 성공

메타, 오픈AI의 지배에 도전하는 강력한 오픈 소스 모델 Llama 3.1 출시

Most people like

Text Reader

112.9K

무료 텍스트 음성 변환 기술의 힘을 경험하세요. 사실감 넘치는 AI 음성이 여러분의 글을 생동감 있게 만들어 줍니다.

텍스트 음성 변환 AI Speech Synthesis

Beauty.AI

15.2K

전통 미인 대회의 혁신적인 전환으로, AI 미인 대회가 로봇에 의해 평가되고 있습니다. 이 획기적인 행사는 기술과 미학을 결합하여 디지털 영역에서의 아름다움에 대한 우리의 인식을 도전합니다. 고급 알고리즘과 인공지능을 활용하여, 이 대회는 창의성의 경계를 넓히고 자동화와 머신 러닝에 점점 더 영향을 받는 세계에서 아름다움이 무엇을 의미하는지를 탐구합니다.

인공지능 Other

EcoLink

5.9K

환경 관리 접근 방식을 혁신적으로 변화시키기 위해 설계된 혁신적인 AI 및 블록체인 지속 가능성 플랫폼을 소개합니다. 인공지능과 블록체인 기술의 힘을 활용함으로써, 이 플랫폼은 투명성을 높이고, 효율성을 증대시키며, 다양한 산업 전반에 걸쳐 지속 가능한 관행을 촉진하는 것을 목표로 합니다. 최첨단 기술을 통해 지속 가능성의 미래를 함께 변화시켜 나갑시다.

지속 가능성 보상 AI Analytics Assistant

Amplemarket

144.7K

오늘날의 영업 팀을 위해 맞춤 설계된 궁극적인 AI 플랫폼을 소개합니다. 효율성을 높이고 생산성을 증대시키기 위해 설계된 이 혁신적인 솔루션은 인공지능을 활용하여 프로세스를 간소화하고, 워크플로를 최적화하며, 고객 참여를 강화합니다. 귀하의 팀이 뛰어난 성과를 달성할 수 있도록 지원하는 첨단 기술로 영업 전략을 혁신하세요.

AI 플랫폼 Sales Assistant

Find AI tools in YBX