AI 시스템이 부정확한 콘텐츠를 생성할 때 이를 “환각”이라고 부릅니다. 그 결과가 항상 심각한 것은 아닙니다. 그러나 군사 기술에 사용되는 AI 시스템이 환각을 일으킬 경우 그 의미는 훨씬 더 심각해질 수 있습니다.
Jaxon AI는 미 공군을 위해 신뢰성과 정확성에 중점을 두고 AI 시스템을 개발했습니다. 현재 이 회사는 대규모 언어 모델(LLM)의 환각 및 부정확성 문제를 해결하기 위해 도메인 특화 AI 언어(DSAIL)를 활용하여 기업 시장으로 확장하고 있습니다. 이 기술은 IBM의 watsonx 기초 모델을 통합하여 더 신뢰할 수 있는 AI 솔루션을 새롭게 만들어냅니다.
DSAIL의 환각 위험 최소화 방식
환각은 AI가 부정확한 응답을 생성할 때 발생하며, 종종 불완전한 훈련 데이터나 검증 부족에 기인합니다. DSAIL 프레임워크는 자연어 입력을 이진 형식으로 변환하여 이러한 위험을 완화합니다. 이 형식은 AI의 응답이 모든 제약 조건을 준수하도록 보장하기 위해 부울 만족기와 같은 일련의 검사를 거치며, 실제 응용 프로그램에 대한 신뢰성을 향상시킵니다.
환각을 줄이는 일반적인 전략 중 하나는 정보 검색 증강 생성(RAG)입니다. 이 모델에서 LLM은 지식 기반에 접근하여 정확한 답변을 제공합니다. Cohen은 RAG가 DSAIL의 방법론 일부이지만 최종 출력을 내기 전에 추가 검증 과정을 거쳐야 환각 가능성을 줄일 수 있다고 언급했습니다.
Jaxon의 AI 시스템에서 IBM watsonx의 역할
Jaxon은 IBM의 watsonx 라이브러리에서 모델을 활용하여 AI 시스템의 핵심 구성 요소로 삼고 있습니다. 특히 IBM StarCoder 모델은 디자인 사양에 따라 AI 프로젝트의 초기 코드를 자동으로 생성하여 코드 생성을 지원합니다.
StarCoder는 5월에 ServiceNow 및 Hugging Face의 지원으로 시작된 오픈 소스 프로젝트로, IBM의 watsonx 라이브러리 내 여러 코드 생성 도구 중 하나입니다. IBM의 생태계 엔지니어링 및 개발자 옹호 부문 VP인 Savio Rodrigues는 IBM이 StarCoder 프로젝트의 창립 기여자임을 확인하고, Hugging Face와의 협력을 통해 오픈 모델에 대한 기업의 접근성을 향상시키고 있다고 강조했습니다.
StarCoder는 다양한 기능을 제공하는 반면, IBM은 COBOL 마이그레이션 및 양자 컴퓨팅 개발과 같은 특정 응용 프로그램에 맞춤화된 전문 코드 생성 모델도 제공합니다.
생성 AI 시장에서 IBM의 전략적 위치
생성 AI 및 LLM 시장은 OpenAI, Microsoft, Google, AWS와 같은 주요 플레이어들 간의 치열한 경쟁이 이루어지고 있습니다. IBM은 Jaxon AI와 같은 개발자와 독립 소프트웨어 공급업체(ISV)를 IBM Build 프로그램을 통해 지원하여 이 시장에서의 점유율을 높이고자 합니다.
IBM Build는 파트너에게 watsonx에 대한 접근, 기술 지원 및 시장 진출 지원을 제공합니다. 목표는 일관된 가격, 성능 및 신뢰성을 갖춘 신뢰할 수 있는 AI 기초 모델을 제공하는 것입니다. “우리 고객들은 특히 모델 훈련 및 우리가 시행하는 법적 검토에 있어 IBM의 AI 접근 방식을 신뢰하고 있습니다,”라고 Rodrigues는 강조했습니다.
순위 목록
