굿파이어, '뇌 수술' 기법에서 영감을 받은 혁신적인 AI 가시성 플랫폼을 위한 700만 달러 확보

굿파이어, AI 모델 해석 능력 향상을 위해 7백만 달러 유치

AI 모델 가시성 향상에 중점을 둔 스타트업 굿파이어(Goodfire)가 라이트스피드 벤처 파트너스(Lightspeed Venture Partners)가 주도하는 시드 자금 7백만 달러를 성공적으로 유치했습니다. 멘로 벤처스(Menlo Ventures), 사우스 파크 커먼스(South Park Commons), 워크벤치(Work-Bench), 주니퍼 벤처스(Juniper Ventures), 미토스 벤처스(Mythos Ventures), 블루버드 캐피털(Bluebirds Capital) 및 여러 저명한 앵젤 투자자들이 동참했습니다.

‘블랙 박스’ 문제 해결

대규모 언어 모델(LLM)과 같은 생성 AI 모델이 수백억 개의 매개변수를 가진 복잡성을 갖추게 되면서, 모델은 점점 더 불투명해지고 있습니다. 이 ‘블랙 박스’ 특성은 AI를 신뢰성 있고 안전하게 배포하려는 개발자와 기업에 큰 장애물이 되고 있습니다. 최근 맥킨지 조사에 따르면, 비즈니스 리더의 44%가 예상치 못한 모델 동작으로 인해 부정적인 결과를 경험했다고 보고했습니다.

굿파이어는 AI 모델의 추론 방식과 의사결정을 세부적으로 살펴보는 혁신적인 접근 방식인 '기계적 해석 가능성(mechanistic interpretability)'을 통해 이러한 문제를 완화하고자 합니다.

모델 행동 개선

굿파이어의 혁신적인 도구는 AI 모델의 행동을 이해하고 편집하는 데 도움을 줍니다. CEO이자 공동 창립자인 에릭 호(Eric Ho)는 다음과 같이 설명합니다:

“우리의 도구는 생성 AI 모델의 블랙 박스를 투명하게 만들어 모델의 출력 뒤에 있는 의사결정 과정을 명확히 하는 인간 가독성 인터페이스를 제공합니다. 개발자들은 모델의 내부 작동을 접근하고 다양한 개념의 중요성을 조정하여 의사결정에 영향을 줄 수 있습니다.”

호는 이 과정을 AI 모델에 대한 신경 수술에 비유하며 세 가지 필수 단계를 소개합니다:

1. 뇌 매핑: “신경 과학자들이 인간의 뇌를 이미지화하여 조사하는 것처럼, 우리는 해석 가능성 기법을 적용하여 특정 작업, 개념 및 결과에 해당하는 구성 요소를 식별합니다.”

2. 행동 시각화: “뇌가 매핑되면, 우리는 개발자가 자신의 모델 내 문제 영역을 쉽게 파악할 수 있도록 돕는 도구를 제공합니다.”

3. 수술 수행: “이해를 바탕으로 사용자는 성능을 개선하기 위한 정확한 변경을 수행할 수 있으며, 이는 신경외과 의사가 특정 뇌 영역을 조정하는 것과 유사합니다. 이로 인해 모델 기능이 향상되고 문제 및 버그가 수정됩니다.”

이러한 통찰력은 비용이 많이 드는 재훈련이나 시행착오적 프롬프트 엔지니어링의 필요성을 크게 줄여 AI 개발을 간소화할 수 있습니다.

최고의 팀 구성

굿파이어의 팀은 AI 해석 가능성 및 스타트업 확장 전문가들로 구성되어 있습니다:

- 에릭 호, CEO: 골드만삭스(Goldman Sachs)의 지원을 받는 AI 채용 스타트업 리플매치(RippleMatch)를 창립했습니다.

- 탐 맥그래스, 수석 과학자: 딥마인드(DeepMind)에서 기계적 해석 가능성 팀을 시작한 선임 연구 과학자였습니다.

- 댄 발삼, CTO: 리플매치를 공동 창립하여 핵심 플랫폼 및 머신러닝 작업을 이끌었습니다.

해석 가능성 전문가인 닉 카마라타(Nick Cammarata)는 굿파이어의 사명의 중요성을 강조하며 “최첨단 연구와 해석 가능성 방법의 실용적 응용 간에는 중대한 격차가 존재한다. 굿파이어 팀이 이 격차를 해소할 수 있는 최적의 위치에 있다”고 말했습니다.

라이트스피드 벤처 파트너스의 파트너인 남디 이레그부렘(Nnamdi Iregbulem)은 굿파이어의 미래에 대해 낙관적입니다. “해석 가능성은 AI 개발에 필수적이 되고 있습니다. 굿파이어의 도구는 개발자와 LLM 간의 상호작용 방식을 혁신적인 자원으로 작용할 것입니다. 우리는 이 중요한 AI 분야에서 굿파이어를 지원하게 되어 기쁩니다.”

미래 비전

굿파이어는 자금을 활용하여 엔지니어링 및 연구 팀을 확장하고 핵심 기술을 개선할 계획입니다. 이 회사는 최신 오픈 웨이트 모델을 지원하고, 모델 편집 기능을 향상시키며, 모델 내부와 상호작용할 수 있는 직관적인 사용자 인터페이스를 개발하는 것을 목표로 합니다.

공익 법인으로서 굿파이어는 고급 AI 시스템의 이해를 증진하는 데 헌신하고 있습니다. AI 모델의 해석 가능성과 편집 가능성을 개선함으로써, 안전하고 신뢰할 수 있으며 유익한 AI 기술을 발전시키려는 포부를 가지고 있습니다. 현재 굿파이어는 "사명 지향적이고 사려 깊은 인재"를 팀에 영입하여 AI 해석 가능성의 진화에 기여하길 희망하고 있습니다.