Lasso Security는 Hugging Face가 잠재적인 재앙적인 공격을 피하도록 도와 1,681개의 위험한 API 토큰을 발견했습니다. 이 토큰은 Lasso 연구자들이 GitHub 및 Hugging Face 리포지토리에서 실시한 종합적인 스캔 중에 발견되었습니다. 조사는 Meta, Microsoft, Google과 같은 대기업을 포함한 723개 조직의 계정에 대한 무단 접근을 밝혀냈습니다. 이 중 655명의 사용자가 작성 권한이 있는 토큰을 가지고 있었고, 77명은 여러 주요 회사의 리포지토리에 대한 완전한 제어 권한을 부여했습니다. Lasso 연구자들은 Bloom, Llama 2, Pythia 리포지토리에도 접근하여 공급망 공격의 상당한 위험이 수백만 사용자에게 영향을 미칠 수 있음을 나타냈습니다.
“우리 조사에서 Meta의 고위험 계정이 드러났습니다,”라고 Lasso 연구자들은 밝혔습니다. “상황의 심각성을 과소평가할 수 없습니다. 수백만 다운로드를 자랑하는 조직에 대한 제어 권한을 통해 기존 모델을 조작하여 악성 엔티티로 바꿀 수 있습니다. 이는 이러한 기초를 기반으로 애플리케이션을 사용하는 수백만 명에게 심각한 위협을 가합니다.”
Hugging Face: 주요 공격 표적
Hugging Face는 50,000개 이상의 조직이 DevOps 작업에 의존하는 대형 언어 모델(LLM) 개발에 필수적입니다. 이 플랫폼의 Transformers 라이브러리는 500,000개 이상의 AI 모델과 250,000개의 데이터 세트를 호스팅하여 LLM 개발자 및 DevOps 팀의 주요 리소스가 되고 있습니다.
플랫폼의 빠른 성장은 Transformers 라이브러리의 오픈 소스 성격 덕분입니다. 이 생태계 내의 협력과 지식 공유는 LLM 개발을 가속화하여 성공적인 배포 가능성을 높입니다. 이는 LLM 및 생성 AI 공급망의 취약점을 악용하려는 공격자에게 매력적인 표적이 됩니다.
Lasso Security의 통찰
2023년 11월, Lasso 연구자들은 Hugging Face의 API 토큰 보안을 탐색하며 잠재적인 노출 위험을 보다 잘 이해하고자 했습니다. 그들은 LLM의 OWASP Top 10에 부합하는 세 가지 신흥 위험을 확인했습니다:
1. 공급망 취약성: 연구를 통해 불안전한 구성 요소가 LLM 생애 주기를 저해하고, 제3자 데이터 세트 및 사전 훈련된 모델을 통해 공격에 노출되는 방법이 강조되었습니다.
2. 훈련 데이터 오염: 공격자는 손상된 API 토큰을 사용하여 LLM 훈련 데이터를 오염시켜 모델 보안을 약화시키는 취약점이나 윤리적 문제를 도입할 수 있습니다.
3. 모델 도난: 손상된 API 토큰은 무단 접근을 신속하게 가능하게 하여 독점 LLM 모델의 복사 또는 유출을 촉진합니다. Lasso의 탐색 결과는 2,500개의 데이터 세트와 연결된 10,000개 이상의 비밀 모델이 “모델 도난”에서 “AI 리소스 도난(모델 및 데이터 세트)”로 OWASP 범주를 재브랜딩할 필요가 있음을 나타냈습니다.
“상황의 심각성을 과소평가할 수 없습니다,”라고 Lasso Security 팀은 반복적으로 강조했습니다. “수백만 다운로드를 자랑하는 조직에 대한 제어 권한을 통해 우리는 모델을 조작할 수 있으며, 사용자에게 상당한 위험을 초래합니다.”
결론: API 토큰을 신원으로 취급하라
Hugging Face에서 발생한 심각한 위반의 위험은 LLM 및 생성 AI 플랫폼을 보호하기 위해 필요한 복잡하고 진화하는 관행을 강조합니다. Lasso Security의 보안 연구원인 Bar Lanyado는 이렇게 조언했습니다: “Hugging Face는 노출된 API 토큰을 지속적으로 스캔하고 이를 취소하거나 영향을 받은 사용자에게 통보해야 합니다.”
GitHub의 접근 방식을 참고하여, 그는 개발자들이 하드 코딩된 토큰을 피하고 커밋 중 의도치 않은 노출을 방지하기 위해 최선의 관행을 채택할 것을 권장합니다. 제로 트러스트 모델을 강조하며, Hugging Face는 API 토큰이 고유하도록 하며 다중 인증을 사용하고 생애 주기 관리 및 자동화된 신원 검증에 집중해야 합니다.
오늘날의 제로 트러스트 환경에서는 단순한 경계만으로는 충분하지 않습니다. API 토큰의 지속적인 관리가 많은 선도 기술 회사들이 육성한 LLM 생태계의 보안에 필수적입니다. Hugging Face와 관련된 이 사건은 API 토큰 수준에서의 엄격한 접근 제어 유지와 포지션 관리 구현이 조직의 전반적인 보안을 강화하는 데 필수적임을 보여줍니다. 모든 조직은 잠재적 위반으로부터 보호하고 모든 공격 벡터의 보안을 강화하기 위해 능동적인 사고방식을 채택해야 합니다.
순위 목록
