젠 AI 안전 문제로 인해 기업들이 AI 감사 프로토콜을 강화하고 있습니다.

고객 지원 AI 에이전트, 특히 Chevy, Air Canada, New York City와 같은 잘 알려진 브랜드에서 발생하는 심각한 오류의 빈도가 증가함에 따라 인공지능 시스템의 신뢰성을 개선하다는 요구가 커지고 있습니다.

생성 AI 애플리케이션 및 전략 개발에 관여하는 기업 결정권자라면 최신 챗봇 기술과 책임 기준을 따라가기가 어렵다면, 6월 5일 뉴욕에서 열리는 독점 AI 행사에 참여해 보세요. 이 행사는 “AI 감사”에 초점을 맞추고 있으며, 기업 부문의 기술 리더를 위해 마련되었습니다.

유명 미디어 아울렛이 주최하는 이 네트워킹 행사에 참여하여 AI 생태계의 세 명의 저명한 인사들로부터 AI 감사의 모범 사례에 대한 통찰력을 들으실 수 있습니다. Verizon의 AI 및 데이터 부문 부사장인 Michael Raj는 고객 상호작용에서 책임 있는 생성 AI 사용을 위한 체계를 어떻게 구축했는지에 대해 심도 있는 AI 감사와 직원 교육을 통한 경험담을 공유할 예정입니다. 그는 FirstMark의 저명한 투자자이자 매년 데이터 및 AI 동향을 발표하는 Matt Turck의 진행을 받을 것입니다.

또한, Patronus AI의 공동 창립자이자 CTO인 Rebecca Qian은 안전 취약점을 식별하고 해결하는 데 도움이 되는 AI 감사의 최신 전략과 기술에 대해 논의합니다. Qian은 Meta에서 AI 평가 이니셔티브를 이끈 경험을 지니고 있습니다.

저와 제 동료인 Carl Franzen, 유명 미디어 아울렛의 이그제큐티브 에디터가 토론을 주최할 예정입니다. UiPath가 후원사로 참여하며, Justin Greenberger, UiPath의 SVP가 조직 내 AI 프로토콜을 형성하는 감사 및 준수 지침의 발전에 대한 통찰력을 제공할 것입니다. 이 행사는 생성 AI의 효과적인 구현을 희망하는 기업 리더 간의 대화와 네트워킹을 촉진하기 위한 AI Impact Tour 시리즈의 일환입니다.

그렇다면 AI 감시는 정확히 무엇이며, AI 거버넌스와는 어떻게 다를까요? AI에 대한 거버넌스 규칙을 설정한 후에는 이러한 규칙 준수를 보장하기 위해 생성 AI 애플리케이션에 대한 감사를 수행하는 것이 중요합니다. 이는 급속한 기술 발전 속에서 더욱 긴급한 필요입니다. OpenAI와 Google과 같은 주요 LLM 제공업체는 최근 ChatGPT와 Gemini와 같은 모델을 도입해 시각, 청각, 발화 및 감정을 표현할 수 있는 기능을 추가했습니다. Meta(Llama 3), Anthropic(Claude), Inflection(감정 기반 AI) 등의 혁신과 결합되어 정확성과 개인정보 감사 요건을 충족하기가 점점 더 복잡해졌습니다.

Patronus AI와 같은 새로운 기업들이 AI 상호작용 내 민감한 개인 식별 정보(PII)를 식별할 수 있도록 지원하는 기준, 데이터 세트 및 진단 도구를 개발하며 이 격차를 메우고 있습니다. 또한, 검색 보강 생성(RAG) 및 시스템 프롬프트와 같은 전통적인 기법은 오류를 방지하는 데 종종 실패합니다. 이는 근본적인 LLM 훈련 데이터 세트에서 투명성이 부족하기 때문입니다. 이러한 현실은 강력한 감사 관행의 필요성을 강조합니다.

디지털 환경에서 윤리적 리더십에 헌신하는 기업 AI 결정권자들을 위한 이 중요한 기회를 놓치지 마세요. 지금 신청하여 AI Impact Tour에 참여할 자리를 확보하고 AI 혁신과 거버넌스의 최전선에 서십시오.