VB AI 임팩트 투어: 감사에서 인간의 역할의 미래는 무엇인가?

AI 감사 탐색: 편향, 성능 및 윤리 문제 해결

AI 모델의 편향, 성능 및 윤리적 준수에 대한 감사는 기업에게 중요한 과제입니다. 최근 뉴욕에서 열린 VB AI Impact Tour에서 UiPath가 주최한 이 행사에서 업계 리더들이 효과적인 방법론, 모범 사례 및 실제 사례를 논의했습니다. 주요 연사로는 Verizon Communications의 AI 및 데이터 네트워크 활성화 부사장인 Michael Raj, Patronus AI의 공동 설립자이자 CTO인 Rebecca Qian, FirstMark의 관리 이사인 Matt Turck이 포함되었습니다. 행사 마지막에 VB CEO Matt Marshall은 UiPath의 고객 성공 부사장 Justin Greenberger와 함께 AI 감사의 성공 요인과 프로세스 시작 방법에 대해 이야기했습니다.

Greenberger는 위험 평가에 대한 선제적 접근의 필요성을 강조했습니다: “위험 환경은 예전에는 연례적으로 평가되었지만, 이제는 거의 매달 재평가해야 합니다. 귀하의 위험과 이를 완화하기 위한 통제 수단을 이해하고 있습니까? 내부 감사자 협회(IIA)는 AI 프레임워크를 업데이트했지만, 주로 기본적인 사항을 다룹니다. 모니터링 KPI는 무엇입니까? 데이터 출처의 투명성은 얼마나 있습니까? 책임 프로토콜은 마련되어 있습니까? 평가 주기는 더 빈번해야 합니다.”

그는 일반 데이터 보호 규정(GDPR)을 규제 과잉의 예로 언급하며, 이는 궁극적으로 기업 전반에 데이터 보안을 위한 강력한 기반을 마련했습니다. 흥미롭게도 생성적 AI의 부상은 글로벌 시장이 유사한 속도로 적응하고 있으며, 기업들이 이 기술에 대한 위험 감내력을 평가하면서 경쟁 환경이 균형을 이루고 있습니다.

파일럿 도전 극복 및 직원 참여

기업 전반의 AI 도입이 여전히 진행 중인 가운데, 많은 기업들이 AI의 가능성을 탐색하기 위해 초기 파일럿 프로젝트를 실행하고 있습니다. 지속적인 문제 중 하나는 사용 사례를 효과적으로 정의하기 위해 필요한 맥락 지식과 비판적 사고 능력을 가진 전문 인력을 여부입니다. 또한, 직원들의 이해와 참여를 이끌어내는 것이 중요합니다. Greenberger는 AI 기술, 특히 윤리적 사용 및 딥페이크의 위험에 대해 직원들이 배워야 할 내용을 명확히 이해하는 것이 여전히 진화하고 있다고 언급했습니다.

조직들은 완전한 프로세스 혁신 대신 기존 워크플로우에 생성적 AI를 통합하고 있습니다. 따라서 감사는 민감한 의료 사례를 포함한 다양한 애플리케이션 내 개인 데이터 활용 방식을 모니터링하기 위해 진화해야 합니다.

AI 시대의 역할 변화

AI 기술이 발전함에 따라 감사 과정에서 인간의 역할은 여전히 중요합니다. Greenberger는 사용자가 문의를 시작하지만 AI 시스템이 정보를 처리하고 의사 결정에 필요한 데이터를 제공한다고 설명했습니다. 예를 들어 물류 회사의 직원은 고객과의 상호작용에 AI 생성 인용을 사용할 수 있습니다. 그러나 전통적인 인간 역할은 자동화의 도전에 직면할 수 있습니다.

“현재 인간은 의사 결정 책임을 유지하고 있습니다,”라고 Greenberger는 말했습니다. “시간이 지남에 따라 감사 통제와 정기 점검에 익숙해지면 이는 변화할 가능성이 큽니다. 궁극적으로 인간은 역할의 창의적이고 감정적인 측면에 집중해야 할 수 있으며, 의사 결정 권한은 그들로부터 멀어질 수 있습니다. 기술 발전과 함께 이러한 진화는 불가피합니다.”

결론적으로, 조직은 끊임없이 AI 시스템을 평가하여 위험을 완화하고 윤리적 관행을 보장해야 할 필요가 있습니다. 이는 끊임없이 변화하는 기술 환경을 내비치는 데 필수적입니다.