AI의 잠재력을 최대로 활용하기 위한 신뢰의 중요성
인공지능(AI)의 경제적 잠재력은 널리 인정받고 있지만, 놀랍게도 AI 프로젝트의 87%가 원하는 결과를 내지 못하고 있습니다. 이러한 광범위한 실패는 단순한 기술, 비즈니스, 문화 또는 산업 문제에 그치지 않으며, 최근 evidence은 보다 근본적인 문제인 '신뢰'에 주목하고 있습니다.
AI 시스템에 대한 신뢰 강화
최근 연구에 따르면, C-suite 경영진의 거의 3분의 2가 AI에 대한 신뢰가 수익, 경쟁력 및 고객 성공에 중요한 영향을 미친다고 믿고 있습니다. 그러나 AI에 대한 신뢰를 형성하는 것은 쉽지 않습니다. 사람에 대한 신뢰가 즉시 형성되지 않듯, AI 시스템에 대한 신뢰 또한 쉽게 구축되지 않습니다.
신뢰 부족은 AI의 경제적 이익을 저해하고 있으며, 기존의 신뢰 구축 방법들은 너무 추상적이거나 비현실적으로 보이는 경우가 많습니다. 이를 해결하기 위해, 우리는 새로운 프레임워크인 AI 신뢰 방정식을 제안합니다.
AI 신뢰 방정식 정의
원래 대인 관계 신뢰를 위해 고안된 신뢰 방정식은 David Maister, Charles Green, Robert Galford의 저서 신뢰 = 신뢰성 + 신뢰도 + 친밀감 / 자기 중심성
하지만 이 프레임워크는 인간-기계 관계에는 효과적으로 적용되지 않습니다. 수정된 AI 신뢰 방정식은 다음과 같습니다:
신뢰 = 보안 + 윤리 + 정확성 / 통제
1. 보안: 첫 번째 기초 요소입니다. 조직은 "이 AI 시스템과 정보를 공유할 경우 내 정보는 안전할까?"라는 질문을 해야 합니다. 강력한 보안 조치를 확보하는 것이 필수적입니다.
2. 윤리: 기술적 요소보다 도덕적 요소를 포함합니다. 리더들은 다음과 같은 요소를 반영해야 합니다:
- 모델 개발에 참여한 개인의 대우
- 모델의 설명 가능성과 유해한 결과에 대한 조치
- Gender Shades 연구와 같은 이니셔티브를 통한 모델의 편향 인식
- AI 훈련 데이터 기여자에 대한 비즈니스 모델과 보상
- OpenAI의 논란과 같은 회사의 행동과 가치 일치 여부
3. 정확성: AI 시스템이 관련 상황에서 얼마나 신뢰할 수 있는 정답을 제공하는지를 평가합니다. 모델의 복잡성 및 데이터 품질을 모두 평가하는 것이 중요합니다.
4. 통제: 원하는 운영 감시의 정도를 포괄합니다. AI 시스템이 의도대로 작동할 것인지, 지능형 시스템에 대한 통제가 항상 위험에 처할 수 있는지를 물어야 합니다.
AI 신뢰 방정식 적용을 위한 5단계
1. 유용성 평가: AI 플랫폼이 가치를 창출하는지 확인한 후 신뢰성을 탐색합니다.
2. 보안 평가: 플랫폼의 데이터 처리 관행을 조사하여 귀하의 보안 기준에 부합하는지 확인합니다.
3. 윤리 기준 설정: 명확한 윤리 기준을 정의하고 모든 시스템을 설명 가능성과 공정성 기준에 따라 평가합니다.
4. 정확성 목표 정의: 수용 가능한 정확성 기준을 설정하고, 낮은 성과에 안주하지 않도록 합니다.
5. 필요한 통제 수준 결정: 완전 자율에서 반자율 옵션까지 AI 시스템에 대한 필요한 통제 수준을 정의합니다.
빠르게 발전하는 AI 환경에서 모범 사례를 찾는 것이 유혹적일 수 있지만, 아직 확정된 솔루션은 없습니다. 대신 주도권을 잡으세요. 전담 팀을 구성하고 조직에 맞게 AI 신뢰 방정식을 맞춤화하며, 이를 기준으로 AI 시스템을 비판적으로 평가합니다.
일부 기술 기업은 이러한 변화하는 시장 역학을 인식하고 있으며, Salesforce의 Einstein Trust Layer와 같이 투명성을 강화하고 있지만, 일부는 저항할 수 있습니다. 궁극적으로 귀하의 조직은 AI의 결과물과 이를 뒷받침하는 기업에 얼마나 신뢰를 부여할지를 결정해야 합니다.
AI의 잠재력은 막대하지만, 이를 실현하기 위해서는 AI 시스템과 이를 사용하는 조직 간의 신뢰를 구축하고 유지하는 것이 필수적입니다. AI의 미래는 이 신뢰에 달려 있습니다.
순위 목록
