설문 조사: 대부분의 기업, 글로벌 규제에 따른 책임 있는 AI 관행 채택

최근 조사에 따르면, 거의 90%의 기업이 책임 있는 AI 전략을 적극적으로 채택하고 있습니다. 이는 구현, 평가 또는 개발을 통해 이루어지고 있습니다. 이러한 신속 대응은 전 세계 정부가 AI 규제의 복잡성에 대응해야 하는 중대한 시점에서 발생하고 있습니다. 현재 37%의 조직이 책임 있는 AI 전략을 이행 중이며, 34.8%는 계획을 수립하는 과정에 있습니다. 주목할 만하게도, 15.4%는 모든 AI 개발 노력에 통합된 "명확한" 전략을 마련했습니다.

전 세계적으로 정부는 AI로 인한 잠재적 피해를 해결하기 위한 규제를 마련하고 있으며, 유럽연합의 AI 법안이 가장 종합적이고 진일보한 법안으로, 2024년 초에서 중반 사이에 시행될 예정입니다. 미국에서는 바이든 대통령이 주요 기술 기업의 AI 모델에 대한 공개 감사를 촉진하는 행정명령을 발효하였고, 영국의 리시 수낙 총리는 역사적인 블렛클리 파크에서 첫 번째 글로벌 AI 안전 정상 회담을 마쳤습니다.

임박한 규제에도 불구하고 민간 부문은 주도적인 노력을 기울이고 있습니다. 기업들의 신속한 반응은 주목할 만합니다. 불과 1년 전, OpenAI의 ChatGPT 출시로 생성적 AI가 큰 주목을 받았던 것과는 대조적입니다.

대형 언어 모델과 관련 챗봇의 놀라운 능력은 이들이 초래할 위험—환각, 편향, 저작권 문제, 사생활 침해, 사이버 보안 위협—에 대한 인식을 높이며 책임 있는 AI 관행의 필요성을 강조하고 있습니다.

책임 있는 AI의 필수성

책임 있는 AI 관행의 채택은 고객 신뢰 증대와 규제 및 법적 취약성 최소화 등의 이점을 제공합니다. 기업들은 AI의 사회적 영향력을 인식하고 있으며, 시스템의 투명성, 공정성 및 책임성을 보장하기 위해 노력하고 있습니다.

응답자 72%는 프로그램을 보유하거나 계획하고 있다고 답했습니다. 그러나 응답자의 4명 중 1명은 AI에 대한 데이터 관리 및 거버넌스 시스템이 부족하다고 보고했으며, 상당수는 회사의 현황에 대해 확신하지 못했습니다.

응답자 중 45.8%는 자신의 접근 방식이 "신중하고 thoughtful"하다고 설명하며, 적절한 속도로 진전을 보고 있다고 주장했습니다. 반면, 26%는 책임 있는 구현을 보장하기 위해 속도를 너무 빨리 내고 있다고 인정했습니다. 놀랍게도, 19%의 기업은 책임 있는 AI 프로그램이 전무합니다.

이 조사는 북미(43.2%)를 비롯해 서유럽(25.1%)과 아프리카(9%)의 총 227명이 참여하였으며, 절반 이상이 100명 미만의 직원 수를 가진 조직에서 근무하고 있었습니다. 12.8%는 10,000명 이상의 대기업에서 일하고 있으며, 응답자의 상당수가 기업 관리 또는 연구개발 및 기술 전략 역할을 수행하고 있습니다.

도전 과제 탐색

책임 있는 AI에 대한 열의가 분명하지만, 표준화된 정의 및 기준의 부재 등 여러 난제도 존재합니다. 급변하는 AI 환경에서는 기업 정책과 규제를 정기적으로 업데이트해야 효과성을 유지할 수 있습니다.

책임 있는 AI 관행을 모니터링하는 것은 중요한데, 결과는 개선의 여지가 있음을 보여줍니다. 응답자의 60%가 책임 있는 AI 구현의 정확성을 측정한다고 응답했지만, 이는 윤리적 AI 프레임워크를 적용한 응답자 비율인 거의 90%보다 현저히 낮습니다. 오직 18.1%만이 이러한 조치를 확고히 마련했으며, 41.9%는 여전히 이 목표를 향해 나아가고 있습니다.

응답자의 33.9%는 윤리적 AI 측정 프로세스에 명확한 단계와 지침이 있으며, 지속적인 모니터링이 이루어지고 있습니다. 반면, 21.1%는 아직 공식 프로세스를 개발 중입니다. 우려스럽게도, 거의 5분의 1이 측정 전략이 없거나 회사의 접근 방식에 대해 알지 못하고 있습니다.

책임 있는 AI 고려 사항을 통합하는 시점에 대해 묻자 40%는 기술 설계 또는 구현 전에 이를 반영한다고 답했으며, 41.4%는 설계 단계에서 윤리적 고려사항을 포함한다고 응답했습니다. 단 10.6%만이 구현 후에 이러한 문제를 고려합니다.

책임 있는 AI의 주요 응용 분야로는 예측 분석이 30.4%로 1위에 올랐으며, 고객 경험이 27.3%, 챗봇과 가상 비서가 20.3%로 뒤를 이었습니다. 응답자가 least prioritize 한 분야로는 음성/발음 인식, 텍스트 분석 및 시각적 분석이 있었습니다.

AI 개발의 새로운 시대

이번 조사는 AI 환경의 중대한 전환점을 강조합니다. 기업들이 책임 있는 AI 전략에 맞추어 관행을 정렬하고 정부가 규제 조치를 추진함에 따라, 앞으로 윤리적 고려가 AI 혁신의 필수 요소가 되는 새로운 시대에 접어들 것으로 보입니다. 이는 인공지능 개발 및 응용에서 주목할 만한 변화를 의미합니다.