ChatGPT의 출시 2주년을 맞이하며 생성 AI 애플리케이션의 급증을 바라보면, 이 기술이 가진 혁신적 잠재력은 분명한 반면, 모델 내 고유한 편향의 위험성도 상당히 크다는 두 가지 현실이 존재합니다.
2년 남짓의 시간 동안 AI는 일상적인 작업 지원—예를 들어 차량 호출이나 온라인 구매 추천에서 시작하여—보험, 주택, 신용 및 복지 청구와 같은 중요한 결정에까지 영향을 미치는 수준으로 발전했습니다. 옛날의 사소한 편향—예를 들어 피자에 접착제를 추천하는 것—은 지금 우리의 생계에 영향을 미치는 필수 서비스에 영향을 미칠 경우 심각한 우려 사항으로 바뀝니다.
AI 편향 완화: 다양성의 필요성
어떻게 결함이 있는 훈련 데이터로 AI 편향을 효과적으로 완화할 수 있을까요? 이 문제는 모델 제작자가 편향을 식별하는 인식이 부족할 때 더욱 복잡해집니다. 해결책은 AI 팀 내 다양성을 확대하는 것입니다—구체적으로 여성, 소수자, 그리고 노인의 비율을 높이는 것입니다.
조기 교육과 노출
AI에 있어 다양성을 촉진하는 것은 논란이 되어서는 안 됩니다. 하지만 제 30년 STEM 경력 동안, 저는 종종 소수자인 경우가 많았습니다. 기술 분야는 비약적으로 발전했지만, 데이터 및 분석 분야의 인력 다양성은 여전히 정체 상태입니다. 세계경제포럼에 따르면, STEM 분야의 여성 비율은 29%에 불과하지만 비STEM 분야에서는 거의 절반(49%)을 차지합니다. 수학 및 컴퓨터 과학에서 아프리카계 미국인 전문가 비율은 단 9%입니다. 이러한 수치는 지난 20년간 변함 없이 유지되며, 여성의 C-suite 도달 비율은 12%에 불과합니다.
이 문제를 해결하기 위해서는 STEM을 여성과 소수자에게 매력적으로 만드는 포괄적인 전략이 필요합니다. 어린 소녀들이 전통적인 장난감을 선택하는 모습을 담은 Mattel의 비디오가 좋은 사례입니다. 아르헨티나 투어링카 그랑프리에서 최초로 우승한 여성인 Ewy Rosqvist와 같은 영감을 주는 인물에 노출된 후, 그들의 시각이 변화하는 것을 보여줍니다. 이는 STEM에 대한 흥미를 고취하는 데 있어 대표성의 중요성을 강조합니다.
우리는 어린 소녀들에게 STEM에 대한 긍정적인 메시지를 의도적으로 전달하고, 탐색 기회에 대한 평등을 보장해야 합니다. Data Science for All과 Mark Cuban Foundation의 AI 부트캠프와 같은 비영리단체와의 협력이 필수적입니다. 또한, AMD CEO 리사 수, OpenAI CTO 미라 무라티, 알고리즘 정의 연합의 조이 부올라믹윈과 같은 STEM 분야의 개척자들을 기념해, STEM이 남성의 전유물이 아님을 모든 소녀들에게 알려야 합니다.
데이터와 AI는 앞으로 운동선수에서 영화 제작자까지 수많은 직업의 기초가 될 것입니다. 소수자들이 STEM 교육에 접근하는 데 걸림돌을 제거하고, STEM에 대한 기반이 다양한 경로로 나아갈 수 있도록 한다는 점을 보여주는 것이 중요합니다.
편향 인식 및 해결
AI 편향은 주로 두 가지 방식으로 나타납니다: 훈련에 사용되는 데이터세트와 이를 개발하는 개인의 편향입니다. 편향을 줄이기 위해서는 먼저 그 존재를 인정하고 모든 데이터가 고유한 편향을 내포하고 있다는 사실을 인식해야 하며, 이는 종종 무의식적인 인간의 선입견으로 악화됩니다.
잘 알려진 이미지 생성기인 MidJourney, DALL-E, Stable Diffusion을 예로 들어보면, 워싱턴 포스트의 분석에 따르면 "아름다운 여성"을 묘사하라는 요청에 대한 결과는 주로 젊고 마른 백인 여성들로 나타났습니다. 보이는 노화가 2%에 불과하고, 어두운 피부톤을 가진 경우는 9%에 지나지 않았습니다. 이러한 발견은 여성성의 진정한 다양성과 뚜렷한 괴리를 반영합니다.
더 미묘한 편향도 존재합니다. 예를 들어, 1980년대 후반 취리히에서 경력을 시작할 당시, 주요 소득원임에도 불구하고 기혼 여성으로서 은행 계좌를 개설할 수 없었습니다. AI 모델이 여성의 대표성이 결여된 과거 신용 데이터를 기반으로 훈련된다면, 출산 휴가나 육아 공백과 같은 중요한 요소를 간과할 수 있습니다. 이러한 문제를 해결하기 위해서는 AI가 생성한 합성 데이터를 활용할 수 있으나, 모델 제작자가 이러한 편향을 인식해야만 가능합니다.
따라서, AI 개발 과정의 모든 단계에 다양한 목소리—특히 여성의 참여가 필수적입니다. 우리는 이 책임을 전 세계 인구의 풍부한 다양성을 반영하지 않는 기술자 소수집단에게 맡길 수 없습니다.
AI에서 다양성의 필요성
AI에서 편향을 완전히 없애는 것은 비현실적인 목표일 수 있지만, 문제를 무시하는 것 또한 용납될 수 없습니다. STEM과 AI 개발팀 내 다양성을 증가시키는 것은 모두에게 유익한 보다 정확하고 포괄적인 모델을 만드는 데 필수적입니다.
순위 목록
