샘 올트먼의 최근 고용 동향과 OpenAI의 혁신적인 Q* 모델에 대한 추측은 인공지능 일반(AGI)과 관련된 기회와 위험에 대한 관심을 재점화하고 있습니다. AGI는 인간과 동등한 지적 작업을 수행하는 것을 목표로 합니다. 특히 딥 러닝을 통한 인공지능의 빠른 발전은 AGI의 도래에 대한 기대와 우려를 동시에 불러일으켰습니다. OpenAI와 일론 머스크의 xAI를 포함한 다양한 조직이 AGI로의 진전을 위해 노력하고 있으며, 오늘날의 AI 발전이 AGI로 나아가고 있는지에 대한 중요한 질문이 제기됩니다.
딥 러닝의 한계
딥 러닝은 인공 신경망을 사용하는 대표적인 머신 러닝 방법으로, ChatGPT 및 현대 AI의 많은 부분을 뒷받침하고 있습니다. 다양한 데이터 유형을 최소한의 전처리로 관리할 수 있는 능력 덕분에 많은 이들이 딥 러닝이 AGI 개발에 중추적인 역할을 할 것으로 기대하고 있습니다. 그러나 딥 러닝은 몇 가지 중요한 한계를 가지고 있습니다. 효과적인 모델을 만들기 위해서는 방대한 데이터셋과 막대한 계산 자원이 필요합니다. 이러한 모델은 훈련 데이터를 기반으로 통계적 규칙을 추출하여 새로운 정보에 적용하여 응답을 생성합니다. 이 접근법은 예측 논리에 의존하고 있으며, 새로운 현상이 발생할 때 모델이 규칙을 업데이트하지만, 현실의 불확실성에 대한 취약성으로 인해 AGI 목표 달성에는 적합하지 않습니다. 예를 들어, 2022년 6월에 발생한 크루즈 로봇 택시 사건은 이러한 위험을 보여줍니다. 이 차량은 훈련되지 않은 예기치 않은 상황에서 성능이 저하되어 의사결정 실패를 초래했습니다.
'만약에' 딜레마
AGI의 설계자인 인간은 모든 시나리오에 대한 포괄적인 규칙을 만들지 않습니다. 대신, 우리는 기존 지식을 활용하여 컨텍스트와 영향 요인을 이해하고, 환경과 상호작용합니다. 딥 러닝 모델이 고정된 기준에 따라 객체를 분류하는 것과 달리, 인간은 유연한 접근 방식을 사용하여 필요한 경우 기존 규칙을 조정하여 효과적인 선택을 합니다. 예를 들어, 하이킹 중 낯선 원통형 물체를 발견하면, 딥 러닝 모델은 여러 특징을 분석한 후 해당 물체를 위협(예: 뱀) 또는 무해한 것(예: 밧줄)으로 분류해야 행동할 수 있습니다. 반면, 인간은 거리에서 상황을 평가하고, 과거 경험을 바탕으로 이해를 지속적으로 업데이트하며, 다양한 행동 옵션에 따라 결정합니다. 이러한 미묘한 방법론은 경직된 예측보다는 대안 탐색을 강조하며, AGI 달성은 순수한 예측보다 우리의 '만약에' 사고 능력을 향상시키는 데 더 의존할 수 있음을 시사합니다.
깊은 불확실성 하의 의사결정: 나아갈 길
깊은 불확실성 하의 의사결정(DMDU)과 같은 혁신적인 프레임워크는 AGI를 위한 유망한 전략을 제공합니다. 강건한 의사결정과 같은 DMDU 접근법은 다양한 미래 시나리오에서 대안적 결정이 어떻게 성과를 낼 수 있는지를 평가하는 데 초점을 맞추며, 지속적인 재훈련을 필요로 하지 않습니다. 이들은 의사결정 결과를 결정하는 핵심 요소를 식별하여 다양한 맥락에서 허용 가능한 결과를 제공하는 강건한 해결책을 찾는 것을 목표로 합니다.
전통적인 딥 러닝 솔루션이 최적화를 우선시하여 예측 불가능한 조건에서 실패할 수 있는 것과는 달리, DMDU 방법은 다양한 환경에 적응할 수 있는 회복력 있는 대안을 모색하며, 현실 세계의 불확실성을 탐색할 수 있는 AI의 소중한 토대를 제공합니다.
자율주행차의 강건한 의사결정
완전 자율주행차(AV)의 개발은 이러한 방법론의 실용적인 예시가 됩니다. AV는 다양한 예측 불가능한 조건에서 기동해야 하며, 이는 교통에서의 인간 의사결정과 매우 유사합니다. 완전한 자율성을 위한 딥 러닝에 막대한 투자가 이루어졌음에도 불구하고, 이러한 시스템은 종종 불확실한 상황에서 어려움을 겪습니다. 가능한 모든 상황을 모델링하는 데 내재된 한계는 AV 기술에서 예상치 못한 도전에 대한 지속적인 대응 노력이 필요하게 합니다.
하나의 잠재적 해결책은 강건한 의사결정 프레임워크를 사용하는 것입니다. AV 센서는 특정 교통 시나리오에서 가속, 차선 변경 또는 제동과 같은 다양한 결정을 평가하기 위해 실시간 데이터를 수집합니다. 일반적인 알고리즘 응답에 대한 의구심이 있다면, 시스템은 해당 맥락 내에서 다양한 선택의 취약성을 분석하여 광범위한 데이터 재훈련에 대한 의존을 줄이고 현실의 불확실성에 대한 적응력을 향상시킬 수 있습니다. 이러한 변화는 완벽한 예측 추구보다는 의사결정의 유연성을 우선시함으로써 AV 성능을 향상시킬 수 있습니다.
AGI 발전을 위한 의사결정 맥락 강조
AI 기술이 계속 발전함에 따라 딥 러닝 패러다임에서 벗어나 AGI로의 진전을 촉진하기 위해 의사결정 맥락에 집중하는 것이 중요할 수 있습니다. 딥 러닝이 여러 응용 프로그램에서 효과적인 것으로 입증되었지만, AGI 실현에는 부족합니다. DMDU 방법론은 현실 세계의 불확실성을 효과적으로 다루는 더 강력한 의사결정 중심 AI 접근법의 길을 열어줄 수 있습니다.
순위 목록
