초지능 이해하기: 집단 지능으로 가는 길
"초지능"이라는 용어는 이제 AI 시스템이 인간의 인지 능력을 초월할 것으로 예상되는 다양한 작업에서 점점 더 많이 사용되고 있습니다. 논리와 추론에서 창의성, 직관에 이르기까지, 한때 먼 미래의 가능성으로 여겨졌던 이 개념은 이제 10년 이내에 현실이 될 것으로 생각되고 있으며, 이는 정책 입안자와 연구자들 간에 큰 우려를 불러일으키고 있습니다. 주요 걱정 중 하나는 인간의 가치, 도덕, 목표가 결여된 인공 초지능(ASI)의 등장입니다.
이러한 위험을 완화하기 위해 일부 연구자들은 인간의 가치와 일치하는 AI 시스템 설계를 목표로 하고 있습니다. 예를 들어, Anthropic은 AI 행동을 지배할 원칙의 틀을 심어주는 Constitutional AI 방법을 연구하고 있습니다. 한편 OpenAI는 이 중요한 문제에 대해 20%의 컴퓨팅 파워를 할당하는 Superalignment 전략을 추진하고 있습니다.
하지만 이는 긴급한 질문을 제기합니다: 초지능을 달성하기 위한 더 안전한 경로가 존재할까요?
저는 존재한다고 믿습니다. 그것은 집단 초지능(Collective Superintelligence, CSi)이라는 개념입니다. 지난 10년간 AI 연구자로서 저는 이 접근 방식에 집중해왔습니다. CSi는 대규모 그룹을 연결하여 복잡한 문제를 협력적으로 해결할 수 있는 시스템을 만들어 인간의 지능을 증폭하는 것을 목표로 합니다. 이 방법은 의사 결정 과정에서 인간의 가치와 윤리를 통합하는 것을 보장합니다.
비록 이것이 다소 비관습적으로 들릴 수 있지만, 이는 여러 사회적 종에서 관찰되는 자연적 진화 단계, 즉 스왐 지능(Swarm Intelligence)과 일치합니다. 이 현상은 물고기 학교, 벌 떼, 새 떼가 중앙 통제 없이 환경을 효과적으로 탐색할 수 있게 합니다. 그들은 투표나 여론 조사에 의존하기보다는 최적의 해결책에 수렴하는 실시간 상호작용 시스템(스왐)을 형성합니다.
이 모델이 물고기와 새에게 효과적이라면, 인간에게도 그렇지 않을 이유가 있을까요?
이 질문은 인간 그룹이 초지능 시스템으로 기능할 수 있는지를 탐구하자는 제 연구의 원동력이었습니다. 2014년, 저는 생물학적 스왐을 모방하기 위해 Unanimous AI를 설립하였습니다. 초기 기법은 비언어적 방법을 사용하여 수백 명의 사용자가 그래픽 퍼즐을 조작함으로써 공동으로 질문에 답하도록 하였고, AI 알고리즘은 그들의 상호작용을 분석하여 신뢰 수준을 평가했습니다.
우리 시스템은 다양한 사건에 대한 그룹 예측을 효율적으로 생성하며, 회의론자들을 놀라게 했습니다. 예를 들어, 2016년 CBS 기자가 켄터키 더비에 대한 예측을 요청한 후 우리 그룹의 예측에 베팅하였고, 이는 큰 승리를 가져왔습니다. 이는 집단 초지능의 잠재력을 보여줍니다. 후속 학술 연구는 금융 예측부터 의료 진단에 이르기까지 다양한 분야에서 스왐 AI 응용 프로그램의 유효성을 입증했습니다.
그럼에도 불구하고 진정한 초지능을 달성하는 것은 여전히 어려웠습니다. 이전 방식은 좁은 문제만 다루었기 때문입니다. 포괄적인 인간 주도의 초지능을 만들기 위해서는 복잡한 문제에 대한 논의를 촉진할 수 있도록 기술이 적응 가능해야 하며, 이는 가장 강력한 인간 도구인 언어를 활용해야 합니다.
그러나 대규모 그룹이 일관된 실시간 대화에 참여하도록 만드는 것은 도전 과제가 됩니다. 연구에 따르면, 생산적인 논의를 위한 최적의 그룹 크기는 4명에서 7명 사이입니다. 이 숫자를 초과하면 대화 동역학은 참여적 대화에서 단편적 독백으로 바뀌는 경향이 있습니다. 이러한 한계는 매우 도전적으로 보였으나, 최근 AI, 특히 대형 언어 모델(LLMs)에서의 발전이 인간 스왐을 구축할 새로운 가능성을 열었습니다.
새로운 기술인 대화형 스왐 지능(Conversational Swarm Intelligence, CSI)은 어떠한 크기의 그룹(200명부터 200만 명까지)도 실시간으로 복잡한 문제를 논의할 수 있게 하여 스왐 지능의 자연적 증폭을 실현할 수 있는 가능성을 가지고 있습니다.
수천 마리의 물고기들이 리더 없이 실시간으로 "대화"하는 방식에서 영감을 받아, 우리는 이 아이디어를 인간에게 적용했습니다. 하이퍼 스왐(hyperswarms)이라는 개념을 활용하여 대규모 그룹을 겹치는 하위 그룹으로 나누었습니다. 예를 들어, 1,000명의 개인 네트워크를 더 작은 그룹으로 세분화하여 병렬 대화를 촉진하여 심도 있는 논의를 증진할 수 있습니다.
하지만 병렬 그룹을 만드는 것만으로는 스왐 지능을 달성하기에 충분하지 않습니다. 정보는 하위 그룹 간에 흐를 수 있어야 합니다. 이는 물고기에 존재하는 측선 기관과 유사한 AI 에이전트를 포함시켜 이루어집니다. LLM에 의해 구동되는 이 관찰 에이전트는 통찰력을 추출하여 전체 인구에 전파하여 지식 확산을 보장합니다.
최근 연구에서는 Sir Francis Galton의 1906년 실험에서 적응한 추정 작업을 통해 이 개념을 시험했습니다. 우리 테스트에서 240명의 참가자는 항아리 속의 젤리빈 수를 추정했습니다. 그들의 개별 추정치는 크게 차이가 나 평균 오류는 55%에 달했습니다. 반면 집계된 통계 평균은 25%로 정확도가 향상되었으며, ChatGPT의 추정치는 42%의 오류로 가까워졌습니다.
특히 대화형 스왐 방법은 개인과 ChatGPT보다 더 우수한 성과를 거두어 12%의 놀라운 오류율을 달성했습니다.
순위 목록
