Понимание суперразума: путь к коллективному интеллекту
Термин "суперазум" все чаще используется для описания ИИ-систем, ожидаемых для превышения человеческих когнитивных способностей в различных задачах — от логики и рассуждений до творчества и интуиции. То, что ранее казалось далеким, теперь считается менее чем через десятилетие, вызывая значительные опасения среди политиков и исследователей. Основное беспокойство заключается в создании искусственного суперразума (АСИ), который не имеет человеческих ценностей, моральных норм и целей.
Чтобы снизить этот риск, некоторые исследователи стремятся разработать ИИ-системы, соответствующие человеческим ценностям. Например, Anthropic работает над методом, называемым Конституционным ИИ, который внедряет набор принципов для регулирования поведения ИИ. Между тем, OpenAI осуществляет стратегию, названную Суперсогласованием, выделяя 20% своих вычислительных мощностей на эту важную задачу.
Однако это поднимает насущный вопрос: существует ли более безопасный путь к достижению суперразума? Я считаю, что такой путь есть — концепция, известная как Коллективный Суперазум (КСа). На протяжении последнего десятилетия я, как исследователь ИИ, уделял внимание этому подходу. КСа нацелен на усиление человеческого интеллекта за счет соединения больших групп в системы, способные совместно решать сложные проблемы. Этот метод гарантирует интеграцию человеческих ценностей и этических соображений на протяжении всего процесса принятия решений.
Хотя это может показаться необычным, данный подход соответствует естественному эволюционному шагу, наблюдаемому у многих социальных видов, известному как Роевая Интеллект (Swarm Intelligence). Это явление позволяет косякам рыб, роям пчел и стаям птиц эффективно ориентироваться в окружающей среде без централизованного управления. Вместо того чтобы полагаться на голосования или опросы, они формируют интерактивные системы (роя), которые собираются на оптимальных решениях.
Если эта модель работает для рыб и птиц, почему бы не применить её для людей? Этот вопрос стал основным мотивом моего исследования того, могут ли человеческие группы функционировать как суперазумные системы. В 2014 году я основал Unanimous AI, чтобы имитировать биологические рои. Наши первоначальные методы использовали невербальное взаимодействие, позволяя сотням пользователей совместно отвечать на вопросы, управляя графическим элементом, в то время как алгоритмы ИИ анализировали их взаимодействия для оценки уровня убежденности.
Наша система эффективно создавала групповые прогнозы по различным событиям, даже удивляя скептиков. Например, в 2016 году репортер CBS запросил прогнозы для Kentucky Derby, и, сделав ставку на прогноз нашей группы, она значительно выиграла — что иллюстрирует потенциал Коллективного Суперазума. Позже академические исследования подтвердили применение Роевого ИИ в различных областях, от финансовых прогнозов до медицинской диагностики.
Несмотря на эти достижения, достичь истинного суперразума оставалось невозможным, поскольку предыдущие методы касались лишь узких проблем. Для создания полноценного суперазума на базе человека технологии должны быть адаптируемыми для облегчения обсуждений сложных вопросов — используя самый мощный инструмент человека: язык.
Тем не менее, предоставление возможности большим группам вести последовательные и актуальные беседы представляет собой определенные сложности. Исследования показывают, что оптимальный размер группы для продуктивного обсуждения составляет от четырех до семи участников. Превышение этой границы обычно приводит к смене динамики беседы с вовлеченного диалога на фрагментированные монологи. Это ограничение казалось непреодолимым до недавних разработок в области ИИ, особенно в области крупных языковых моделей (LLM), которые открыли новые возможности для создания человеческих роев.
Новая технология, называемая Роевой Интеллектуальной Беседой (CSI), должна изменить подход групп к обсуждению сложных вопросов, позволяя практически любой группе (от 200 до 2 миллионов) общаться в реальном времени, раскрывая естественное усиление, характерное для роевой интеллекции.
Вдохновленные механизмом общения косяков рыб, которые ведут "разговоры" среди тысяч без лидера, мы адаптировали эту идею для людей. Используя концепцию, называемую гиперроями, большие группы делятся на взаимоперекрывающиеся подгруппы. Например, сеть из 1,000 человек может быть сегментирована на более мелкие группы, что способствует параллельным беседам, которые улучшают вдумчивое обсуждение.
Однако создание параллельных групп само по себе недостаточно для достижения Роевой Интеллектуальности; информация должна свободно передаваться между подгруппами. Это достигается с помощью внедрения агентов ИИ, которые эмулируют боковую линию, найденную у рыб. Под управлением LLM эти наблюдатели извлекают и делятся инсайтами по всей популяции, обеспечивая распространение знаний.
Недавние исследования проверили эту концепцию через задачу оценки, адаптированную из эксперимента сэра Фрэнсиса Галтона 1906 года. В нашем тесте 240 участников оценили количество жевательных конфет в банке. Их индивидуальные оценки разошлись, что привело к средней ошибке в 55%. В то же время, агрегированное статистическое среднее улучшило точность до 25%, в то время как оценка ChatGPT оказалась ближе с погрешностью в 42%.
Наиболее важно, что метод разговорного роя превзошел как индивидуумов, так и ChatGPT, достигнув замечательной ошибки в 12%.
Рейтинг
