В начале месяца я стал свидетелем замечательного технологического прорыва. Во время пресс-брифинга перед CES компания Nvidia продемонстрировала свой микросервис Ace — набор ИИ, способный создавать полностью озвученные AI-персонажи. Я был поражен, когда ведущий демонстрации взаимодействовал с NPC в игре через микрофон и получал в ответ реалистичные реакции цифрового персонажа в реальном времени. Это ощущалось как научная фантастика, но у меня возник вопрос: как это возможно?
Ответ Nvidia был расплывчатым, утверждая, что "простого ответа не существует". Эта неопределенность вызвала бурные обсуждения в социальных сетях, многие пользователи выразили опасения, что Ace мог быть обучен на контенте, не принадлежащем Nvidia. Позже компания уточнила, что использует только законно полученные данные, однако неопределенность осталась. Геймеры по-прежнему беспокоились о моральных и художественных аспектах данной технологии.
В этом контексте выступил Пурненду Мукерджи, программный инженер и создатель AI-технологии, лежащей в основе данного противоречия. Он является основателем Convai, компании по генеративному ИИ, ответственной за демонстрацию Kairos от Nvidia на CES 2024. Вместо того чтобы молчать на фоне критики, Мукерджи решил напрямую разъяснить недоразумения.
В обширном интервью он обсудил различные этические вопросы, касающиеся AI-инструментов, таких как его разработка. Темы варьировались от опасений по поводу потери рабочих мест до беспокойства о том, что AI может подорвать человеческий подход в искусстве. Вопреки этим страхам, Мукерджи видит будущее, в котором художники совместно используют AI для улучшения своих креативных выражений. Однако его наблюдения о использовании данных ставят новые вопросы.
Увлечение Мукерджи человеческим разумом началось в детстве и привело его к исследованию AI еще в школе. Первоначально его интерес угасал из-за жестких, основанных на правилах систем, но вновь разгорелся в 2015 году, когда он погрузился в глубокое обучение в лаборатории в Индии. После аспирантуры и опыта работы в Nvidia он основал Convai в апреле 2022 года, финансируя стартап самостоятельно на протяжении первых десяти месяцев.
Как заядлый геймер, Мукерджи вырос, играя в такие конкурентные игры, как Counter-Strike, в местном интернет-кафе, где он впервые задумался о том, как AI может улучшить игровой процесс. Сначала это была шутливая критика элементарных игровых ботов, которая трансформировалась в прорывную инновацию. Технология Convai использует множественные процессы AI для создания полноозвученных NPC, способных динамично реагировать на запросы игроков, стремясь создать более захватывающий игровой опыт.
«Подумайте о таких играх, как Baldur's Gate 3 или The Witcher», — объясняет Мукерджи. «Эти игры имеют богатые сюжеты и глубокие линии персонажей. Однако игроки часто не могут полностью исследовать эти истории из-за ограниченных диалоговых опций с NPC. Современные технологии позволяют NPC обрести жизнь — взаимодействовать с игроками в образе и предоставлять более глубокое понимание сюжета».
Это настроение открывает более широкое обсуждение, когда Мукерджи затрагивает взаимосвязанные проблемы AI. Когда речь заходит о том, будет ли Baldur’s Gate 3 все еще актуальна без тщательно проработанного диалога, мы погружаемся в сложные отношения между машинно генерируемым контентом и художественной целостностью. Мукерджи смело отвечает на скептицизм, подчеркивая, что AI не заменяет художников, а является инструментом, требующим их участия.
«Я уверен, что нарративные дизайнеры будут востребованы сильнее, а не меньше», — заявляет он, подчеркивая, как AI может создать дополнительные роли для писателей. «Писатели должны создавать предысторию и нарратив, а также разрабатывать надежные тестовые наборы. Чтобы убедиться, что NPC на основе генеративного ИИ можно без опасений интегрировать в многомиллионную игру, необходимо сотни или тысячи взаимодействий — желательно созданных оригинальным нарративным писателем. Наша платформа требует от пользователей предоставления обширной предыстории и документов, что в конечном итоге приводит к значительному увеличению объема написанного материала».
Эта точка зрения становится повторяющейся темой в нашем диалоге. Мукерджи постоянно подчеркивает, что инструменты генеративного AI потребуют еще большего количества художников для эффективного обучения. Он предполагает, что улучшенный AI повысит качество игр, что приведет к увеличению продаж и более высоким зарплатам для голосовых актеров, играющих важные роли в разработке этих продвинутых инструментов. Его взгляд оптимистичен, особенно учитывая текущую волну сокращений в индустрии видеоигр.
Мукерджи осознает реальность этих сокращений, но рассматривает рост генеративного AI как часть естественной технологической эволюции. Он считает, что создатели должны адаптироваться и принимать совместные синергии с AI, а не рассматривать его как угрозу.
«Вы по-прежнему остаётесь создателем, хозяином и контролером», — утверждает он.
Когда мы продолжаем разговор, я спрашиваю его о художниках, которые страстно создают игры как выражение своего мастерства. Действительно ли это так просто, как предложить им перейти на инженерное направление в AI? Мукерджи отвечает, что дело больше в осознании пересечения искусства и технологий.
«AI подобен таким инструментам, как Adobe Photoshop или Unreal Engine», — объясняет он. «Да, игры существовали и до этих технологий, и создатели всё еще создавали их вручную. Но можете ли вы создать удивительное искусство с использованием Unreal Engine? Безусловно. Тщательная детализация в 3D-видеомонтаже сохраняется, даже с учетом контента, генерируемого AI. Суть мастерства все еще присутствует; она просто улучшена более мощными инструментами. Вы всё еще создатель, тот, кто формирует своё видение».
Мукерджи явно рассматривает AI как актив для художников, а не как замену. Он повторяет несколько ключевых моментов о зависимости AI от человеческой креативности, одновременно адресуя распространенные опасения. Однако вопрос использования данных остается спорным. В то время как критики утверждают, что модели AI, обученные на их работах, крадут интеллектуальную собственность, некоторые разработчики настаивают на том, что для обучения эффективных моделей необходимо значительное количество данных, включая защищенный контент. Мукерджи предполагает, что создатели должны быть вознаграждены, когда их вклад формирует наборы данных для обучения AI.
«Необходимо создать систему, которая обеспечит справедливую компенсацию для людей, которые вносят значительные данные», — утверждает он. «Будь то New York Times или Reddit, правильная лицензия необходима. Это сложная проблема, но я считаю, что это направление, которым нужно идти, особенно для коммерческих приложений».
Когда его спрашивают о практиках данных Convai, Мукерджи подчеркивает, что компания использует только данные, на которые у нее есть права. Он объясняет, что было бы невозможно случайно собрать специфические данные, необходимые для этой технологии, так как она прокладывает путь в новой области. Тем не менее, он быстро касается парадокса в этом аргументе.
«Мы используем базовые модели из таких источников, как OpenAI или лицензированные открытые модели», — уточняет он. «Эти модели должны быть собраны этично и коммерчески лицензированы. Мы тщательно следим за этими процессами. На самом деле, наша система часто требует больше голосовых актеров, а не меньше!»
Упоминание OpenAI вызывает некоторые опасения, особенно учитывая текущие судебные проблемы, возникающие из-за иска New York Times о предполагаемом "незаконном использовании" их написанного контента для обучения таких ботов, как ChatGPT. OpenAI признает, что трудно обучать сложные модели AI без использования защищенных материалов. Учитывая, что модель Convai строится на основе OpenAI, я спрашиваю Мукерджи, как он может гарантировать, что в их обучении не было использовано защищенное содержание.
Мукерджи уточняет: Convai не использует данные OpenAI напрямую, только модели, разработанные на их основе. Эта тонкость может предполагать юридическую лазейку. Мукерджи считает, что поскольку Convai избегает прямого использования данных, она остается в рамках соблюдения авторских прав. Однако, когда его просят уточнить разницу между использованием моделей и использованием потенциально защищенных наборов данных внутри этих моделей, его объяснение становится менее ясным.
«Неясно, какая модель содержит какие данные», — признает он. «У нас нет этой ясности. Например, если OpenAI предоставляет пять моделей, Nvidia четыре, а Meta три, мы просто используем те, которые наилучшим образом соответствуют нашим требованиям, не зная их точного происхождения данных».
Логика Мукерджи подразумевает, что Convai не несет ответственности за то, как другие модели управляют своими данными. Его внимание сосредоточено исключительно на том, чтобы гарантировать этическое использование данных Convai, надеясь, что базовые модели также будут соответствовать требованиям. Тем не менее, его прежнее утверждение о том, что Convai будет работать с наиболее этичными моделями, кажется несоразмерным, особенно учитывая юридические проблемы, связанные с текущими моделями.
Эти сложные обсуждения могут прояснить первоначальную неохоту Nvidia давать ответы о использовании данных. Реальность заключается в том, что все эти технологии строятся друг на друге. Ace зависит от Convai, который в свою очередь основан на работе OpenAI — многослойная структура, усложняющая определение источника данных на нижних уровнях. Утверждение Nvidia о том, что нет "простого ответа" по поводу использования данных, верно, но более честным объяснением может быть то, что они не имеют полного понимания всей системы. Хотя Nvidia вряд ли столкнется с судебным разбирательством, серьезное судебное поражение для OpenAI может иметь далеко идущие последствия.
Прорабатывая эти сложные детали, я поднимаю тему регулирования. Должно ли государство вмешиваться для установления стандартов для технологий AI? Мукерджи признает необходимость в некотором регулировании, но подчеркивает важность взвешенного подхода. Он беспокоится, что чрезмерные ограничения могут задушить инновации, и остается уверенным, что преимущества AI перевешивают его потенциальные недостатки.
«Что такое AI сегодня? Подумайте об этом как о автомобиле», — сравнивает он. «Автомобили могут быть опасными; аварии случаются. Тем не менее, мы водим их каждый день, потому что общие преимущества значительны. Я вижу AI в том же свете. Нам потребуются правила его использования, так же как мы регулируем вождение автомобиля. Юридические последствия будут применяться к тем, кто использует его неправильно».
Изменения неизбежны, и изменения часто приносят дискомфорт.
Несмотря на некоторые мрачные сопоставления, Мукерджи сохраняет оптимистичный взгляд на AI. Он искренне верит, что технология принесет значительные выгоды для общества, при условии, что компании будут продолжать ставить на первое место человеческое благополучие. Он предвидит будущее, в котором такие инструменты, как Nvidia Ace, укрепят таланты художников, а не заменят их. Вместо того чтобы бояться будущего, доминируемого машинами, он осознает необходимость адаптации.
«Изменения произойдут, и они затронут людей», — признает Мукерджи. «Это напоминает прошлые технологические изменения. С каждым значительным изменением появляются новые рабочие места, в то время как старые роли могут исчезнуть. Подумайте о переходе от конных экипажей к автомобилям. Тем, кто был вовлечен в конную индустрию, пришлось адаптироваться. Генеративный AI откроет новые пути для творчества и инноваций — он готов принести пользу человечеству в целом, но также потребует изменений в традиционном трудоустройстве».
В конце нашего интервью Мукерджи выразил благодарность за возможность прояснить недоразумения относительно Convai. Он отметил, что многие СМИ, освещающие Nvidia Ace, не учитывали вклад его компании. В его тоне слышна доля разочарования, когда он ищет должное признание. Я размышляю о иронии этой ситуации, сравнивая его опыт с ситуацией художников, которые наблюдают, как их работы эксплуатируются инструментами AI.
«Это интересное наблюдение!» — отвечает он со смехом, возможно, получая новый взгляд на вопрос.
Рейтинг
