Джастин Майер: Преодоление трудностей и возможностей в открытом ИИ
Джастин Майер, основатель платформы открытого ИИ Civitai, прошел через непростой год, находясь в Боисе, штат Айдахо, сталкиваясь как с личными, так и с профессиональными трудностями.
Civitai была основана всего год назад и поддерживает сообщество, нацеленное на обнаружение, создание и обмен моделями и контентом, генерируемым изображениями с использованием популярного генератора текстов в изображения Stable Diffusion. За короткий период Civitai выросла из стартапа с четырьмя сотрудниками и менее 100 000 пользователей в команду из 15 человек, удалось привлечь 5 миллионов долларов финансирования от Andreessen Horowitz. Платформа теперь привлекает 10 миллионов уникальных посетителей каждый месяц, с миллионами загруженных изображений и моделей.
Тем не менее, Майер столкнулся с серьезными проблемами, включая недавний диагноз его дочери с диабетом 1 типа, который совпал с объявлением о финансировании Civitai. Кроме того, Civitai подверглась критике со стороны 404 Media, которая утверждает, что платформа стала платформой для "рынка порно на основе ИИ", получая прибыль от несанкционированной порнографии и создавая глубинные подделки на реальных людей.
В эксклюзивном интервью Майер подчеркнул, что такие публикации искажают образ основной пользовательской базы и предполагаемого использования Civitai. Он охарактеризовал ситуацию как «сложную и печальную» и отметил, что Civitai в основном ориентирована на положительное применение технологий ИИ, обеспечиваемое сообществом.
Майер заявил, что Civitai выделила значительные ресурсы на модерацию контента, при этом половина команды занимается вопросами безопасности. "Мы усердно работаем над тем, чтобы поддерживать безопасность, но быстрый темп инноваций требует постоянной адаптации," — объяснил он.
Civitai служит платформой для энтузиастов моделей LoRA — настроенных моделей, используемых для генерации ИИ-искусства. Большинство пользователей применяют Civitai для творческих проектов, от фанфиков до моды. "Когда мы запустились в прошлом году, у нас было 50 моделей. Теперь мы видим приток 500 моделей ежедневно," — отметил он.
Несмотря на настораживающие обвинения со стороны 404 Media, Майер уточнил, что данные часто устарели. Он оспорил утверждение о том, что 60% контента было NSFW, заявив, что менее 20% текущих загруженных материалов соответствует этой категории.
Civitai также представила центр безопасности, в котором изложены ее политики, включая запрет на фотореалистические и сексуальные изображения несовершеннолетних, использующий Amazon Rekognition для автоматического обнаружения контента.
От увлечения к платформе
Civitai возникла как проект по увлечению, после того как Майер ознакомился с Midjourney и заинтересовался сообществом Stable Diffusion. Он задумал создать пространство, где пользователи могли бы легко делиться и просматривать модели ИИ. Civitai официально запустилась в ноябре и быстро завоевала популярность, достигнув 100 000 пользователей к январю и 1 миллиона к марту.
Civitai нацелена на снижение барьеров для входа в мир открытого генеративного ИИ, служа хобби-любителям, желающим исследовать технологии без глубоких знаний в области машинного обучения. "Мы нашли баланс между инструментами для пользователей, такими как Midjourney, и корпоративными решениями, такими как Hugging Face," — объяснил Майер.
Решение проблем с контентом NSFW
Признав, что контент NSFW представляет собой распространенную проблему, Майер выразил понимание необходимости подготовки к потенциальному misuse с самого начала. Хотя платформа могла бы ограничить NSFW контент, он выбрал более сбалансированный подход для содействия развитию сообщества, понимая, что улучшения в технологии часто возникают из самых разнообразных случаев использования.
Майер сравнил этот подход с притчей о сорняках из Нового Завета, предположив, что подавление нежелательного контента может подавить инновации. "Сообщество, которое раздвигает эти границы, способствует достижениям, полезным для технологий ИИ в целом," — подчеркнул он.
Обвинения в поисковых наградах и общественное сообщение
Недавние материалы 404 Media также подняли вопросы о "наградных" программах за глубинные подделки реальных лиц. Майер уточнил, что эти вознаграждения функционируют как запросы на услуги, когда пользователи могут искать модели ИИ, адаптированные под специфические нужды. Эти объявления остаются частными, пока их создатель не решит сделать их публичными, обеспечивая модерацию в соответствии с правилами контента.
Политика компании поощряет общественное сообщение о некорректном контенте, вознаграждая пользователей внутренней валютой Buzz за их усилия по поддержанию безопасной среды.
Тем не менее, учитывая открытый характер Civitai, как только модели загружаются, платформа не может контролировать их последующее использование в других системах, что подчеркивает ограничение в регулировании контента.
Обязательство к постоянному улучшению
Несмотря на сложности, Майер остается преданным совершенствованию Civitai и содействию безопасному использованию ИИ. В свете последних событий компания ввела меры для людей, желающих удалить свое изображение из сгенерированного контента.
Поскольку ИИ продолжает быстро развиваться, Civitai активно сотрудничает с регуляторами для обеспечения общественной безопасности при содействии инновациям. Майер стремится использовать технологии во благо, включая праздничную благотворительную акцию для Фонда исследований диабета у детей, вызванную состоянием его дочери.
"Мы очень заботимся о поддержании безопасной платформы," — утверждает он, подчеркивая цель Civitai сделать ИИ доступным, несмотря на возникающие трудности. "Мы ежедневно стремимся обеспечить положительный пользовательский опыт и обязуемся к постоянному улучшению."
Рейтинг
