贾斯廷·迈尔：在开源人工智能中的挑战与机遇
贾斯廷·迈尔是开源人工智能平台Civitai的创始人，他在爱达荷州博伊西度过了动荡的一年，面临着个人与职业的双重挑战。
Civitai成立于一年前，专注于发现、创建和分享基于流行的文本生成图像工具Stable Diffusion的模型和图像生成内容。在短短一年内，Civitai从一个拥有不到十万用户的四人创业团队成长为拥有15名成员的团队，并获得了Andreessen Horowitz的500万美元融资。现在，该平台每月吸引一千万独立访客，用户上传了数百万张图像和模型。
然而，迈尔也遭遇了重大挫折，他的女儿在Civitai融资宣布的同一周被诊断为1型糖尿病。此外，Civitai还遭到404媒体的负面报道，指控该平台助长了“人工智能色情市场”，并通过非自愿生成色情内容和用于真实个人的深伪赏金获利。
在一次独家访谈中，迈尔表示，这些报道误解了Civitai的主要用户群体和预期用途。他形容这一情况为“困难和悲伤”，并强调Civitai主要关注基于社区的积极人工智能应用。
迈尔指出，Civitai在内容审核上投入了大量资源，团队一半成员致力于安全工作。“我们正在努力确保安全，但快速的技术进步使得日常适应至关重要，”他解释道。
Civitai是LoRA模型爱好者的平台，LoRA模型用于AI艺术生成。用户们多用Civitai进行创作，从粉丝小说到时尚设计。“去年推出时，我们有50个模型。现在，我们每天能接收到500个新模型，”他提到。
尽管404媒体的指控令人担忧，迈尔澄清这些报道多依赖过时数据。他反驳了内容中60%属于成人性质的说法，声称目前的相关内容不到20%。
Civitai还推出了安全中心，详细说明了其政策，包括全面禁止对未成年人的逼真和性描绘，并利用亚马逊Rekognition进行自动内容检测。
从热情项目到平台
Civitai起初是迈尔的个人热情项目，受Midjourney的启发，他希望创建一个用户可以轻松分享和浏览AI模型的地方。Civitai在去年11月正式上线，迅速获得关注，到1月用户数达10万，到3月达到百万。
Civitai旨在降低开源生成AI的入门门槛，为那些渴望探索技术而无需广泛的机器学习知识的爱好者服务。“我们在消费者工具如Midjourney和企业解决方案如Hugging Face之间取得了平衡，”迈尔解释道。
应对成人内容的担忧
迈尔意识到成人内容是一个普遍问题，表示自一开始就要为潜在的误用做好准备。虽然平台可以限制成人内容，但他选择了一种更平衡的方法以促进社区发展，明白技术进步往往源于多样的使用场景。
迈尔将这种方法比作新约《圣经》中的杂草比喻，认为压制不需要的内容可能抑制创新。“推动这些界限的社区为整体AI技术的进步做出了贡献，”他强调。
关于赏金的指控与社区报告
404媒体最近的报道也提到针对真实个人的深伪“赏金”。迈尔澄清，这些赏金作为服务请求，用户可以寻求针对特定需求的AI模型。这些信息在创作者选择公开之前保持私密，以确保符合内容指南。
公司政策提倡社区举报不当内容，奖励用户通过使用现场货币Buzz来维护安全环境。
然而，由于Civitai的开源性质，一旦模型被下载，平台无法控制其后续在不同系统上的使用，这突显了内容监管的局限性。
致力于持续改进
尽管面临挑战，迈尔仍致力于改进Civitai并促进安全的AI使用。针对近期发展，公司推出了措施，以帮助个人从生成内容中移除自己的肖像。
随着AI技术的快速发展，Civitai积极与监管机构合作，确保公众安全的同时推动创新。迈尔希望将技术用于善行，比如为儿童糖尿病研究基金会发起的假日慈善活动，源自他女儿的情况。
“我们非常关注维护一个安全的平台，”他强调，凸显了Civitai的目标是在面临持续挑战的同时让AI更加普及。“我们每天努力确保良好的用户体验，承诺不断改进。”
排行榜
