Meta推出紫色美洲驼：开创安全生成式人工智能新时代

Home AI News CN Meta推出紫色美洲驼：开创安全生成式人工智能新时代

Updated on 十二月 11 2023

Meta推出紫色骆驼计划以增强AI安全性

为了满足生成式人工智能开发中对强大安全框架的紧迫需求，Meta最近推出了紫色骆驼计划。该创新项目结合了进攻（红队）和防守（蓝队）策略，灵感来源于网络安全的“紫队”概念，旨在增强AI技术的信任度并降低攻击风险。

紫队的理解

紫色骆驼计划将进攻和防守的方法融合在一起，以评估、识别和减轻潜在的网络安全威胁。“紫色”象征着攻击和防御战术的和谐整合，彰显了Meta在确保AI系统安全性和可靠性方面的承诺。

Meta为何在此时推出紫色骆驼计划

“紫色骆驼是Meta的一次重要进步。在参与IBM AI联盟后，该联盟专注于促进AI模型的信任和治理，Meta在委员会工作尚未完成之前，就积极推出工具和框架，”Constellation Research Inc.的副总裁兼首席分析师安迪·图赖在最近的采访中表示。

Meta的公告强调，随着生成式AI推动了一系列创新（从聊天机器人到图像生成器），公司希望在AI安全上促成合作，增强对新兴技术的信任。该计划标志着朝着负责任的生成式AI开发的重要转变，特点是AI社区之间的合作努力及全面的基准、指南和工具。

该计划的一个关键目标是为生成式AI开发者提供资源，以支持白宫在负责任的AI开发方面的承诺。

紫色骆驼计划发布的关键工具

Meta通过推出CyberSec Eval，提供一套详细的大型语言模型（LLM）网络安全评估基准，启动了紫色骆驼计划。同时推出的还有Llama Guard，这是一个针对有效输入/输出过滤的安全分类器。此外，Meta还发布了《负责任使用指南》，概述了实施此框架的最佳实践。

合作：AI安全的基石

Meta对跨界合作的承诺是其AI开发战略的核心，旨在培养一个开放生态系统。实现这一目标并不简单，因为行业竞争性较强；然而，Meta已成功吸引了包括AMD、AWS、Google Cloud、Hugging Face、IBM、Intel、Lightning AI、微软、MLCommons、NVIDIA及Scale AI等众多合作伙伴，增强对开源社区的工具支持。

“值得注意的是，Meta还希望与联盟外的行业领导者（如AWS、Google、微软、NVIDIA）进行合作，这些公司最初并未包括在内，”图赖指出。

Meta在围绕共同目标团结伙伴方面有着优秀的历史。去年七月，公司与超过100个合作伙伴共同推出了Llama 2，其中许多合作伙伴现在正与Meta在开放信任和安全倡议上进行合作。公司还将在2023年NeurIPS大会上举办一个研讨会，以深入探讨这些工具。

对于由CIO、CISO和CEO主导的企业来说，这种程度的合作对于增强对生成式AI的信任至关重要，并能为在DevOps中投入资源以生产和部署模型提供正当理由。Meta及其合作伙伴通过展示竞争对手之间为共同利益合作的可能性，有机会提升解决方案的可信度。信任，就像销售，靠的是时间的积累和一致的行动。

良好的开端，但仍需采取更多行动

“所提议的工具集旨在帮助LLM开发者评估安全风险、评估不安全的代码输出，并防止这些模型被恶意网络攻击利用。尽管这是一个值得赞赏的第一步，但还需要更多的努力，”图赖表示。

Anthropic 推动打击人工智能偏见与歧视的创新研究计划

Citrusx推出隐形模式AI，提升企业合规性与可解释性

Most people like

Nudify by FunFun.ai

619.1K

探索用于创作高质量裸体艺术的AI工具。利用先进技术，这些工具不仅提升了艺术创作的效率，还为艺术家提供了无限灵感与可能性。无论你是专业艺术家还是业余爱好者，这些AI解决方案都能帮助你实现独特的艺术表达。

AI艺术工具 AI艺术生成器

Elevatus

82.4K

通过AI技术全面自动化招聘流程，提高效率和精确度。在当今快节奏的市场环境中，企业越来越依赖智能化工具，以简化招聘周期并吸引顶尖人才。利用AI技术，不仅可以加速简历筛选，还能优化面试安排，让招聘团队专注于最重要的任务。

招聘软件 AI招聘

PromptPal

62.3K

在PromptPal探索和分享人工智能提示，激发您的创造力与灵感。

AI 提示其他

Vocalo

25.3K

提升语言技能，尽在AI驱动的语言练习平台。这个创新平台结合先进技术与互动学习，帮助用户在真实场景中练习语言，快速提高沟通能力。无论是初学者还是希望进一步提升的学习者，这里都有适合你的课程和资源。

语言学习 AI文法检查器

Find AI tools in YBX