何时使用ART：利用IBM对抗性鲁棒性工具箱提升AI解决方案

Home AI News CN 何时使用ART：利用IBM对抗性鲁棒性工具箱提升AI解决方案

IBM通过其开源项目“对抗鲁棒性工具箱”（ART）在人工智能（AI）安全领域取得了重要进展。今天，ART在Hugging Face平台上线，提供旨在帮助AI用户和数据科学家最大限度减少潜在安全风险的工具。虽然此次发布标志着一个新里程碑，但ART自2018年以来一直在开发中，并于2020年作为开源项目贡献给Linux基金会。多年来，IBM在“保障AI免受欺骗的鲁棒性”（GARD）计划的支持下，不断完善ART。

随着AI技术的普及，AI安全的关注度日益上升。常见的安全威胁包括训练数据污染和规避策略，这些均可能通过注入恶意数据或操控输入对象误导AI模型。通过将ART与Hugging Face集成，IBM旨在提升开发者使用防御性AI安全工具的便利性，帮助他们更有效地应对威胁。使用Hugging Face模型的组织现可加强系统防范规避和污染攻击，并将这些防御措施无缝集成到工作流程中。

IBM AI安全与隐私解决方案经理娜塔莉·巴拉卡尔多·安赫尔表示：“Hugging Face拥有大量尖端模型。这个集成使社区能够利用ART中的红蓝队工具，应用于Hugging Face的模型。”

ART的发展历程：从DARPA到Hugging Face

IBM对AI安全的承诺早于当前生成式AI的热潮，体现了其对保护AI技术的前瞻性。作为一项开源计划，ART是Linux基金会LF AI & Data项目的一部分，得到了多个组织的多样化贡献。此外，DARPA还资助IBM在GARD计划下增强ART的能力。

虽然ART在Linux基金会的地位没有改变，但现在它也支持Hugging Face模型。Hugging Face迅速发展成为共享AI模型的协作平台，IBM与该组织建立了多个伙伴关系，包括与NASA共同开展的聚焦地理空间AI的项目。

理解对抗鲁棒性及其在AI中的重要性

对抗鲁棒性对于增强AI安全至关重要。安赫尔解释道，这一概念涉及识别可能企图妨碍机器学习系统的对抗行为，并主动建立防御措施。她强调：“这一领域需要了解对抗战术，以有效保护机器学习流程，采用红队方法识别和降低相关风险。”

自2018年成立以来，ART不断发展，来应对不断变化的AI威胁，包括各种攻击和跨多个模态的防御，如物体检测、目标追踪、音频处理等。安赫尔指出：“近期，我们专注于集成像CLIP这样的多模态模型，这些模型将在系统中很快可用。在安全形势不断变化的环境中，持续开发新工具以应对新出现的威胁和防御是至关重要的。”

Kyndryl与谷歌云合作推动负责任的生成式AI解决方案

介绍“Smaug-72B”：开源人工智能解决方案的冠军之选

Most people like

Prezent

104.1K

通过我们创新的人工智能演示软件，企业沟通将迎来全面变革。这款软件将提升效率、增强互动，为企业打造更流畅的沟通体验。

人工智能 AI演示生成器

Melodio AI

36.2K

个性化AI音乐伴侣：重塑您的音乐体验在这个数字化时代，个性化AI音乐伴侣正成为音乐爱好者的理想选择。通过先进的人工智能技术，这些智能伴侣能够根据您的喜好和情感实时推荐音乐，创造独特的听觉体验。无论您是想放松心情、激励自己，还是寻找新的旋律，个性化AI音乐伴侣都能精准满足您的需求，让音乐伴随您的每一个时刻。探索这项创新科技，享受定制化的音乐陪伴！

个性化音乐 AI音乐生成器

KardsAI

28K

AI驱动的即时学习闪卡应用程序，助你高效掌握新知识。利用智能算法，这款应用可根据你的学习习惯和需求，快速生成个性化的闪卡，让学习过程更加轻松和高效。无论你是学生、专业人士还是终身学习者，AI闪卡应用程序都会帮助你在短时间内提升记忆与理解能力。

闪卡 AI教育助手

PlayHT: AI语音生成器和逼真的在线文本转语音

2.3M

PlayHT 是一个强大的 AI 语音生成器平台，提供超过 600 种多语言的高质量声音选项。

AI语音生成器 AI语音合成

Find AI tools in YBX