Meta推出紫色駱駝：開創安全生成式AI的新時代

Home AI新聞 Meta推出紫色駱駝：開創安全生成式AI的新時代

Updated on 十二月 11 2023

Meta推出紫色駱駝計畫以提升AI安全性

隨著對於強大安全框架在生成性AI開發中的迫切需求增加，Meta近期推出了紫色駱駝計畫。這個創新計畫結合了攻擊（紅隊）和防禦（藍隊）策略，靈感來自於網絡安全的紫色團隊概念，旨在增進信任並降低AI技術的攻擊風險。

了解紫色團隊合作

紫色駱駝計畫融合了攻擊和防禦的方法，來評估、識別及減輕潛在的網絡安全威脅。「紫色」象徵著攻防策略的和諧結合，強調Meta對AI系統安全性和可靠性的承諾。

為何Meta現在啟動紫色駱駝計畫

“紫色駱駝是Meta的一個重要進步。在參與IBM AI聯盟後，該聯盟主要專注於促進AI模型的信任和治理，Meta在委員會工作尚未完成之前就主動推出工具和框架，”Constellation Research Inc.的副總裁兼首席分析師Andy Thurai在最近的一次訪談中表示。

Meta的公告強調：「隨著生成性AI推動創新，從聊天機器人到圖像生成器，公司希望促進AI安全的合作，並增強對新興技術的信任。」該計畫標誌著朝著負責任的生成性AI開發邁出重要步伐，特徵是AI社區的合作努力和全面的基準、指導方針及工具。

計畫的一個關鍵目標是為生成性AI開發者提供資源，以符合白宮在負責任的AI開發上的承諾。

紫色駱駝計畫中的關鍵工具

Meta通過推出CyberSec Eval，為大型語言模型（LLMs）提供了一套詳細的網絡安全評估基準，並推出了Llama Guard，一種設計用於有效輸入/輸出過濾的安全分類器。此外，Meta還發布了負責任使用指南，概述了實施該框架的最佳做法。

合作：AI安全的基石

Meta對跨界合作的承諾是其AI開發策略的核心，旨在培養開放的生態系統。儘管行業的競爭性使這一目標的實現變得困難，Meta卻成功地與新成立的AI聯盟中的夥伴如AMD、AWS、Google Cloud、Hugging Face、IBM、Intel、Lightning AI、Microsoft、MLCommons、NVIDIA 和Scale AI等合作，以增強開源社區的工具。

“值得注意的是，Meta也在尋求與聯盟外的行業領導者進行合作—AWS、Google、Microsoft和NVIDIA，這些最初未被納入其中的公司，”Thurai指出。

Meta擁有團結夥伴圍繞共同目標的豐富經驗。今年七月，該公司與超過100家夥伴共同推出Llama 2，許多夥伴目前正與Meta在開放信任和安全倡議上合作。該公司還正在組織一場NeurIPS 2023的研討會，以深入探討這些工具。

對於由CIO、CISO和CEO領導的企業來說，看到這種程度的合作對於在生成性AI中培養信任並證明在DevOps上投資以生產和部屬模型是至關重要的。Meta及其夥伴有機會透過展示即使在競爭對手之間也能就共同的有利目標合作，來增強其解決方案的可信度。信任就像銷售一樣，是透過時間的持續行動建立的。

良好的開端，但仍需更多行動

“這套建議的工具旨在幫助LLM開發者評估安全風險、評估不安全的程式碼輸出，並防止這些模型被惡意網絡攻擊利用。雖然這是值得讚揚的第一步，但仍需更多工作，”Thurai建議。

Anthropic 發起針對人工智慧偏見與歧視的突破性研究倡議

開發者指南：啟動您的生成式 AI 之旅 - 量身定制的應用案例方法

Most people like

Poly AI

2.3M

AI 角色扮演：參與安全、無限且免費的對話！探索 AI 驅動的角色扮演世界，讓您在不必擔心安全問題的情況下，沉浸於無限而有趣的互動中。我們的平台確保您享有安全且愉快的體驗，讓您發揮創意，與喜愛的角色或故事情節連結。立即加入我們，展開一段難忘的 AI 角色扮演冒險！

AI 聊天機器人 AI Chatbot

Yomu

35.1K

透過我們專為學生和學者設計的人工智慧編輯工具，徹底改變您的寫作。體驗對學術論文、文章和研究項目的無縫提升，同時增強清晰度和互動性。了解我們的先進演算法如何幫助您更有效地表達思想，將您的寫作提升到新的層次。

AI增強寫作編輯器 Essay Writer

Minutes AI

用我們的自動化人工智慧工具徹底改變您的會議管理，它能輕鬆將音頻轉錄成清晰、簡潔的會議記錄。享受流暢的文檔處理，再也不會錯過任何細節！

筆記工具 AI Meeting Assistant

Customerly Ai

82.3K

探索專為支援團隊設計的頂尖 AI 聊天機器人解決方案。這些創新工具提升客戶互動、簡化查詢流程，並提高團隊效率，使其成為現代支援運營的必備之選。立即探索最佳選擇，提升您的客戶服務體驗。

AI 聊天機器人 AI Customer Service Assistant

Find AI tools in YBX