金錢與政治交融於人工智慧安全：新超級政治行動委員會的崛起

Home AI新聞金錢與政治交融於人工智慧安全：新超級政治行動委員會的崛起

在一月，我採訪了Gladstone AI的聯合創始人及前首席執行官Mark Beall。他的顧問公司最近向國務院發布了一份開創性的AI安全報告。這份報告的關鍵建議，根據《TIME》報導，正是美國應如何應對與先進AI相關的重要國家安全風險。

在我們的對話中，我探討了AI和政策領導者之間日益嚴重的辯論，關於有效利他主義（EA）在華盛頓AI安全圈的影響。Beall曾擔任美國國防部的AI政策負責人，他強烈呼籲管理潛在的災難性AI威脅，並強調在社交媒體上實施「常識性保護措施」的必要性，警告說我們必須在面對AI相關災難之前採取行動。

對許多人來說，「AI安全」引發了對生存風險的擔憂，這種擔憂往往受到像有效利他主義這樣的信仰系統的驅動。Gladstone AI的作者報告指出，在其廣泛研究期間，諮詢了200多位政府官員、專家及OpenAI和Google DeepMind等領先AI實驗室的人員。

然而，該報告在社交媒體上也遭到質疑。傳播學研究者Nirit Weiss-Blatt提到共同作者Eduoard Harris對備受詬病的「紙夾最大化者」問題的評論，這一極端情境引發了部分人的質疑。此外，Cohere的首席執行官Aidan Gomez批評調查的可信度，認為用戶可以通過社交媒體民調獲得更具代表性的結果。Lightning AI的首席執行官William Falcon則進一步駁斥了開源AI可能造成滅絕威脅的說法，表示封閉式AI可能更具危險性。

有趣的是，Beall的離開正 coincides with the launch of what he described as "the first AI safety Super PAC." 此超級政治行動委員會與Gladstone報告同時啟動，旨在教育選民了解AI政策，突顯此議題對公眾的日益影響。Beall提到已為超級政治行動委員會籌措到初步資金，並計劃進一步籌集數百萬。

聯合創始人Brendan Steinhauser作為共和黨顧問的背景強調了該PAC的兩岸合作使命。Beall表示：「我們希望兩岸的立法者都能推動創新並保護國家安全。」Steinhauser在國家政治領域的二十年經驗支持了這一目標。

雖然超級PAC與Gladstone報告的同時推出似乎不尋常，但Gladstone的聯合創始人Jeremie Harris澄清，該報告是由國務院國際安全與不擴散局委託的，以提供中立的專家分析。他保證Gladstone獨立於任何政治涉入或資金影響。

Beall認可Gladstone報告的重要性，但強調「現在，真正的工作開始了。」他呼籲國會通過立法，以確保對AI發展採取靈活的長期方法。當被問及潛在的捐助者時，Beall表示希望能建立一個多元的聯盟，因為全國普遍關注災難性AI風險。

雖然公眾焦點也可能集中於深偽技術和選舉虛假信息等即時威脅，但AI安全和政策在未來將與資金和政治密切交織在一起。

Cognition推出AI軟體工程師Devin：人工智慧發展的遊戲規則改變者

Midjourney 推出新功能，能在多張 AI 生成的圖像中創建一致的角色。

Most people like

Chromox

41K

探索創建引人入勝的 AI 生成視頻的最佳免費替代選擇，讓您突破 OpenAI Sora 的限制。

SORA AI Video Generator

KYC Hub

25.4K

介紹一個全面的平台，專為自動化合規與風險管理解決方案而設。這個創新的工具簡化了流程，提高了準確性，並降低了風險，讓組織能輕鬆應對監管標準的複雜性。立即探索我們的平台如何徹底改變您的合規策略！

合規自動化 AI Analytics Assistant

Maket

184.3K

Maket是一款創新的軟件，通過生成式人工智能改變建築設計，自動化平面圖的創建，並使得探索各種風格成為可能。

生成設計 AI Design Generator

Humanize AI Text Tool

將您的 AI 生成內容轉換為自然、類人類的文本，使用終極的人性化 AI 文字工具。這款 AI 轉人類文本的轉換器輕鬆將 ChatGPT、Bard、Jasper、Grammarly、GPT4 及其他 AI 文字生成器輸出的內容轉換為無法區分於人類寫作的文本。實現 100% 原創性，並通過最佳的人性化 AI 解決方案提升您的內容創作。

AI轉人類文本轉換器 AI Rewriter

Find AI tools in YBX