VB AI 影響之旅：未來審計中的人類角色將是什麼？

Home AI新聞 VB AI 影響之旅：未來審計中的人類角色將是什麼？

導航AI審計：應對偏見、績效與倫理挑戰

對於組織來說，審計AI模型的偏見、績效及倫理合規性是一個迫切的議題。在最近由UiPath舉辦的VB AI Impact Tour活動中，業界領袖們討論了有效的方法論、最佳實踐以及真實案例研究。主要發言者包括Verizon Communications的AI與數據網絡啟用副總裁Michael Raj、Patronus AI的聯合創始人暨CTO Rebecca Qian以及FirstMark的管理董事Matt Turck。活動結束時，VB首席執行官Matt Marshall與UiPath客戶成功高級副總裁Justin Greenberger進行對話，聚焦於成功的AI審計所需條件及如何啟動該過程。

Greenberger強調主動風險評估的重要性：“風險格局過去是每年評估一次，現在幾乎應該每月重新評估。您是否了解自己面臨的風險，並有適當的控制措施來減輕這些風險？國際內部審計師協會（IIA）已更新其AI框架，主要涵蓋基本面向。重要的問題包括：您的監控KPI是什麼？數據來源是否透明？是否有問責協議？評估循環需要更加頻繁。”

他舉例提到一般數據保護條例（GDPR），這被視為監管過度的案例，但最終建立了企業資料安全的堅實基礎。有趣的是，生成式AI的興起正使全球市場以相似速度適應，為組織在評估與技術相關的風險容忍度時，創造了一個公平的競爭環境。

克服試點挑戰與員工參與

雖然企業全面採用AI仍在發展中，許多公司已開始進行初步試點專案以探索其潛能。一些持續的挑戰包括識別具備必要上下文知識與批判思維能力的專家，以有效界定使用案例。此外，促進員工理解與參與至關重要。Greenberger指出，對於員工應學習有關AI技術的內容，尤其是倫理使用及深度偽造的風險，目前仍在演變中。

組織主要將生成式AI納入現有工作流程，而非完全改造流程。因此，審計必須演變，以監控各種應用中如何利用私人數據，包括敏感的醫療案例。

AI時代的角色演變

隨著AI技術的進步，人類在審計過程中的角色仍然至關重要。Greenberger解釋說，儘管用戶發起查詢，AI系統處理信息並提供決策所需的數據。例如，物流公司的員工可能在客戶互動中使用AI生成的報價。然而，傳統的人類角色可能面臨自動化挑戰。

“目前，人類仍負責決策，”Greenberger表示。“隨著我們對審計控制和例行檢查越來越熟悉，這種情況可能會改變。最終，人類可能需要專注於角色中的創造性與情感面向，因為決策權限可能會向外轉移。伴隨技術進步，這種演變是不可避免的。”

總而言之，組織必須優先對AI系統進行持續評估，以減輕風險並確保道德實踐，因為他們在不斷變化的技術環境中導航。

生成式人工智慧如何推動數據中心需求：AWS及其他科技巨頭瞄準阿爾伯塔的商機

關於蘋果的設備內人工智慧技術，你需要知道的一切