近來,許多人討論人工智慧革命可能會縮減資料工程師的角色。然而,我認為資料專業知識將變得愈加重要。資料專業人員需要獲得新技能,以最大化人工智慧為其組織帶來的效益並提升職業前景。
人工智慧為組織提供了有效從資料中獲取更多價值的機會,但這需要專業的實施。資料工程師必須學會如何有效應用人工智慧技術,針對特定情境選擇合適的模型和工具。
人工智慧將改變資料分析的四個領域
1. 建立更智慧的資料管道
資料工程師負責整合各種資料來源,這些資料通常是原始且無結構的,以提供有價值的見解。人工智慧能顯著簡化此過程。例如,如果一家公司擁有客服對話記錄的資料庫,工程師可以只需幾行SQL將人工智慧模型嵌入管道中。這樣的整合使人工智慧能發掘出需要人工分析數小時才能獲得的洞見。擅長將人工智慧模型應用於優化資料管道的工程師將變得不可或缺,這需要新技能來進行模型選擇和應用。
2. 減少資料映射,提升資料策略
不同資料來源可能會以不一致的方式呈現資訊。人工智慧能夠負責資料映射任務,創建統一資料庫,徹底減少工程師在此項工作上所花的時間。通過創建有效的提示,要求人工智慧協調來自多個來源的客戶資料,工程師可以將精力集中於更高層次的工作,如資料策略和架構。將資料映射工作交給人工智慧,讓工程師能充分利用可用資料支持商業目標。
3. 商業智能分析師必須提升技能
商業智能(BI)分析師通常會生成靜態報告供業務領導參考。然而,隨著高層逐漸適應與人工智慧驅動的聊天機器人互動,他們將期望對報告進行類似的對話式互動。這一轉變將要求BI分析師提升技能,學習如何構建動態的互動報告,而不僅僅依賴靜態圖表。雲端資料平台正在引入低代碼工具來支持這一變化,但分析師需要克服學習曲線以符合2024年不斷演變的期望。
4. 管理第三方人工智慧服務
十年前,雲端技術改變了IT管理的面貌,資料科學家也將因應生成式人工智慧而進化。與第三方供應商合作以獲取AI模型、數據集和服務將變得至關重要。熟悉市場上的選擇、選擇合適的模型以及管理供應商關係,將成為資料科學家的關鍵技能。
展望更強化的角色
許多資料團隊處於反應模式,不斷處理工作請求和故障排除。然而,人工智慧的引入將使資料工程自動化繁瑣任務,讓工程師能專注於更具戰略性和主動性的工作。雖然獲得新技能是必要的,但工程師會發現他們的角色將變得更加充實和有影響力。