位于帕洛阿尔托的初创公司Credo AI宣布,其人工智能治理平台现已在Databricks数据智能平台上推出。通过这一整合,Databricks的用户能够高效地跟踪和管理AI风险与合规性,利用已有的数据,实现全面的透明管理,覆盖整个AI开发生命周期。
Credo AI成立于2020年,并于2022年5月完成1280万美元的A轮融资。此次与Databricks的整合将结合Databricks的MLFlow,后者负责机器学习开发生命周期的管理。这一整合能够自动将模型的指标和元数据转化为重要的治理文档,如模型卡和AI影响评估。
随着如欧盟AI法案等新法规的推出,模型提供商和开发者需要进行风险自我评估、合规性评估、维护可审计的登记信息,并根据风险类别监控性能,以满足透明度要求。
Credo AI创始人兼首席执行官Navrina Singh表示:“我相信与Databricks的合作将具有重要意义,为2024年定下基调。”她指出,这一合作向企业传达了高效治理需要考虑上下文和商业优先级,使他们能够在推出安全、负责任的产品的同时管理风险。
Databricks技术合作伙伴副总裁Roger Murff对这一合作表示热切期待,强调治理在确保企业安全合规地大规模采用AI方面的重要性,同时助力公司优化其AI战略。