可信人工智能行业治理调研报告

　　本报告围绕可信人工智能治理展开，探讨其全球状况、行业实践并展望未来。

　　当前人工智能已经在多个行业中得到应用和部署，例如营销服务、教育、技术服务/咨询业和金融/银行业等，且集中于客户服务和经营管理场景。但大多数企业仍处于技术规划阶段，成熟度较低。在技术使用模式上，多数企业自研能力不足，主要依赖外部产品。在人工智能投入方面，企业呈现两极分化，大多数投入不足100万元人民币，少数超过2000万元人民币。多数企业认为业务改进效果“一般”，显示出投入与产出效果的优化空间。在人工智能应用过程中，企业面临的主要挑战包括技术和业务流程融合问题(算法复杂、业务场景的适用性)、数据安全(如隐私保护、数据可靠性)和算法合规性问题。虽然伦理性问题目前关注度较低，但其重要性将日益凸显，企业需重视公平性、透明性、可解释性和安全性，以确保技术的可持续发展。可信人工智能治理是破解风险、实现长期价值的关键路径。

　　在行业实践中，互联网、医疗健康、智能制造和金融行业均结合自身特点，针对数据隐私、算法安全等问题采取了相应的风险应对策略。各行业需要结合自身特点，动态平衡创新与风险控制，强化数据治理、提升算法透明性与伦理性、应用场景设计、应用有效性宣导、应用技能培训、应用团队与技术团队的认知和能力建设，同时通过跨部门协作、全员培训和体系化风险治理推动人工智能技术的安全高效应用和可持续发展。

点击复制链接查看完整PDF研报

北京阿萨卡信息技术