近日，中国人工智能产业发展联盟（AIIA）安全治理委员会举办的汽车领域人工智能安全治理研讨会在北京顺利召开。会议汇集来自汽车企业、检测认证机构、科研院所、高校及人工智能技术企业的30余位专家代表，围绕国内外人工智能治理协同机制、汽车领域人工智能应用现状与安全治理产业实践、汽车领域人工智能安全基准测试等重点议题展开深入交流，共同探讨汽车领域人工智能安全治理面临的现实问题与发展路径。
中国信息通信研究院人工智能研究所（以下简称“中国信通院AI所”）安全治理部副主任呼娜英在开场发言中指出，汽车领域人工智能应用具有较强的场景特殊性，需要在通用人工智能安全治理研究的基础上，进一步识别汽车不同应用场景的风险特征，推动安全标准、风险评估与测试验证方法同汽车产业实际需求相结合。期待通过本次研讨，加强科研机构与产业各方的交流合作，共同探索汽车领域人工智能安全治理的有效路径。
在国内外人工智能治理协同机制专题研讨环节，万鑫解读中美欧 AI 监管与标准，重点说明欧盟 AI 法案、ISO/IEC 42001，建议车企明确 AI 系统范围、完善风险评估、融合进现有研发流程；王辉介绍汽车 AI 标准与认证进展，提出打通行业标准和通用 AI 标准；杭州电子科技大学教授乔通建议，在尊重不同国家和地区监管差异的基础上，探索建立具有共通性的安全治理基础框架，并借鉴生成式人工智能、深度伪造检测等领域的既有治理经验，同时关注汽车人工智能仿真测试与真实环境安全表现之间的差异。
在汽车领域人工智能应用现状与安全治理产业实践专题研讨环节，小米王潼梳理车载 AI 落地与合规难点，呼吁统筹国内外标准、嵌入企业现有管理体系；丰田梅荟园主张按风险差异化管控，对齐系统能力、用户认知与宣传，共享测试资源；理想闫昭提出依靠意图识别、白名单、人工复核等保障车控安全，搭建跨部门安全体系；蔚来张涛关注多用户场景数据全生命周期安全、OTA 安全、智能体控车权限管控；百度张哲煜认为规模化落地有助于迭代安全能力，建立小概率风险敏捷治理机制；小马智行严明提出平衡监管与创新，强化高级别自动驾驶动态监管和安全信息公开。
在汽车领域人工智能安全基准测试专题研讨环节，信通院刘铂介绍模型幻觉、智能体安全等评测工作，提议共建驾驶场景评测框架、数据集，开展车载语音助手等专项测试；吉利蒋睿剖析大模型随机输出、理解偏差、越权风险，分享安全用例、红队、仿真沙箱验证经验；波涛科技曹俊涛呼吁建立统一可量化、可复现的基准测试体系，覆盖极端工况与版本迭代测试；安徽见鉴科技有限公司首席技术官李壮建议，以实际应用场景、风险及失效模式为基础构建评测框架，综合考虑攻击手段、应用环境和潜在危害，并通过隐藏测试集和动态更新机制提升安全评测的有效性。
下一步，中国信通院将持续发挥产业交流与技术支撑作用，推动研讨成果转化为可落地的工作建议，联合产业各方探索汽车领域人工智能安全治理的技术方法与实践路径，为汽车产业智能化、安全化发展提供支撑。