2024年2月2日上午，“代码大模型安全风险防范能力要求及评估方法”标准线上研讨会成功举办。来自阿里云、百度、蚂蚁集团、华为、科大讯飞、邮储银行、工商银行、光大银行、华夏银行、交通银行、马上消费、商汤科技、vivo、中科创达、开源网安、龙盈智达、深度求索、首实安保科技、万商天勤律所、小鹏汽车、西安比目网络、西门子、中国移动研究院、云天励飞、云从科技、北京大学、浙江大学、西安交通大学、中国通信学会、浙江御安信息、广东拓思软件等四十余家共60余位企业代表及科研机构专家参加了本次会议。 

中国信息通信研究院（以下简称“中国信通院”）人工智能研究中心安全与元宇宙部主任石霖首先进行开场发言，介绍了前期在人工智能安全治理方面的相关工作。当前，大模型安全问题引起了广泛关注，尤其在代码大模型广泛用于软件开发和企业内部业务赋能的背景下，面临的安全隐患不容忽视。中国信通院人工智能研究中心将依托中国人工智能产业联盟AIIA安全治理委员会搭建产业交流平台，通过安全评估标准共建、评估评测，保障代码大模型安全健康发展，推动相关产业落地实践。

中国邮政储蓄银行软件研发中心带来了《大模型在研发安全领域的应用场景探索进行》主题分享，围绕代码大模型在需求接入安全、辅助生成安全编码、测试代码生成和结果勘误等应用场景，探索代码大模型安全需求生成、辅助代码生成、业务测试用例生成及安全监测工具结果勘误等应用实现路径，充分发挥大模型语言理解和自动化生成的双重优势,提升制品产出率，减轻工作人员压力，达成了提质增效的成果。

中国信通院人工智能研究中心安全与元宇宙部高级业务主管 张蔚敏对《代码大模型安全风险防范能力要求及评估方法》标准草案内容进行了详细介绍，代码大模型的安全要求主要从基础安全包括代码生成与补全、代码理解等能力的安全性，和下游任务包括文本到代码、代码到文本、文本到文本等任务的安全性，涵盖数据安全、模型安全和应用安全等维度的具体安全能力要求。

与会专家从技术应用、企业实践等角度进行了分享和讨论，围绕标准框架、评估对象、评估方法等提出了具体的修改意见。后续，将结合会议讨论情况进一步完善文稿内容，持续组织参编单位进行研讨，推动评估规范定稿。

AIIA安全治理委员会将持续推动形成人工智能技术安全系列标准，从技术研究、标准制定、测试评估、生态建设等方面持续发力，推动安全可信人工智能产业生态。

工作计划：

联系人：

张蔚敏  13552276063

            zhangweimin@caict.ac.cn