阿里云、百度、蜜度等10家企业共同参编“大模型安全风险防范能力系列标准” 获核心参编证书！

12月7日—8日，中国人工智能产业发展联盟（AIIA）第十次全体会议暨2023年通用人工智能创新发展论坛在重庆举办。会上，AIIA授予十家单位“大模型安全风险防范能力系列标准”核心参编单位证书。他们分别是：阿里云计算有限公司、北京百度网讯科技有限公司、北京信工博特智能科技有限公司、华为云计算技术有限公司、科大讯飞股份有限公司、蚂蚁科技集团股份有限公司、上海蜜度科技股份有限公司、三六零安全科技股份有限公司、上海燧原科技有限公司、维沃移动通信有限公司。

大模型安全风险防范能力系列标准核心参编单位

当前，大模型市场呈现百舸争流之势，《生成式人工智能服务管理暂行办法》《上海市推动人工智能大模型创新发展若干措施（2023—2025年）》等政策也纷纷出台。

据IDC预测，2023年基于大模型的AI市场规模将超过147亿美元，到2026年市场规模将超过263亿美元。但是，目前大模型的安全评估、服务监管尚处于初期探索阶段，为解决安全评估缺少评测标准体系、测评样本词库、自动化评估技术手段等挑战，紧跟政策要求和技术发展，中国信息通信研究院云计算与大数据研究所以可信AI、算法治理、内容安全等工作为基础，联合业界启动“生成式人工智能安全风险防范能力要求及评估方法”系列标准工作。通过与中国人工智能产业发展联盟（AIIA）、内容科技产业推进方阵等专家成员多次召开标准研讨会，最终形成“大模型安全风险防范能力系列标准”，通过这项工作规范和提高大模型安全服务能力。

“大模型安全风险防范能力系列标准”工作思路与计划

图片源自公众号“内容科技产业推进方阵”

“大模型安全风险防范能力系列标准”共分为四部分要求及评估方法,分别是大模型训练数据安全、大模型安全能力、大模型内容安全能力、大模型服务安全运营能力。蜜度一直高度重视自身的大模型安全风险防范能力建设，作为核心参编单位之一，参与了上述四个部分的内容编撰。在内容研讨过程中，蜜度基于目前行业现状与业界专家共同探讨大模型服务过程中涉及的安全风险，同时针对标准内容和评估方法等提出具有可操作性的意见，为评估的规范化提供了全新参考。

蜜度研发副总裁王君、微热点研究院副院长王昉，作为专家参与核心编制工作

此次能够参与大模型安全风险防范能力系列评估规范的编制工作，是业界对蜜度在大模型安全风险防范方面工作的肯定，也是对蜜度在推动大模型发展方面贡献的认可。蜜度将继续秉持开放、合作的理念，在大模型生态建设等方面持续发力，推动安全可信人工智能产业生态建设。