首批移动应用AI模型安全检测团标发布

近日，由蚂蚁集团牵头，联合荣耀、信通院、郑州信大捷安等多家单位制定的《移动互联网应用人工智能模型安全指南》电信终端产业协会（TAF）团体标准（以下简称“团标”）正式对外发布。

这也是业界首个在移动智能终端上部署的针对互联网应用AI模型安全威胁检测的技术标准规范。这一标准的建立，确立了国内移动应用的人工智能模型的威胁分析和安全技术标准，将为业界移动应用中的AI模型威胁分析和安全防护提供从研发设计到测评应用全流程的模型安全标准指引及规范。

电信终端产业协会是信通院联同国内各电信运营商、电信终端设备制造商、系统设备制造商、认证检测和研究机构共同发起的非营利国家级社会组织。其此次发布的团标，含括了移动应用AI模型安全中的模型训练、下发部署、数据采集、推理计算、数据传输、更新退役、系统和应用安全的完整模型生命周期。

该团体标准涵盖了模型训练阶段的数据投毒、后门攻击防御以及模型推理阶段的数据噪声、对抗攻击、模型逆向攻击；同时深度融合脱敏、密码学计算和AI计算，以确保模型独立部署，保证运算过程与结果可信。作为在AI模型建设环节兼顾系统与模型算法层面的首发安全行业标准，为终端行业AI模型安全的测试技术规程奠定了机制基础。

蚂蚁集团自2022年起，深入终端生态展开安全科技联防的技术探索与布局，基于端边云协同方案面向生态行业逐渐开放。过去一年，旗下蚂蚁安全实验室与荣耀、vivo、OPPO等企业基于终端科技生态链接，共研用于手机等终端设备的蚂蚁可信隐私沙盒AntDTX，已应用在超2400万台终端设备，日均过滤潜在风险交易8000多笔。

在标准层面，蚂蚁集团与中国信通院、华为、小米等机构，共同编制了TAF团体标准《智能终端侧业务风险防控安全指南》，同时深度参与中国通信标准化协会（CCSA）防范治理电信网络诈骗任务组（TC8 TF3）的成立，推动信息通信行业电信网络诈骗防范治理标准化工作。

蚂蚁安全实验室终端设备可信负责人辛知表示：“AI模型安全正在成为人工智能发展的重要安全技术基石。”此次团标是蚂蚁安全实验室基于多年数字安全技术创新研发建设成果，加大终端安全科技生态投入的坚实一步。未来，蚂蚁将与行业智能终端厂商、芯片厂商联手，在AI模型安全领域展开产业合作研究；同时积极参与相关标准制定,将更多成功实践推向业界,为终端自研技术发展贡献力量。

点击文末的“阅读原文”，即可查看标准全文

本文分享自微信公众号 - 支付宝技术（Ant-Techfin）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。

关于作者

热门资讯

华为计算活动专区

热门软件

OSCHINA 社区

在线工具

攻略

公众号

视频号

问题反馈