【资料图】

封面新闻记者 张越熙

当前，人工智能技术加快演进，深刻改变人们的生产生活方式，随之而来的数据隐私、算法歧视、安全风险等人工智能治理问题也引起各方的共同关注，尤其人工智能大规模应用催生了对AI安全更迫切的要求。

9月1日，在上海“2022 世界人工智能大会”现场，中国信通院、清华大学、蚂蚁集团联合发布AI安全检测平台“蚁鉴”，这是行业首个面向工业场景全数据类型的AI安全检测产品。

记者了解到，该平台搭载了1000多件可信AI专利，融合了自研的智能博弈对抗技术，可以实现文本、图像、表格、序列等不同数据类型的自动化测试、量化评分和安全性增强。

据蚂蚁集团大安全技术部总裁李俊奎介绍，该平台内嵌了自研的AI安全计算引擎，计算性能提升了数十倍；内置了40余种国内外主流及自研的攻击算法模型，通过模拟黑产及自动进化攻击手段，对AI模型“检测—防御—升级”，可有效发现AI模型漏洞，减少系统性风险；此外，该平台覆盖了对模型未知情况下的“随机噪声”、“迁移攻击”等攻击样本，更符合工业界应用的攻击评测基准。

中国信通院云计算与大数据研究所内容科技部副主任石霖表示，人工智能技术与制造、医疗、能源、交通、城市建设等领域深度融合，AI算法问题也在不断出现。算法黑箱、算法设计缺陷、数据依赖、对抗样本攻击等问题对智能技术的产业化应用带来较大安全隐患。AI面向工业场景大规模应用，要实现全链路安全可信，持续加强模型鲁棒性。

清华大学副教授李琦表示，人工智能算法的通用自动化检测是研究和解决人工智能安全问题的核心。此次推出的AI安全检测平台，首次全面解决了不同场景下AI算法的系统化和自动化评测，并提供了AI工业级应用的安全量化评价指标，有助于为人工智能算法在工业界的大规模应用提供安全保障。

记者了解到，当天，除了AI安全检测平台“蚁鉴”正式发布向行业开放使用外，中国信通院华东分院和京东探索研究院共同创建的“可信AI联合实验室”揭牌仪式也正式举行。

“可信AI联合实验室”将构建人工智能算法与平台安全测试评估的方法、技术、规范和工具集，围绕AI应用管理、AI算法模型、平台系统与硬件产品等建立体系化可信评估规范，携手开展算法模型检测与标准研究，引导企业参与可信人工智能的研究与发展，构建完善AI生态，加快打造AI算法可信评估能力，构建AI应用生态。

相关负责人表示，推动人工智能透明可释、安全可控、多元包容已经成为全球共识，融合可信要素的人工智能产业生态将成为新时代人工智能发展的必由之路。