当前位置:资讯 > 金融 > 正文
【聚看点】中国信息通信研究院联合阿里发布《人工智能治理白皮书》
2022-09-05 16:37:11 来源: 封面新闻


(资料图片仅供参考)

封面新闻记者 吴雨佳

“当车开得很快的时候,更要握好方向盘、系好安全带,注意踩刹车。数字技术就是这辆快车,科技伦理治理就是方向盘、安全带和刹车。”阿里巴巴集团首席技术官程立说。

在刚刚结束的2022世界人工智能大会“数字时代的技术责任论坛”上,阿里巴巴宣布成立科技伦理治理委员会,并联合中国信息通信研究院,发布《人工智能治理与可持续发展实践白皮书》(以下简称“《人工智能治理白皮书》”),分享科技伦理治理上的实践与思考。

《人工智能治理白皮书》依据“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六大科技伦理原则,对人工智能技术体系健康与可持续发展进行了探讨。

“白皮书最突出的地方在于强调实践,无论是技术层面的创新还是管理体系的变革,都非常具有参考价值。”中国信通院云计算与大数据研究所内容科技部副主任刘硕这样评价。

比如在电商平台上,商品销量和评价会在一定程度上决定检索排序,从而影响用户购买意愿。这种机制催生了作弊行为,比如,蓄意“灌水”,伪造销量数据,虚构大量相似“好评”。如何防止人工智能被黑灰产恶意投放的作弊数据欺骗,保障信息的真实可信?

《人工智能治理白皮书》提出,针对当前黑产的作弊手段和发展趋势,亟需构建大规模、专业化、鲁棒性强的电商反作弊风控平台,助力维护公平的电商生态,包括研发行为风控引擎、加强对抗训练、挖掘风险团伙等,构建覆盖域内+域外、线上+线下、离散行为+聚集团伙、提前预警+主动防控的全方位打击网络虚假交易的能力。

针对深度合成技术的应用,《人工智能治理白皮书》指出,深度合成技术的合法、合规应用以及追溯比较复杂,需要业界共同努力,在技术创新的同时,更希望推动该技术良性健康发展。比如近期,联合科研单位进行可逆合成、模型水印等相关技术的研究,实现对合成视频的有效溯源等。

责任编辑:zN_0552