蚂蚁集团首席AI科学家首次公布蚂蚁“可信AI”架构体系

　　由中国人工智能学会、杭州市人民政府主办的“2021全球人工智能技术大会”日前在杭州举办。蚂蚁集团首席AI科学家漆远在会上首次提出了“可信AI”的技术架构体系，并分享了蚂蚁集团基于该技术架构体系研发落地的多项应用成果。

　　据悉，本次“2021全球人工智能技术大会”共邀请了31位中外院士、以及来自世界各地的人工智能领域专家，共同为人工智能的发展建言献策。会上，蚂蚁集团首席AI科学家漆远教授以《人工智能与风险-从创新到落地和治理》为主题进行了分享。

　　漆远表示，AI是数字经济的源动力，确保AI的安全性和公平性是行业共性课题。围绕“可信AI”这一技术命题，他提出了包含“数据隐私保护”、“鲁棒性”、“可解释性与因果分析”和“公平性”四个方面的技术架构体系。

　　在“数据隐私保护”方面，传统的数据保护方法客观上形成了“数据孤岛”，影响了如医疗、金融等领域的协同作战，也制约AI技术以及行业发展。因此，拓展数据价值的隐私计算技术，对实现“数据不动价值动”显得尤为重要。

　　漆远透露，截至今年3月，蚂蚁集团隐私技术专利申请数量以740个位居全球第一，落地实践成果丰富。比如营销反作弊场景下，帮助超过1万家合作伙伴识别薅羊毛风险，节省营销资金超300亿。

　　在提高模型“鲁棒性”（Robustness）方面，为了应对黑产攻击、并使得模型能适应复杂多变的数据环境，还需要引入博弈论思想生成攻击手段，并进行智能防御，通过左右手互搏，加强抗打击能力。据悉，蚂蚁集团正在风险交易识别、黑灰账户身份识别等风控场景持续打磨这项能力。

　　关于“可解释性与因果分析”，漆远解释，AI模型不能是黑盒。“人类希望知道模型背后的逻辑、收获新的知识，并在它出现问题时踩好刹车，确保AI合规合法。”他认为，这背后需要数据驱动与模型推理能力结合起来，产生可解释的结果。目前，蚂蚁集团已经将这项能力在智能风控、投诉审理，反洗钱等领域广泛应用。

　　“可信AI”的技术架构体系还需要解决模型公平性问题，保持技术的敬畏心，在重视社会伦理原则下进行AI调优。通过AI技术，让老年人、残障人士、欠发达地区用户，享受到数字经济时代的价值，这也是AI公平性的体现。漆远透露，蚂蚁集团已完成了“空中手势”验证码识别方案的研发，帮助视障人群通过“滑动验证码”关卡，该方案将免费开放给更多企业。

   【免责声明】本文仅代表合作供稿方观点，不代表和讯网立场。投资者据此操作，风险请自担。