致力于以AI技术+金融服务实践,度小满自研轩辕预训练模型表现出色

2022-06-20 10:16:45 和讯 

  近年来,人工智能技术广泛运用于金融服务行业等各大领域,为行业发展不断注入活力。加强人工智能技术研究,可解决金融行业“数据孤岛”等难题,提高金融服务效率。度小满积极布局人工智能技术,不断攻克创新技术难题,其自主研发的轩辕(XuanYuan)预训练模型在CLUE1.1分类任务中表现出色,为度小满今后的人工智能研究提供了有力依据。

  轩辕预训练模型在CLUE1.1分类任务中排名第一

  自然语言处理是人工智能皇冠上的明珠,近日,度小满AI-Lab让人类摘得明珠的步伐又前进了一步。据中文语言理解领域的权威测评基准官网公布,度小满AI-Lab研发的轩辕(XuanYuan)预训练模型在CLUE1.1分类任务中“力压群雄”获得了排名第一的好成绩。距离人类“表现”仅差3.38分!

致力于以AI技术+金融服务实践,度小满自研轩辕预训练模型表现出色

  CLUE是中文语言理解领域最具权威性的测评基准之一,涵盖了文本相似度、分类、阅读理解共10项语义分析和理解类子任务。其中,分类任务需要解决6个问题,例如传统图像分类,文本匹配,关键词分类等等,能够全方面衡量模型性能。该榜单竞争激烈,几乎是业内兵家必争之地,例如快手搜索、优图实验室 & 腾讯云等等研究机构也都提交了比赛方案。

  据悉,位居榜首的“轩辕”是基于Transformer架构的预训练语言模型,涵盖了金融、新闻、百科、网页等多领域大规模数据。因此,该模型“内含”的数据更全面,更丰富,面向的领域更加广泛。

  度小满积极布局前沿技术,致力打破行业“数据孤岛”

  预训练模型是一种迁移学习的应用,可以利用几乎无限的文本,学习输入句子的每一个成员的上下文相关的表示,它隐式地学习到了通用的语法语义知识。换句话说,预训练模型把通用人类的语言知识先学会,然后再代入到某个具体任务。它可以将从开放领域学到的知识迁移到下游任务,以改善低资源任务;还可以使自然语言处理由原来的手工调参、依靠 ML 专家的阶段,进入到可以大规模、可复制的大工业施展的阶段。

  目前,除了预训练,度小满AI-Lab在文本分类、信息抽取和技术资源等方向亦有布局。在战略上会有两点侧重:首先加强自身的数据生态建设,合法合规使用用户数据,解决数据孤岛;其次通过产学研相结合,布局前沿技术,落地金融场景业务。目前,度小满与北京大学光华管理学院成立了“金融科技联合实验室”,和西安交大成立了“西安交通大学-度小满金融人工智能联合研究中心”,并与中国科学院自动化研究所共建博士后工作站,共同开展人工智能及相关领域的博士后联合招收培养。

  在当前这个以技术为驱动的时代,金融行业的发展已离不开科技的赋能。作为沿承了百度技术基因的金融科技企业,自成立以来,度小满积极在前沿技术领域布局,切实提升自身核心竞争力,为金融行业发展提供技术支撑。未来,相信在以度小满等为代表的创新型金融科技企业的共同努力下,金融服务行业的发展必将迎来全新的局面。

(责任编辑:张蒙 )

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    和讯特稿

      推荐阅读