当前位置:首页 > 行业资讯 >  > 正文
度小满首席技术官许冬亮:金融大模型落地有三大挑战
来源:北京日报  时间:2023-08-24 18:05:00
字号:


(资料图片)

AIGC的发展正在从概念开始走向落地应用,金融行业作为AI应用场景密集的行业,大模型技术如何落地成为公众密切关注的领域之一。8月23日,在北大光华度小满“金融大模型”技术与应用论坛上,度小满首席技术官(CTO)许冬亮表示,金融行业数字化基础好,高度依赖数据和技术,是大模型落地的高潜力场景,但现阶段想在金融领域发挥大模型的能力,仍有三个挑战需要解决。

首要挑战是目前通用模型能力不能满足金融场景需要。在许冬亮看来,通用大模型本身精度不够,而行业数据流通性非常差进一步造成大模型金融知识缺失。“做通用模型的公司和机构几乎没有办法获取到这些数据,那他们的模型自然也不具备这方面的知识。”许冬亮表示,同时金融对时效要求高,要求大模型必须能够实时跟踪金融市场的变化和趋势,但目前大模型快速更新迭代困难不小。

其次,大模型高效植入现有业务场景仍面临比较大的挑战。在实际探索过程中,一个团队需要既懂业务场景,又要理解大模型的使用方法,同时还需具备较强的工程能力,才可能选择出适合应用大模型的场景,并高效地将大模型嵌入到实际业务流程中去。“大模型的微调和提示词工程等等都是很有技巧的。”许冬亮表示,但就当下而言,具备这样能力的公司和团队是极少的,懂大模型技术的大多没有具体的行业经验,行业老兵又对大模型的技术理解不够深入,需要时间去磨合和培养。

大模型生成内容的安全合规和隐私保护问题也备受业内关注。“金融本身是一个高合规要求的行业,加上大模型是颠覆性的新技术,我们对它的风险还没有完全了解,监管部门对它的落地应用也比较审慎。”许冬亮称,8月15日,《生成式人工智能服务管理暂行办法》落地实施,随着大模型落地的不断推进,如何平衡大模型落地收益和大模型风险控制,是一个越来越突出的问题。

“上面这三大挑战是整个行业都会碰到的关键挑战,而每家机构独立去解决这些问题既是不现实的,也是不经济的。”在许冬亮看来,未来行业需要进一步整合国内顶尖高校及金融机构资源,降低大模型落地应用的门槛。据他透露,2023年5月,度小满开源了自研千亿参数金融大模型“轩辕”,截至目前已经有超过百家金融机构申请试用,落地了营销、客服、办公、研发等场景,近期团队还将开源发布轩辕2.0金融大模型。

标签: