配资专业炒股配资网站 智能投研技术联盟主席杨强:联邦大模型与迁移学习推动AI数据隐私保护与知识迁移的新时代

发布日期:2024-11-21 19:25    点击次数:91

  上证报中国证券网讯(记者孙忠)10月18日,“第五届1024资管科技开发者大会”在上海临港(600848)中心举行。

  智能投研技术联盟主席、中国人工智能学会荣誉副理事长杨强在大会上表示,未来高质量公用数据越来越贵,获取越来越难,众多大模型和小模型将一起互相合作,有望形成一个更有效的模型图计算场景。

  杨强表示,如今人工智能和大模型技术有了长足的发展。但这个发展是在中心化模式下进行的。中心化有很多优点,但是也带来了包括数据隐私保护和资源的分配等方面的一些问题,而隐私数据需要受到保护。

  目前无论众多计算中心联合建模,还是分布式建模均需要保护隐私。在保护隐私的联邦学习领域,我国不仅仅是做了技术革新,同时也领导了国际标准的建立。早在2021年就发布了全球第一个联邦学习的国际标准,同时也制定了多个国内国外的行业标准,尤其是金融行业的标准。

  与此同时,模型间的协作未来也会增加。

  未来高质量公用数据越来越贵,获取越来越难。业界会存在多个大模型,能不能让这些模型能够互相合作协作,形成一个更有效的模型?

  杨强提出,未来AI新范式将是大模型和小模型相互协作的状态。在隐私计算的加持下,一个通用大模型和本地数据的小模型之间也可以进行知识迁移。大模型通用知识可以来帮助本地数据的小模型,小模型专业知识也可以反过来帮助通用大模型成长。

  而.一旦大模型和多个小模型网络形成,未来还会有多个小模型和多个大模型一起形成网络。这样就会形成一个大模型和小模型的组成的网络图,未来模型的图计算是一个前景。

  “这是我正在研究的一个方向。无论是同构和异构模型场景配资专业炒股配资网站,都做了实验且证明效果相当不错。”杨强表示。