·网络虚拟币     ·火币网登录网址     ·火币网官网     ·数字货币交易所火币     ·现在最火的虚拟币     ·中国三大比特币交易所      
您当前的位置:首页 > 中心新闻

微众银行分布式机器学习算法“联邦学习”的三种学习模式

时间:2019-11-29 09:46:04  来源:  作者:

微众银行分布式机器学习算法“联邦学习”的三种学习模式

2019年世界人工智能大会在上海世博会中心拉开帷幕,海内外大咖齐聚,学术界、工业界交汇,共同讨论人工智能的未来。“联邦学习”,英文叫“Fed-erated  Learning”,数据的各个拥有方,在各自数据不出本地的情况下建立模型,并且让这个模型能够共享,那么在建立模型的过程中便不会侵犯用户的隐私,整个建模的过程就叫联邦学习的框架和算法。

微众银行首席人工智能官杨强教授也在大会中表示:联邦学习已经成为AI在学术界和工业界的新趋势,未来行业面临的社会大众的要求和监管会越来越严格,联邦学习能够在满足用户隐私保护和数据安全需求的同时,实现多方共赢。微众

1.jpg

                                  微众银行

Google2016年就开始进行一个项目,在安卓系统的手机用户中建立联邦学习,解决用户个人终端设备的数据隐私问题。首先初始化模型下载到各终端,各终端根据自己本身的数据更新模型参数,不同的终端就会产生不同的更新结果,这些更新被送到云端进行聚合,汇总后的模型参数将作为下一次更新的初始参数,这样一直迭代直到收敛。用这样的一个方法既能保证用户隐私,同时又能共享一个通用模型,利用群体智能在云端不断更新。WeBank

微众银行分布式机器学习算法“联邦学习”的三种学习模式

这样的模型不仅需要一个机器学习算法,更需要一个分布式的机器学习算法。在分布式的机器学习算法之上,还要有各种加密的算法。在这个基础上,一共有三种模式来进行联邦学习。微众银行

第一种叫做横向联邦学习

横向联邦学习是指当两个数据集的用户不同,重叠较少,但用户特征重叠较多时,我们把数据集按照横向(即用户维度)切分,并取出双方用户特征相同而用户不完全相同的那部分数据进行训练。

第二种叫做纵向联邦学习

纵向联邦学习是说两个数据集的用户特征重叠较少,但它们却有较多的重叠用户,那么我们就把数据集按照纵向(即特征维度)切分,并取出双方用户相同而用户特征不完全相同的那部分数据进行训练。

第三种叫做联邦迁移学习

如果两个数据集既不重叠用户特征,又不重叠用户,那么在这个场景下,微众银行也提出一个新的算法,叫做联邦迁移学习。它可以利用迁移学习的算法,把这两方数据模型的本质挖掘出来,把抽象的模型加以聚合,在聚合的过程中保护用户隐私,也取得了非常大的成功。

 

相关参考:

微众

http://www.sootoo.com/keyword/223823/

微众银行

http://finance.ifeng.com/a/20161012/14932281_0.shtml

WeBank

http://china.huanqiu.com/co-release/2016-09/9407619.html

 

   首页文字链开通1年以上时间,新闻,资讯相关,内容健康充实有特点,有发展空间!申请>>