2019年12月8日至12月14日,微众银行首席人工智能官杨强教授出现在加拿大温哥华的NeurIPS(神经信息处理系统大会,AI顶会),还联合谷歌、卡内基梅隆大学举办了联邦学习国际研讨会,分享微众首创的联邦推荐技术落地成果——这不是实验室里的空想,是真能解决行业痛点的方案。
推荐系统的死结:数据多,但碰不得
你刷短视频、看新闻、买东西时,背后的推荐算法靠数据堆模型——收集的用户行为、内容属性越多,推荐越贴合需求。但现实是,数据被不同机构锁成了“孤岛”:视频平台有用户观看记录,电商平台有商品购买标签,新闻平台有内容点击率数据。政策卡着隐私红线,不能随便跨机构换原始数据。一边是提升效果需要全量数据,一边是数据不能碰,这就是当前推荐系统绕不开的难题。
微众的解法:不碰数据,只换加密参数
杨强教授这次在NeurIPS分享的,是微众的联邦推荐方案:多个机构协作训练模型,不用交换各自的原始数据,只交换加密后的模型参数。既不泄露用户隐私,又能凑齐训练所需的多源数据,打破数据孤岛。为了让方案落地,微众还开源了全球首个工业级联邦学习框架——FATE(Federated AI Technology Enabler)。这个框架支持机器学习、深度学习、迁移学习,集成了同态加密、秘密共享、哈希散列等多方安全计算协议,跨机构对接也有成熟的信息管理方案,是能直接用的工业级工具,不是学术原型。
联邦推荐的三类玩法,适配不同场景
微众把联邦推荐分成三类,对应不同协作场景。第一类是横向联邦推荐,也叫基于商品的联邦推荐:两个平台有重合的商品,但用户群体不同,交换参数训练;第二类是纵向联邦推荐,也叫基于用户的联邦推荐:两个平台有重合的用户,但商品或内容不同,交换参数优化;第三类是迁移联邦推荐,核心是跨领域的模型适配,细节原文虽未细说,但本质还是跨机构不碰数据的协作。
从2019年的技术分享到现在,这个方案的核心价值很明确:平衡了数据协作和隐私保护。但目前推广仍有门槛,比如FATE框架如何适配不同机构的现有系统,加密计算会不会影响模型训练效率,还有跨机构的利益分配问题。你觉得,这种“数据可用不可见”的方案,未来会成为推荐行业的标准玩法吗?
素材来源:InfoQ 中国 · AI情报、AI应用落地、开源生态
查看报道原文

发表第一条评论吧