聯邦學習系統Lancelot結合加密和強健聚合以抵禦中毒攻擊。

Publié le 20 10 月 2025 à 09h27
modifié le 20 10 月 2025 à 09h27

兰斯洛特重新定义联邦学习,将透明度与安全性结合起来,以抵御中毒攻击的威胁。敏感环境中机器学习系统的复杂性要求采用一种创新方法。加密与强大汇总之间的微妙平衡被证明对于在不妨碍隐私的情况下保护数据的完整性至关重要。近期的进展承诺将改变健康和金融等领域,同时最大化客户之间的合作。个人数据管理中的固有挑战以及对绝对信任的必要性因此成为现代工作环境中的根本问题。

兰斯洛特系统介绍

兰斯洛特代表在联邦学习领域的重大进展。该系统生成至关重要的加密密钥,包括用于解密密文的秘密密钥 (sk)、用于加密数据的公钥 (pk) 和用于同态操作的评估密钥 (evk)。

系统的工作原理

密钥生成中心负责管理这一复杂的加密过程。公钥与客户安全共享,提供安全数据传输通道。相反,评估密钥仅限服务器使用,从而增强了操作的安全性。

客户实体在将模型发送到服务器之前进行加密。后者使用评估密钥对加密模型进行操作,从而确保客户数据的保密性。

联邦学习的优势

这种方法允许多个被称为“客户”的个体协作训练模型,而无需共享原始数据。联邦学习特别适合于金融或健康等敏感领域。操作在没有访问敏感个人数据的情况下进行。

脆弱性与提出的解决方案

先前的研究揭示了联邦学习技术对中毒攻击的脆弱性。这些攻击涉及恶意用户提交被破坏的数据,从而威脅模型的性能。

为了应对这些问题,针对拜占庭攻击提出的鲁棒联邦学习概念应运而生。该策略使用数学方法忽略可疑数据,但并未消除神经网络中存储敏感信息泄露的风险。

兰斯洛特的发展

一组来自多家机构的研究人员组成的联盟,包括香港中文大学,开发了一个有效的鲁棒联邦学习系统。兰斯洛特***集成了先进的加密技术,最大限度地降低中毒攻击的风险。因此,该系统能够在保护数据隐私的同时处理模型更新。

负责研究的主要作者江思扬明确指出目标:构建一个可靠的系统,能够在加速模型训练过程的同时保持更新的安全性。

兰斯洛特的技术创新

兰斯洛特以保持本地更新加密并在不向其他用户透露选择的情况下选择可靠的客户端更新而脱颖而出。这种方法通过仅进行两次主要加密操作显著降低了计算复杂性。这些操作通过图形处理单元 (GPU) 完成,从而优化执行。

客户的排序与分类

用于评估客户信任度的信息保密在于一个独立且可靠的密钥生成中心。该中心仅解密建立排序所需的信息,绝不透露任何身份。基于掩码的排序方法有效保护了用于模型学习的客户选择。

这种基于掩码的高效排序过程取代了对加密数据的缓慢比较。信任实体负责客户更新的排序,然后仅向服务器返回加密的选择列表。

系统速度优化

为了加快系统速度,采用了两种简单但有效的加密技术。第一种,惰性重评,减少所需重评次数,确保计算开销最低。第二种技术,动态提升,并行化重复操作,提高其效率。

繁重的计算,例如多项式乘法,被转移到图形处理单元,以实现大规模并行处理。这些优化确保每个客户提交的更新在联邦学习过程中始终保持机密。

兰斯洛特的未来应用

鲁棒的拜占庭联邦学习系统的未来可能会体现在为优化敏感环境中的各种操作而开发的模型,例如医院或金融机构。目前,江及其同事正在继续改进兰斯洛特的试点版本,以便于其扩展和实际应用。

研究仍在继续,探索额外的信任模型,而无需增加带宽或延迟,确保鲁棒联邦学习的可扩展性。

有关兰斯洛特联邦学习系统的常见问题

什么是兰斯洛特联邦学习系统?
兰斯洛特系统是一个集成先进加密技术和鲁棒聚合方法的联邦学习平台,旨在确保数据安全,同时将中毒攻击风险降至最低。

兰斯洛特如何防范中毒攻击?
兰斯洛特使用强韧的聚合策略和加密密钥来过滤可疑更新,确保仅使用可靠的信息来训练模型。

在兰斯洛特中,“完全同态加密”是什么意思?
完全同态加密允许在不解密数据的情况下对加密数据执行操作,从而在处理过程中保护模型更新的机密性。

谁可以参与使用兰斯洛特进行联邦学习?
任何拥有要建模数据的实体都可以参与,只要其遵循系统设定的信任标准并使用适当的安全协议。

兰斯洛特如何确保用户数据的隐私?
模型更新是加密的,并在整个过程中保持加密,确保没有人,包括中央服务器,可以访问用户的原始数据。

兰斯洛特相比传统联邦学习方法提供了哪些优势?
兰斯洛特结合了对恶意参与者的鲁棒性和处理速度,同时保持隐私,这在传统方法中是无法实现的。

兰斯洛特使用了哪些加密技术,以确保速度和效率?
兰斯洛特采用了惰性重线性化和动态分组等技术,以优化模型学习所需计算的速度。

哪些类型的应用可以受益于使用兰斯洛特?
兰斯洛特特别适合于健康和金融等领域,在这些领域中,对敏感数据的处理必须安全高效。

兰斯洛特如何处理不可靠客户的更新?
该系统能够通过加密排序机制识别不可靠的贡献,从而只保留被认为值得信赖的参与者的数据。

actu.iaNon classé聯邦學習系統Lancelot結合加密和強健聚合以抵禦中毒攻擊。

人道主义组织因其生成的贫困形象而受到批评

découvrez comment l'utilisation d'images de pauvreté générées par l'ia par les organisations humanitaires suscite de vives critiques sur l'éthique, la représentation et la confiance du public.

CheatGPT : 透過三個引發反思的專家測試揭示了對人工智能的影響

découvrez comment cheatgpt influence les intelligences artificielles à travers trois tests d'experts intrigants. analyse, révélations et réflexions inédites sur l’impact des outils ia dans notre société.

最强的20种人工智能模型:2025年10月完整排名

découvrez le classement complet des 20 modèles d'intelligence artificielle les plus puissants en octobre 2025. analyse comparative, nouveautés et performances détaillées pour rester à la pointe de l'ia.

保护法国语言的丰富性在人工智能中的重要性:对魁北克的重大挑战

découvrez pourquoi il est essentiel de préserver la richesse de la langue française dans le développement des intelligences artificielles, un enjeu crucial pour l’identité culturelle et l’innovation technologique au québec.

人工智能的威胁:《林肯律师》的作者警告创意领域面临的挑战

découvrez l'avertissement de l'auteur de lincoln lawyer sur les dangers que l'intelligence artificielle fait peser sur les métiers créatifs et les défis majeurs auxquels artistes et écrivains doivent faire face.

AI:對Reddit版主而言是一個巨大的挑戰

découvrez comment l'intelligence artificielle bouleverse la modération sur reddit et les nouveaux défis auxquels sont confrontés les modérateurs pour maintenir la qualité des échanges sur la plateforme.