search

wenzhu23333 / Differential-Privacy-Based-Federated-Learning

Everything you want about DP-Based Federated Learning, including Papers and Code. (Mechanism: Laplace or Gaussian, Dataset: femnist, shakespeare, mnist, cifar-10 and fashion-mnist. )
GNU General Public License v3.0
348 stars 55 forks source link

作者您好 #26

Closed ltmwglobal closed 7 months ago

ltmwglobal commented 7 months ago

image 作者您好，有件事想要请教一下。这里我认为是对每一层参数分别添加比如方差为10的噪声，这和向所有参数整体添加方差为10的噪声有什么区别呢。那么比如向参数整体添加方差为10的噪声可以满足隐私预算为1的差分隐私定义，向每一层参数添加方差为10的噪声还可以满足隐私预算为1的差分隐私定义吗？这块不是很懂，希望可以得到您的指教。

wenzhu23333 commented 7 months ago

这个是对每个参数噪声，我不太理解你说的每一层和整体 这里将参数看作一个向量，针对这个向量计算敏感度，那么必然要针对向量的每个分量添加对应方差的噪声，这是DP的定义，从这个角度看，向“整体”和“层”添加噪声是等价的。

ltmwglobal commented 7 months ago

谢谢您的指教