使用 SPU 实现感知机(perceptron)算法

[Candicepan]

此 ISSUE 为 隐语开源共建计划（SecretFlow Open Source Contribution Plan，简称 SF OSCP）第二期任务 ISSUE，欢迎社区开发者参与共建～ 若有感兴趣想要认领的任务，但还未报名，辛苦先完成报名进行哈～

任务介绍

• 任务名称：使用 SPU 实现感知机(perceptron)算法
• 技术方向：SPU/SML
• 任务难度：热身🌟

详细要求

• 安全性（尽量少 reveal）
• 功能性：实现算法的基本功能，包括：
  • 支持 fit，predict
  • 提供配置是否需要拟合 bias 项，是否需要正则等基本参数
  • 支持起码一种正则方式（L2, L1, elastic...）
• 收敛性：包含 simulator 跑出的实验数据并且证明收敛性/准确性（最好有与明文 sklearn 结果的对比，可详见参考 PR）
• 正确性：请确保提交的代码内容为可以直接运行的
• 代码规范：Python 代码需要使用 black+isort 进行格式化（流水线包含代码规范检查卡点）
• 提交说明：关联该 isuue 并提交代码至 https://github.com/secretflow/spu/tree/main/sml
• 特殊说明：若某个特性有特殊的限制，如需要 FM128，需要更多 fxp 等需要在注释文档中明确说明

能力要求

• 熟悉经典的机器学习算法
• 熟悉 JAX 或 NumPy，可以使用 NumPy 实现算法

操作说明

• 操作指引：https://www.secretflow.org.cn/docs/spu/latest/en-US/getting_started/tutorials/develop_your_first_mpc_application
• 可参考明文实现：linear_model/_perceptron
• 范例
• 参考 PR

认领说明

本任务可有多种实现方式，故支持一个任务有多位开发者进行认领，请在认领任务后，在该 issue 下 comment 你的具体设计思路。

设计思路说明：简单说明计划使用什么算法 or 什么优化器实现任务需求即可

当同一任务有多位开发者提交设计思路时：

• 若多位开发者的设计思路均类似，则将按照 comment 的时间 assign 给第一位 comment 的开发者；
• 若多位开发者的设计思路均不同，则该 issue 将会拆分为以不同设计思路进行实现的子 issue，并 assign 给对应开发者。

开发须知

以下部分代码请必须增加代码注释，对对应代码模块进行说明，包括：

• init函数的超参数含义
• fit 的具体算法实现说明

[zoeStartover]

zoeStartover Give it to me

[Candicepan]

zoeStartover Give it to me

感谢认领～Next Step：请按照认领说明在您的回复下 再更新您计划的设计思路哈～

[zoeStartover]

设计思路：

• 初始化感知机模型，确定是否需要正则(L1,L2,ElasticNet,None)，是否需要拟合bias项等基本参数（参照sklearn）；
• fit方法：训练感知机模型，输入训练集对X,Y = (x_i,y_i)，若某点计算为误分类点，更新参数w和b，迭代上述过程至max_iter；
• predict方法：输入待预测样本x，输出预测结果y=sign(w*x+b)。

[deadlywing]

设计思路：

• 初始化感知机模型，确定是否需要正则(L1,L2,ElasticNet,None)，是否需要拟合bias项等基本参数（参照sklearn）；
• fit方法：训练感知机模型，输入训练集对X,Y = (x_i,y_i)，若某点计算为误分类点，更新参数w和b，迭代上述过程至max_iter；
• predict方法：输入待预测样本x，输出预测结果y=sign(w*x+b)。

您好，能麻烦具体说一下预备实现的内容么？

比如准备实现哪个(些)正则方法，以及使用什么优化算法？

[zoeStartover]

输入训练集X,Y = (x_i,y_i)，优化目的是最小化-sum(y_i(wx_i+b))，每一圈使用随机梯度下降法(SGD)更新参数w,b，w=w+η y_i x_i，b=b+ η y_i，其中可选择的正则化方法包括L1,L2,ElasticNet(L1+L2)。

[Candicepan]

输入训练集X,Y = (x_i,y_i)，优化目的是最小化-sum(y_i(wx_i+b))，每一圈使用随机梯度下降法(SGD)更新参数w,b，w=w+η y_i x_i，b=b+ η y_i，其中可选择的正则化方法包括L1,L2,ElasticNet(L1+L2)。

LGTM，请在下方子 issue 中再次认领任务哈 https://github.com/secretflow/spu/issues/285 ，我们将把任务的该种实现方式 assign 给你哈

[github-actions[bot]]

Stale issue message. Please comment to remove stale tag. Otherwise this issue will be closed soon.