search

usersan / papers

読んだ論文のメモ置き場：主にエッジAI、高速化、FPGA実装関連など
0 stars 0 forks source link

RISC-VTF: RISC-V Based Extended Instruction Set for Transformer #43

Open tera1k opened 10 months ago

tera1k commented 10 months ago

0. 論文

https://ieeexplore.ieee.org/document/9658643

Qiang Jiao; Wei Hu; Fang Liu; Yong Dong

1. どんなもの？

Transformerの処理のうち、ReLU活性化関数とSoftmax関数をカスタム命令でやった？

2. 先行研究と比べてどこがすごい？

3. 技術や手法のキモはどこ？

4. どうやって有効だと検証した？

5. 議論はある？

6. 次に読むべき論文は？