search

wsxk / wsxk.github.io

MIT License
5 stars 0 forks source link

generative-ai 学习笔记 Ⅱ #186

Open wsxk opened 3 months ago

wsxk commented 3 months ago

https://wsxk.github.io/generative_ai_2/

  1. 负责任得使用AI

    3.1 为什么应该优先考虑负责任的AI功能 3.2 如何考虑负责任的AI

      3.2.1 衡量ai风险的方法
  3.2.2 缓解措施的分层

  1. 负责任得使用AI 3.1 为什么应该优先考虑负责任的AI功能 ai有时候会吐出一些奇奇怪怪的输出。

  2. hallucinations(幻觉):简而言之就是吐出的答案是没有意义的，或者就是错的

  3. Harmful Content: 吐出的答案是有害的，比如18禁，毒药，etc

  4. Lack of Fairness：吐出的内容涉及种族歧视等等

为了保护世界的和平，为了保护……，ai安全势在必行！

3.2 如何考虑负责任的AI 总的来说四步走：识别ai风险->衡量ai风险->提出缓解措施->运行 接下来就是不断地迭代~ 3.2.1 衡量ai风险的方法

3.2.2 缓解措施的分层