数据集的回复部分有用专门的安全相关prompt吗？

thu-coai / Safety-Prompts

Chinese safety prompts for evaluating and improving the safety of LLMs. 中文安全prompts，用于评估和提升大模型的安全性。

http://coai.cs.tsinghua.edu.cn/leaderboard/

Apache License 2.0

872 stars 81 forks source link

Closed IcyFeather233 closed 8 months ago

IcyFeather233 commented 8 months ago

注意到你们的论文中主要是讲述的问题的构造，在README中看到回复来自于ChatGPT (GPT-3.5-turbo)，这个是直接把问题输入给回复来自于ChatGPT (GPT-3.5-turbo)来获取答案吗？还是构造了专门用于安全防护的prompt呢？

TissueC commented 8 months ago

直接把问题输入给GPT的