Closed GaoYuan522 closed 4 months ago
我真的感觉他在和我聊天,所以要不然顺带手开发一个基于本模型的语音助手和大模型功能吧!
亲测示例: 我: are you ok? 它(我的环境绝对安静,按住不说话):对对对对。 我:你还好吗? 它:对的对的,你的那个。 我:你是谁? 它:是的是的,是有没有意有。 我:等会儿这是聊天吗? 它:好的,对的。 我:我觉得你在说笑。 它:我是一个的一个。 我:你知道我是谁吗? 它:嗯,是不是?
……
这是模型的幻觉,你硬要让模型从充满环境噪音的静音片段转录文字,就会有这种现象
感谢您的耐心回答,其实我想说的就是这个意思。如果没有输入的话,模型会不会吐出一些训练数据?类似于ChatGPT前阵子的漏洞一样。
我真的感觉他在和我聊天,所以要不然顺带手开发一个基于本模型的语音助手和大模型功能吧!
亲测示例: 我: are you ok? 它(我的环境绝对安静,按住不说话):对对对对。 我:你还好吗? 它:对的对的,你的那个。 我:你是谁? 它:是的是的,是有没有意有。 我:等会儿这是聊天吗? 它:好的,对的。 我:我觉得你在说笑。 它:我是一个的一个。 我:你知道我是谁吗? 它:嗯,是不是?
……