search

Richasy / FantasyCopilot

A new-age AI desktop tool
MIT License
433 stars 18 forks source link

[Feature] 使用本地的Embedding能力 #22

Closed chenrensong closed 1 year ago

chenrensong commented 1 year ago

Description

大规模使用OpenAI或者Azure OpenAI的Embedding接口，成本太高。

Solution

可以采用替代的方案 https://github.com/chenrensong/Embedding https://github.com/chenrensong/SS.SemanticKernel.Extensions

Plan B

No response

Additional

No response

Richasy commented 1 year ago

涉及到其它模型，理论上都可以用插件的方式解决，目前写在应用本体内可能并不是一个很好的选择。 不过我会调查你提到的两种解决方案，如果具备足够的通用性，我会尝试看如何集成它们，或者写一个插件

Richasy commented 1 year ago

由于 OpanAI 前段时间的更新，Embedding 的成本大幅下降，目前应用没有足够的理由探索对其它 Embedding 的支持。

所以暂时关闭该 issue，如果你认为这仍是一项值得投入的事情，并期待更广泛的讨论，你可以再打开它。