Open positoy opened 3 months ago
클로바 API 는 스트리밍만 지원한다. 각 LLM 서비스의 API 를 새롭게 익히고 구현하는 일이 번거롭다.
LLM 서비스에선 확산을 위해 2가지 전략을 취할 수 있다.
Vercel AI SDK 를 이용하면 Next.js 에 LLM 서비스를 쉽게 연동할 수 있다. 이를 위해선 Provider 가 인터페이의 구현체를 제공해야 한다. https://sdk.vercel.ai/providers/ai-sdk-providers/groq 같은 서비스에서는 위 (1) 전략을 택하여, openai 와 동일 인터페이스 api 를 제공하고 vecel ai 에서 openai sdk provider 를 재활용하고 있다.
클로바의 vercel ai provider를 만들어보는 것도 재밌을 것 같다.
클로바 API 는 스트리밍만 지원한다. 각 LLM 서비스의 API 를 새롭게 익히고 구현하는 일이 번거롭다.
LLM 서비스에선 확산을 위해 2가지 전략을 취할 수 있다.
Vercel AI SDK 를 이용하면 Next.js 에 LLM 서비스를 쉽게 연동할 수 있다. 이를 위해선 Provider 가 인터페이의 구현체를 제공해야 한다. https://sdk.vercel.ai/providers/ai-sdk-providers/groq 같은 서비스에서는 위 (1) 전략을 택하여, openai 와 동일 인터페이스 api 를 제공하고 vecel ai 에서 openai sdk provider 를 재활용하고 있다.
클로바의 vercel ai provider를 만들어보는 것도 재밌을 것 같다.