kkdai / bookmarks

Repo to storage all my favorite links
14 stars 0 forks source link

Gemini API 推出 Context caching 功能,可將長內容快取一小時,後續呼叫可直接引用,適合大量長內容被短提示反覆引用的情境。 #1606

Open kkdai opened 2 weeks ago

kkdai commented 2 weeks ago

{ "summary": "Gemini API 推出 Context caching 功能,可將長內容快取一小時,後續呼叫可直接引用,適合大量長內容被短提示反覆引用的情境。", "full_content": "這適合於大量長內容被短 prompt 反覆引用的情境,例如", "url": null, "tags": ["#twitter", "Gemini API", "Context caching", "NLP", "預訓練模型"] }