unischool / knowledge-base

至青宇宙學校資料累積和查詢檢索生成系統
1 stars 0 forks source link

關於後端AI語意搜詢可能的服務應用:Cloudflare AI #3

Open leechiuhui opened 6 hours ago

leechiuhui commented 6 hours ago

bestian commented 17 hours ago 我想同樣是要做AI語意搜詢,用CloudFlare本身提供的服務 在API撰寫來和它的worker大約是會更好橋接?

https://developers.cloudflare.com/ai-gateway/

Cloudflare AI 是 Cloudflare 提供的一套 AI 工具及平台,旨在讓開發者能更輕鬆地運用人工智慧技術來增強網路應用程式的功能。透過 Cloudflare AI,開發者可以在全球範圍內進行模型部署和推論,利用 Cloudflare 邊緣網路的優勢,實現高效、低延遲的 AI 功能。

Cloudflare AI 的核心特點: 全球分佈網路支援:Cloudflare AI 結合了 Cloudflare 全球數百個節點的強大基礎設施,讓 AI 模型可以在更接近使用者的地方進行推論,降低延遲並提高效能。 開發者友好:Cloudflare 提供了易於整合的 SDK 與 API,開發者可以快速將 AI 模型導入到現有的應用程式中。 多樣化的 AI 應用:從自然語言處理到圖像識別,Cloudflare AI 提供了多種可用的預訓練模型和支持自定義模型的部署。 Cloudflare Workers 與 Cloudflare AI 的橋接: Cloudflare Workers 是一個無伺服器平台,讓開發者可以在 Cloudflare 的網絡上運行 JavaScript、Rust 或者其他語言編寫的程式碼。Cloudflare AI 可以與 Cloudflare Workers 無縫整合,通過以下方式進行橋接:

邊緣推論:利用 Workers 部署的服務,開發者可以直接在邊緣節點上執行 AI 模型推論。這樣的橋接讓 AI 應用能夠以低延遲、高效能的方式在全球運行。

API 呼叫:Cloudflare Workers 可以調用 Cloudflare AI 的 API 來處理模型推論結果,例如處理圖像或文字資料,並將結果返回給使用者。這提供了靈活的邊緣 AI 應用方案。

資料前處理與後處理:在 Workers 中可以進行 AI 推論前的資料處理(如格式轉換、資料清理),或在推論後進行結果的二次處理,這樣可大幅優化整個工作流的效能。

整體來說,Cloudflare AI 與 Workers 的整合,為開發者提供了一個強大且靈活的工具,可以快速構建和部署全球可用的 AI 應用。