search

andrew0928 / columns.chicken-house.net

[安德魯的部落格] 網站原始檔案
http://columns.chicken-house.net/
MIT License
8 stars 2 forks source link

替你的應用程式加上智慧! 談 LLM 的應用程式開發 — 安德魯的部落格 #25

Open andrew0928 opened 7 months ago

andrew0928 commented 7 months ago

https://columns.chicken-house.net/2024/02/10/archview-int-app/

DALL-E, 過年期間的研究心得, 就用龍年, 文明發展到極致的太空都市當主題吧上一篇文章 架構師觀點 - 開發人員該如何看待 AI 帶來的改變?，展示了我嘗試的 安德魯小舖 GPTs 整合應用，實現了讓 AI 助理的嘗試，我開始真的可以用自然語言就完成整個購買流程的操作了。過程中，AI 也幫我 “腦補” 了部分我 API 沒有提供的功能 (指定預算跟購買條件，AI 自動幫我思考購買組合)。這結果其實比我預期的還理想，完成之後，我開始探索接下來的這兩個問題: 未來的應用程式，會怎麼運用 “AI” ? 未來軟體開發的流程與角色，會變成甚麼樣貌?因此，這篇我就要面向應用程式的開發面，來探討該怎樣把 “智慧” (我暫時把 “智慧” 解讀為能理解語意的能力，拿 LLM / Large Language Model / 大型語言模型 當作代表) 加到你的應用程式內。雖然目前 LLM 還有很多缺點，但是應該開始把 LLM 當作 “人” 來看待了，溝通的方式都要把它當作 “人” 的方式溝通 (因此要善用 prompt, 而不是 function + parameters)。這其實跟傳統的軟體開發結構完全不同，也是我這篇想繼續往下挖的主題。

LichHsu commented 7 months ago

目前看來只能應用在有外網的環境吧?

andrew0928 commented 7 months ago

@LichHsu 目前看來只能應用在有外網的環境吧?

看你挑哪套 LLM ... 如果要用 GPT4, 的卻只能用 openai / azure 的服務..

我試過自己電腦跑 LLM ( LLaMa 2 ) 是 OK 的，只不過效果有差.. 同樣的 prompt 反應也不同..