AutoGen 探索 - 串接常見的 LLM 模型與自建 API 伺服器
in Deep Learning / Computer Vision / Foundational model
在這篇文章中分享了如何利用 AutoGen 有效地整合不同 LLM，如: Openai GPT-4, Azure Openai GPT-4, Gemini, Mistral.ai 等模型，並且展示了如何利用 vllm 與 FastChat 自建 LLM API 伺服器。如果你對AI、LLM、自然語言處理或 API 伺服器搭建感興趣，這篇文章將是一個不錯的閱讀選擇。我詳細介紹了 AutoGen 的靈活性和實用性，以及它如何幫助創建更智能、更個性化的AI應用。
AutoGen 是一個新的 AI 互動框架，透過使用者事先定義出不同 AI 助理，讓他們互動去完成最終任務，未來使用者只需要給定一個命令，AI 助理就會像是公司的職員一樣各司其職互相合作來完成任務，這些 AI 助理可以依據任務去撰寫對應的程式碼，透過開發環境來編譯以及執行程式碼，此外也可結合不同的服務，只要提供相關的文件，他就可以自己去進行 API 串接非常自動化。 