OpenAI 和 Azure Open AI 差異

TL;DR

Azure Open AI 就是把 OpenAI 的模型跑在 Azure 上,兩者價格相同,但是 Azure Open AI 資料不會提供給 OpenAI ,並且透過 Azure OpenAI Studio 還可以部署自己的語言模型,不過 Azure Open AI 目前需要審核,除非對安全有疑慮或是想要部署自訂語言模型,不然一般使用者還是建議直接使用 OpenAI

正文

在 Microsoft 使用鈔能力征服 OpenAI 以後,Microsoft 就可以存取 OpenAI 語言模型,除了直接使用 OpenAI 的 API 以外,還可以存取部署在 Azure 上的 OpenAI 的大語言模型,雖然兩者價格單位不一樣,但其實價格是相同的,有些客戶可能會對 OpenAI 的隱私和安全性有疑慮,就可以使用 Azure Open AI 服務。

OpenAI 官網的定價頁面

Azure Open AI 定價頁面

不過目前 Azure Open AI 目前沒有辦法直接使用,需要先 填寫此表單申請,審核通過後才可以在 Azure 中建立該服務

筆者是 6/19 號 23:30 左右申請的,6/20 號 10:02 就收到審核通過的 Email,原本以為需要 2-3 天,結果不到 12 小時就審核通過了,速度非常快:

Azure AI Studio 中也可以直接測試

在程式中要呼叫 Azure Open AI 可以透過 Semantic Kernel 套件(OpenAI 也可以),支援 C#, Python, Java ,可以撰寫自訂的方法,語言模型會自己判斷需不需要使用到我們自己寫在程式碼中的方法,讓 AI 有更多功能。
延伸閱讀: C# Semantic Kernel 最簡單、免費使用 LLM 示範 (Hugging Face)

參考資料:
Microsoft.Learn - What is Azure OpenAI Service?
Microsoft.Learn - Understanding AI plugins in Semantic Kernel

留言