技術專欄

OpenAI 和 Azure OpenAI 有何不同? Azure OpenAI 模型選擇攻略&計費一次搞懂

Microsoft 微軟
2023/04/27

OpenAI 和 Azure OpenAI 有何不同?  

Azure OpenAI 模型選擇攻略&計費一次搞懂

文/邁達特資深數據分析師 Una Chen

OpenAI 旗下產品 ChatGPT 問世以來,持續引發巨量的造訪與蓬勃的討論,可見 OpenAI 成功為用戶造就了不凡的體驗。人們也開始思考:OpenAI 和 ChatGPT 還能夠幫助我們什麼?對 AI 趨勢敏銳的企業則紛紛開始探究:由微軟投入銀彈的「OpenAI」,與微軟自身的「Azure OpenAI」到底有何不同?以及,若以 Azure OpenAI 作為基本盤,企業還能如何延伸這些 AI 應用?

Azure OpenAI &  OpenAI

OpenAI 和 Azure OpenAI 一樣嗎?先了解什麼是 Azure OpenAI

為了讓 ChatGPT 更加安全且便利,OpenAI 的重要金援「微軟」在 2023 年第一季釋出了與微軟雲平台「Azure」 結合的「Azure OpenAI」 (簡稱 AOAI) 。Azure OpenAI 是一款擁有 ChatGPT 的雲端服務,可視作 Azure 雲平台的劃時代指標。當你使用 Azure OpenAI 的服務,可進行多種程式的結合與呼叫,進而自動化完成複雜的步驟與程序。啟用 Azure OpenAI 並結合其他微軟的服務,使「一指完成每日工作」的未來指日可待。

▸  延伸閱讀 | 微軟引領的 AI 奇點將臨!台灣 AI 團隊如何穩站巨人肩膀?

Azure OpenAI Service

© / Microsoft

Azure OpenAI 功能速覽

Azure OpenAI 的基礎為 GPT 模型,可想像這個模型是一個 9 歲孩童,已經讀遍全世界的文章。也就是說,此模型從收集巨量文字資料進行訓練後,成為一個非常龐大的自然語言模型。而 GPT 模型家族中,有下列幾個類型:「GPTX」 專注於文本生成的功能;「CODEX」則是生成程式碼的功能;「DALL-E」則是以文生圖的功能。目前,GPTX 與 CODEX 已存在於 GPT3.5 版本之中;DALL-E 則在 GPT4 版本中出現。

而 GPT3.5 作為一個 LLM (Large Language Model),且含有通用人工智慧 (Artificial General Intelligence) 的特性,其基礎為「生成文章」,再衍生出「生成程式碼」及「生成向量」的兩個功能。目前 Azure OpenAI 的 GPT 模型為 3.5 版,未來當 OpenAI 再度升級 GPT 版本時,Azure OpenAI 也會同步升級

而 GPT 3.5 還有四個等級,分別為 「Ada」、「Babbage」、「Curie」、「Davinci」。這四個模型有性能的差異,其性能依「A、B、C、D」遞增,故其中以 Davinci 的性能最好。Davinci 能以少許資料就能訓練成回答精準的模型,但由於它性能高,導致它的費用最高,速度也最慢。而 Ada 為性能最低的模型,它的價格較為便宜,但速度快,適合做為日常使用的對答模型。

企業 IT 智能化最佳夥伴 — MetaAge 邁達特建議您:在使用這些模型時,以使用較低效能的模型為優先。若此模型不符合期待,再往上調整。除了樽節成本,亦能符合使用者的期待

OpenAI 和 Azure OpenAI 有何不同?

首先,Azure OpenAI 是微軟 Azure 雲平台的「服務」,OpenAI 則為微軟近年投資的一家「公司」。OpenAI 接受微軟的投資並開啟了商業化模式後,終於成功將 GPT 模型升級到第三版,也就是現在的 ChatGPT 之核心,締造席捲全球的出色表現,成為最火紅的聊天機器人。  

今年四月底,OpenAI 表示下一步將釋出訂閱制的 ChatGPT 商務版ChatGPT Business」。ChatGPT Business 主要加強了「數據控管自主性」這項用戶需求。

至於 Azure OpenAI 則是直接「Born for Enterprise」。Azure OpenAI 是專為企業用戶設計的,擁有絕佳的 SLA 保證,在穩定性、可靠度等方面更有保障。以及,Microsoft 承諾旗下 AI 服務「以人為本」,因此 Azure OpenAI 是負責任的、安全的 AI。透過 Azure OpenAI,用戶可享有 Microsoft Azure 完善規劃的安全性功能,涵蓋但不限於 Azure OpenAI 提供的私人專用網路、區域可用性、SLA 保證,以及負責任 AI (Responsible AI)內容篩選,以及專業的在地技術服務支援。

▸  YouTube 影片| Azure OpenAI 和 OpenAI 有什麼不一樣?

前文所提的 OpenAI 「ChatGPT Business」商務版,對某些商務單位而言或許已十足堪用。然而, OpenAI 目前無法為您提供在地化技術支援;也無法為您即時排除問題。以及,在資安控管與防護上,顯然是 Azure OpenAI 能做得更全面且到位

Microsoft 在各地設有其指定的認證代理商,因此得以將 Azure OpenAI 的服務與支援,擴展得既深且廣。MetaAge 邁達特即是 Microsoft 指定的台灣代理商,且設有真人駐守的 7x24 MSP(雲端託管與監控) 服務,可為企業全年無休守護 IT 的即時狀況,保障數據安全。

簡而言之,Azure OpenAI 可以讓企業用戶在更合規、更安全的前提下,使用 GPT-3 及其衍生模型。倘若您的企業需要更高的安全性、存取管理、網路傳輸、數據保護、擴展容量,以及不容忽視的在地化技術支援、即時的問題排除,Azure OpenAI 和 Microsoft 在地代理商 MetaAge 邁達特,可攜手提供企業用戶上述保障

Azure OpenAI 的 2 個優勢

Azure OpenAI 目前為 Azure Cognitive Service 其中一個服務,而在微軟的環境中使用 AI 功能,最大的好處是:微軟能提供最安全的環境,保障用戶使用服務的過程中,不會有資料外洩的問題。另外,微軟保證 SLA 99.9%,用戶不會因為服務中止而造成損失。 

在 Azure 的服務平台中使用 AI,還有另外一個優勢,即是可將 GPT 模型與所有微軟平台的 Service 互相結合,成為完全自動化的流程。例如:當我需要查詢我的 IP 位置,但我不會使用程式語言,就可以使用 Microsoft Teams 呼叫 GPT 模型,直接詢問 IP 查詢指令,GPT 模型便能立即回應。

若再更進一步設計,GPT 模型還可與 RPA 自動化流程結合。未來可使用輸入語言的方式,觸發自動化流程,使電腦直接輸入查詢指令並回傳 IP 位置至 GPT 模型中,進而取得完整回答。上述功能都是能夠客製化的功能。

▸  延伸閱讀 | 什麼是 RPA 機器人流程自動化?RPA 優點、應用案例一次整理 

▸  延伸閱讀 | 善用 RPA 工具 Microsoft Power Automate,打造企業專屬 Low Code 工具

Azure OpenAI 的 3 種應用案例

Azure OpenAI 可為 IT 和開發人員解放生產力,過去的自然語言模型無法生成程式碼,但現在 GPT 模型可以辦到,造福 IT 人員,讓寫出程式碼不再困難。另外,GPT 模型也能進行程式碼偵錯,Debug 再也不是耗費大量時間的工作了。Azure OpenAI 能減少 IT 人員 Coding 和 Debug 的時間,使其專注在核心的創新任務。 

紐西蘭的一家農產品收購集團,每年與客户有超過 45 萬次互動聯繫。該集團使用 Azure OpenAI 獲取溝通意見中的關鍵字、短語或情緒,利用高頻關鍵字作為總結,使集團中的人員與使用客戶都能了解每一次溝通意見的重點。

在上架新商品、最忙碌的時期,Azure OpenAI 佐以其他的 AI 項目,替一家專賣智能照明的公司發揮了很大的功效。該公司在上傳照片的同時,進行 AI 圖像分類,將商品依屬性等項目做分類,再將分類項目與風格同時輸入至 GPT 模型中,以產生新式產品介紹。不但使人員快速整理產品分類,還快速產生各種吸引人的產品介紹,提升了轉單率。

如何進入 Azure OpenAI 的介面?示範 Azure OpenAI 存取

Azure OpenAI 屬於 Azure Cognitive Service 的其中一員,因此他的介面與 Azure 上的服務差異不大,主要流程須先從「選擇模型規格」開始。首先,進入 Azure OpenAI Service Studio 後,在畫面中找到「Playground」(遊樂場),並開始對 GPT 模型進行 prompt。

所謂 prompt 是一種讓 GPT 模型學習的方式,我們會用文字例子提示 GPT 模型,這個方式可讓 GPT 模型根據提示,再回答出我們希望它回答的答案,這也是讓 GPT 模型正確回答最常用的方式。在完成 prompt 步驟後,便可儲存並部屬這副模型,日後它都能依據此規則進行回答,並且成為日常使用的模型。

 

© / Microsoft

Azure OpenAI 的計費模式

最後,我們談談成本。自然語言模型的運算是以「Token」為單位,750 至 800 個單字約能換算成 1000 個 Tokens。微軟在 Azure OpenAI 的使用計費,是以 1000 個 Tokens 為一個單位作計費,需要計費的項目包括一般使用、Fine Tune 與 Hosting。一般使用以 Tokens 量做計算,Fine Tune 與 Hosting 則是以小時做計算。費用多寡以模型大小為區分,誠如前述,Davinci 為最高價;Ada 為最低價,用戶能以使用用途做選擇。以下舉例:

假設某家電信業者客服 APP 每月有 20 萬活躍客戶,每人每月平均 10 次互動,每次總計 300 字數(英文)。模型每週 Fine tune 一次 30 小時。以此案例作計算,使用模型為 Ada,每月總費用大約為 2755.7 美元。

算式:(200,000 X 10 X 300 X 1.33) ÷1000  X $0.0004 + (30 X 4 X $20) + (730 X $0.05) = 319.2 + 2400 + 36.5 =  2755.7/每月

Azure OpenAI 如何申請啟用?

如欲協助啟用 Azure OpenAI,或想更深入暸解 Azure OpenAI 如何為您的產業與企業賦能,您可【 由此聯繫 】企業 IT 智能化最佳夥伴-MetaAge 邁達特。我們是 Microsoft 原廠認證的專業代理商,擁有實戰二十餘年的 IT 技術量能,具備整合多雲、混合雲、混合 IT 環境的傑出技術,更有長期代理眾多科技大廠解決方案之優勢,可為用戶鋪設完善的 Microsoft 雲地整合方案和軟體授權,協助企業打造現代化的 IT 架構。

IT 智能化最佳夥伴-MetaAge 邁達特是 Microsoft 微軟原廠指定的代理商,邁達特具備 Microsoft 專業顧問團隊,可依照貴司環境提供適當的規劃、移轉方法和技術服務。若有任何 Microsoft Azure、M365、Power Platform、雲端託管 ⋯ 等相關需求或使用問題,歡迎您電洽 0800-008-669 或 填寫表單與我們聯絡,將有專人立即與您聯繫。對 Azure OpenAI 還想了解更多嗎?推薦必讀:從體驗到驗證!邁達特提供 Azure OpenAI 從頭到尾導入協助,4 大步驟陪您建立商業級 AI 流程

聯絡 我們