技術專欄

從體驗到驗證!邁達特提供 Azure OpenAI 從頭到尾導入協助,陪您建立商業級 AI 流程

Microsoft 微軟
2023/06/09

ChatGPT、生成式 AI(AIGC)無疑是 2023 年科技燙金關鍵字,Microsoft 微軟身為 OpenAI 唯一授權的商業夥伴,也陸續推出 Azure OpenAI、Copilot 等相關應用,且標榜是「企業級 AI 應用」。

基於資料外洩風險,全球有不少政府機關、民間企業宣佈禁用 ChatGPT。而微軟的 Azure OpenAI、Copilot 等「企業級服務」則持續推出,差異在於微軟的 AI 服務可滿足企業對 SLA、資安、法遵等需求,可消除不少企業主的疑慮。

MetaAge 邁達特作為微軟指定的台灣代理商,我們具備專業團隊,為您提供 Azure OpenAI「從頭到尾」的全程導入協助,包含① 建立基礎 Know-How、 進行 Fine Tune、③ 經過 POC 後  再正式 Go Live。透過下文,您將更加熟悉 Azure OpenAI Service 的具體使用情境,以及 Azure OpenAI 如何提升企業內部效能,從而加速智慧轉型進程。

● 延伸閱讀|OpenAI 和 Azure OpenAI 有何不同? Azure OpenAI 模型選擇攻略&計費一次搞懂

Azure OpenAI 服務,提供 SLA 保障與資安保護

由微軟金援的 OpenAI 所致力發展的 GPT,堪稱當今全球最好的 LLM。而除了 GPT,OpenAI 還開發了另外三種模型:Codex模型(用於生成程式碼)、Embedding 模型(用於生成向量)、DALL-E 模型(用於生成圖片)。

當 OpenAI 發佈新模型,身為授權夥伴的微軟,也會同步取得這些模型,並由微軟的 RD 團隊以 1~2 週時間處理好安全性、可用度等 SLA 事宜後,再發佈新版 Azure OpenAI 服務供企業使用。

Azure OpenAI 並非 OpenAI API,不過,兩邊的模型一模一樣。差別在於 Azure OpenAI 可以確實滿足企業在服務穩定性、資料隱私保護⋯等層面的期望。

串聯 Azure 認知服務,催生多元應用情境

Azure OpenAI 是 Azure 認知服務(Azure Cognitive Services)底下的一個服務類型。在既有的 Azure 認知服務中,原先內含諸多 AI 模型,其大多都是為了解決特定問題所創建。因此,這些既有的 AI 模型,擅長於僅將某一件事做得特別好。鑑於此,企業過往若要完成一套應用,往往需要串接多個模型。

反觀 Azure OpenAI(AOAI)則有所不同。Azure OpenAI 算是 Azure 認知服務(Azure Cognitive Services)項目之下唯一的General-Purpose AI 模型,有能力處理多元事件,既看得懂文字與程式碼,又能產生圖片。

在採用 Azure OpenAI 之餘,您也可以結合 Azure 認知服務的其他 API。例如:利用 OCR API 來辨識表單,待結果出爐後,再交由 Azure OpenAI 進行後續處理,讓傳統紙本程序走向自動化。

又或者,也有用戶運用語音轉文字、文字轉語音等 API,串聯 Azure OpenAI,即可將會議的人聲轉化為逐字稿,進一步產生總結摘要和 Follow-up。

結合產線數據,Azure OpenAI 如何為製造業賦予新靈魂?

至於,「製造業」如何透過 Azure OpenAI 來賦予新靈魂?舉凡遠端支援、加速溝通、人員培訓…等,都是 Azure OpenAI 游刃有餘的發揮空間。更重要的是「結合產線數據」:若將 Azure OpenAI 結合產線資料,則無需受限於時間或空間,便能衍生更多應用。

從前,在推動自動化操作的過程中,傳統做法是仰賴 Programmer 撰寫大量程式,繼而讓使用者能透過系統介面下達條件,並根據條件執行後續處理,達到近似於 RPA 的目標與效果。

現在,有了 Azure OpenAI,有沒有可能透過 Azure OpenAI 幫忙產生所需的自動化程式?答案當然是肯定的。舉例來說,從前SAP 團隊要花錢請顧問協助下 Query 條件,進而撰寫程式,深究其因,在於顧問非常熟悉 SAP 的「長相」。

現在,其實 Azure OpenAI 也有能力像顧問一樣,理解 SAP 的長相和 Schema,再根據使用者下達的需求條件,幫忙產生 Query 或是 SQL 敘述句(Statement),大幅提升程式開發效率。

3 種企業應用 Azure OpenAI 實例分享

全球經由 Azure OpenAI 促成的企業應用實例,正不斷新增。如 Trelent 是專門編寫程式碼、協助客戶解決問題的公司,為了避免資訊外流,以及基於安全性,Trelent 採用了微軟 Azure OpenAI 的服務。除了生成程式碼之外,該公司也屢屢搭配運用 Azure平台上其他功能,使其回應客戶的時間從 1.3 秒加快為 0.75 秒,有效提升工作效率,也讓工程師將心力集中於處理核心事務。

在客服支援情境方面,則有某企業利用 Azure OpenAI 梳理客戶的提問,且把公司產品內容融入 GPT 模型,加速為客戶推薦產品。此外,Farmlands 公司則採用 Dynamics 365 進行客戶聯絡;後來加入 Azure OpenAI 服務後,從客戶聯絡資訊提取關鍵字、短語及傳遞的情緒價值,使客服人員能夠快速理解客戶想表達的問題,亦把此功能開放給客戶,便於客戶在系統上直接查看歷次問答結果,以掌問題解決進度,從中有效提升客戶滿意度。

● 延伸閱讀Azure AI 具有哪 5 種優勢?Azure AI 的 5 項核心技術 & 4 種垂直產業應用

從體驗到驗證!邁達特提供 Azure OpenAI「從頭到尾」的導入協助

透過 MetaAge 邁達特「從頭到尾」的協助,您的企業與團隊僅需幾個步驟,即可展開 Azure OpenAI 應用旅程,包括:

  1. 建立 Azure OpenAI 基礎知識 
  2. 申請 Azure OpenAI 引導體驗
  3. 學習 Azure OpenAI 的 API Fine Tune 方式
  4. 最終進入商業流程

針對上述每一個步驟階段,IT 智能化最佳夥伴- MetaAge 邁達特都可提供豐富且專業的顧問與支援服務,讓您在微軟最高安全保護級別之下,正式部署 AIGC 應用。

  1.  在申請階段,我們會梳理您的需求,協助設計應用流程。
  2.  在 Fine Tune 階段,我們會引導您熟悉 API 操作、模型優化並且建構流程管理機制,同時展開概念驗證(POC)。
  3.  到了 Go Live 階段,我們會協助您驗證前一階發起的 POC 成果。
  4.  在正式進入商業流程前,我們會協助您建構模型管理及流量管理機制。因為這些環節對企業而言至關重要。

掌握兩關鍵,輕鬆完成 Azure OpenAI 申請

Azure OpenAI 申請指南很簡單。企業要完成申請程序,僅有兩大關鍵:

  1. 需具備 Azure Subscrition ID。凡使用過 Azure 服務者,皆會有這個計費帳號。
  2. 填寫 Azure OpenAI 服務申請表。現在透過台灣微軟的支援,已將申請時間縮減為 1~2 天。

如果您的企業已有微軟帳戶,您可授權 MetaAge 邁達特成為雲端解決方案提供者,進而開啟 Azure Plan、取得 Azure Subscrition ID。若您沒有微軟帳戶,則可填寫申請表,由 MetaAge 邁達特協助建立微軟帳戶、啟動 Azure Plan,再取得 Azure Subscrition ID。

IT 智能化最佳夥伴 MetaAge 邁達特 — Microsoft 指定的台灣代理商

IT 智能化最佳夥伴- MetaAge 邁達特是 Microsoft 微軟原廠指定的代理商,邁達特具備 Microsoft 專業顧問團隊,可依照貴司環境提供適當的規劃、移轉方法和技術服務。若有任何 Microsoft Azure、M365、Power Automate、Power Platform、雲端託管 ⋯ 等相關需求或使用問題,歡迎您電洽 0800-008-669 或 填寫表單與我們聯絡,將有專人立即與您聯繫。

聯絡 我們