MinIO 透過其分散式架構與物件儲存功能,為模型訓練與模型服務提供卓越效能。在模型訓練過程中,MinIO 的分散式設計允許平行數據存取與執行 I/O 操作,降低延遲並加快訓練速度。在模型服務方面,MinIO 的高吞吐量數據存取功能,確保 AI 模型數據能被快速檢索與部署,並以最低延遲進行預測。更重要的是,MinIO 的效能具備線性擴展力,可從數百 TB 擴展至數百 PB,甚至更多。這不僅優化了端到端的 AI 工作流程,也強化了模型開發與服務,使 AI 工作負載更加高效,應用程式反應更加靈敏。
此外,MinIO 於 2024 年 11 月 13 日正式推出全新商業版本 AIStor,專為 AI/ML 工作負載設計,展現 MinIO 致力於打造全球頂尖物件儲存解決方案的決心。透過專注於這類應用場景的開發,得以進一步提升對多種工作負載的支援,包括進階分析、資料湖倉一體、Hadoop 替代方案、應用程式負載,以及傳統的檔案歸檔與備份需求。
AIStor 在原有商業版本的基礎上,新增多項強大實用的功能,為使用者提供更全面且高效的解決方案:
這項全新 API 是 S3 API 的重要擴展,讓應用程式、開發人員與管理者能像與大型語言模型(LLM)互動一般,直接「對話」非結構化物件。此功能讓開發人員即使不具備 RAG 模型或向量資料庫的專業知識,也能大幅提升應用程式的功能性。
PromptObject 已整合至 AIStor 的 GUI 主控台 Global Console 和 MinIO 的 SDK 中,為應用程式的開發提供了無限的可能性。物件儲存的操作也從傳統的「PUT 和 GET」,進化為「PUT 和 PROMPT」。不僅簡化了 AI 應用開發流程,更使其具備強大的效能與功能。
AIHub 是專為 AIStor 設計的私有儲存庫,用於直接儲存 AI 模型和資料集。其 API 與 Hugging Face 完全相容,讓企業能在私有雲或封閉網路(air-gap)環境中,建立專屬的資料與模型儲存庫,而不需修改任何程式碼。此私有化設計有效杜絕企業機敏資料或模型外洩的風險。此外,其他整合範例還包括利用 vLLM 部署微調模型,進一步提升靈活性與應用價值。
MinIO 的使用者介面進行全面改版,透過單一管理平台整合多項功能,包括 IAM、ILM、負載平衡、防火牆、安全性、快取、資料複製與編排管理。新版控制台還加入全新的 MinIO Kubernetes 運算子,大幅簡化了管理大規模 IT 基礎設施的流程,無論是數百台伺服器還是數萬顆硬碟,均能高效運作。