簡易步驟快速建立(個人/團隊)ML環境
彈性IT資源共享、額度限制、工作排程
IT環境隔離、SSH Key或密碼登入環境
帳號/儲存整合，批次、預約申請作業
1. AI-STACK 是多人共用的 AI 運算平台，提供多 GPU 伺服器的算力調度協同管理，透過統計圖表，可輕鬆掌握GPU資源的配置狀況，有效提升利用率，同時可追踨每個使用歷程，建立費用攤提依據。
2. 透過 AI-Stack 可降低 AI 學習門檻，創造開機立即可用、硬體高度整合、軟體最佳搭配的使用經驗。
3. AI-Stack 具有高度可擴張性，能協助政府、學校與企業發展不同階段的 AI 工作，讓想要發展 AI 的客戶可用最適的預算，簡單快速的開始進行 AI 實驗與開發，並保留日後發展擴充的彈性，從建立 AI lab、資料準備、AI 訓練、AI 推論到資料提取均可依客戶需求進行規劃。
1. 使用Kubernetes與Docker容器化技術管理
2. 可同時管理多台GPU伺服器、混GPU卡環境
3. 整合公有雲快速擴充GPU資源
1. 簡易步驟快速建立(個人/團隊)ML環境
2. 提供Jupyter Notebook、JupyterLab開發工具
3. 支援NGC AI深度學習框架，支援自製鏡像
1. 支援Single Sign-On(SSO)，可介接LDAP/AD/OpenID/Oauth2
2. 運算資源隔離，SSH安全殼層防護，可設定IP白名單
3. 簽核系統可依部門層級或專案需求建群組、權限、額度
1. 可批次建立容器，安排預約申請作業，批次任務定期排程
2. 提供多人多容器建立在單一GPU卡上運行
3. 支援儲存服務(eg. NFS、S3)
1. 平台提供Web操作介面與統一用戶入口門戶(user portal)，以圖形化方式進行深度學習容器自助式申請建立容器與日常操作。
2. 平台能對不同使用者進行資源自動分配與部署，以及可支援不同深度學習框架。
3. 平台內建 NVIDIA 優化之常用 TensorFlow 、Caffe 、PyTorch、MXnet、RAPIDS 之 AI 框架，以Chainer與TensorRT，並具備 AI 框架擴充設計。
4. 平台流程管控與自動化內建符合OMG開放性業務流程三個標準(BPMN、CMMN及DMN)的流程引擎，以便自動化服務流程的建立、調整及管理與資源申請之簽核功能。
5. 本平台環境需求為Ubuntu18.04,搭配NVIDIA Driver,NVIDIA CUDA (10.0以上),NCCL,cuDNN等技術提供AI機器學習訓練服務,並使用NVIDIA Docker與Kubernetes進行GPU容器管理。
AI-Stack提供企業建構自給自足、可控可管、可共享、可橫向擴容的私有雲AI運算環境，為企業提供可靠強大、具成本競爭力、高資源效率與效益的AI計算資源池，透過支援GPU和AI流程自動化，減少維護、調整與部署的時間。
| 決策者與管理者 | 機器學習專業工作者 |
| 為管理GPU伺服器作為機器學習運算資源的團隊，提供： (1) 有效的GPU資源池管理能力 (層級資源權限管理、資源監控、管理報表等)。 (2) 安全可控的GPU資源共享環境，提升資源利用率 (互動開發模式與批次任務排程模式)。 (3) 團隊高效協作的單一平台，提升團隊協作生產力 (批次作業環境創建分發、image模板)。 |
為數據科學家/工程師提供： 一個便利獨立與協作開發/研究的工作環境，大幅減少原本占用達35%工作量的開發環境準備時間，使專業人員能將更多時間花在模型開發、測試、訓練與優化上，提高個人與團隊產出。 |
| 數據中心與AI資源管理者 | 教生與研究人員 |
| 為管理GPU伺服器作為機器學習運算資源的團隊，提供： (1) 有效的GPU資源池管理能力 (層級資源權限管理、資源監控、管理報表等)。 (2) 安全可控的GPU資源共享環境，提升資源利用率 (互動開發模式與批次任務排程模式)。 (3) 團隊高效協作的單一平台，提升團隊協作生產力 (批次作業環境創建分發、image模板) |
為教師授課提供： (1) 高效的教學環境，可批次創建、自動自發、自動回收GPU容器資源，節省備課與切換教學環境時間。 (2) 可重複利用平台內提供的多組 AI Framework，進行授課教學與學生練習，免除反覆安裝各式 AI Frameworks的準備工作。 為學生及研究人員提供：便利的系統與環境自動化部署工具，可減少原本占用達35%工作量的重複性機器學習工作環境準備時間，能將更多時間花在學習、開發、測試、訓練與優化模型上，提高學習研究的成果與產出。 |
• 簡單清晰的儀表板
• 提供圖形選單界面的機器學習服務功能
