Kubernetes 叢集

把 Kubernetes 叢集,變成團隊的算力

在平台建立或接入 Kubernetes 叢集,使用者只要建專案、按執行、看結果。

自建叢集
Kubernetes 示意
平台 工作
Master Node 01
VIP Master Node 02
Master Node 03
Worker Node 01
Worker Node 02
Worker Node 03

自建叢集

叢集,在主控台點幾下就建好

不用寫設定檔、不用背指令。選機器、分角色、按建立,平台把 Kubernetes、GPU 元件與共用儲存一次裝好。

  1. 選機器

    勾選要加入叢集的機器與共用儲存。

    選機器
    選機器
  2. 選 Master Node 與 VIP

    指定 Master Node;多台 Master 共用一個 VIP,一台停機,叢集照常運作。

    選 Master Node 與 VIP
    選 Master Node 與 VIP
  3. 名稱與儲存

    替叢集取名,選好專案資料要放的共用儲存。

    名稱與儲存
    名稱與儲存
  4. 安裝前總檢查

    每台機器的系統、網路、磁碟一次檢查完,有問題當場說明。

    安裝前總檢查
    安裝前總檢查
  5. 建立

    每一步的進度都看得到;有顯示卡的機器自動裝好 GPU Operator。

    建立
    建立
  6. 完成

    叢集出現在平台上,馬上可以開專案使用。

    完成
    完成

接入叢集

已經有叢集?直接接入

貼上一次管理員設定,平台會在叢集裡建好自己的工作範圍,之後只在這個範圍內工作,不動您原本的服務。

  1. 貼上管理員設定

    由叢集管理員提供設定,在平台貼上一次。

  2. 建好平台的工作範圍

    平台會在叢集裡建好自己的工作範圍,不動您原本的服務。

  3. 專案有自己的空間與額度

    CPU、記憶體、GPU 用多少,管理員說了算。

平台接入既有 Kubernetes 叢集
平台接入既有 Kubernetes 叢集

日常維運

叢集的日常,在主控台處理

從調整節點到備份與還原,管理員在同一個地方掌握進度。

加減節點

需要更多算力就加入機器,也能移除不再使用的節點。

滾動升級

依序升級節點,在主控台查看各步進度。

備份與還原

建立叢集備份,需要時從主控台還原。

自動維護

例行維護自動處理,管理員在主控台查看狀態。

斷網安裝

事先備妥安裝所需檔案,沒有外網的環境也能建立叢集。

主控台叢集管理:節點、升級、備份與還原
主控台叢集管理:節點、升級、備份與還原

GPU

一張 GPU,也能分著用

管理員決定每個專案能用幾張卡、要獨佔還是共用;支援 MIG 的卡還能切成幾份。Docker 與叢集的用量都在同一個畫面看。

GPU Operator 自動裝好

有顯示卡的機器自動裝好 GPU Operator。

獨佔

整張卡只給一個專案。

共用

多個專案輪流使用,平台幫忙排隊。

MIG 切分

一張卡切成幾份,同時給不同任務。

GPU資源監控:Docker 主機與叢集的顯示卡在同一頁
GPU資源監控:Docker 主機與叢集的顯示卡在同一頁

叢集工具

看清叢集,也看得到每次執行

從叢集狀態到任務結果,都在平台裡查看。

叢集-K8s 管理工具

查看工作負載、節點與事件,掌握叢集的運作狀態。

叢集-K8s 管理工具
叢集-K8s 管理工具

任務在叢集上執行

同一個表單、同一份結果、同一個終端機。任務的輸出回到專案資料夾。

任務在叢集上執行
任務在叢集上執行

共用儲存

資料跟著任務走

在主控台登記一次 NAS,每台主機與叢集節點自動掛上;任務跑在哪一台,都讀得到同一個專案資料夾。

主控台共用儲存設定
主控台共用儲存設定

從一台開始,用到整座叢集

裝好就能用;需要更多算力時,再加主機或叢集。

導入諮詢