Kubernetes 把 OCI image 直接掛成唯讀 volume,取代 initContainer 複製
翻自己叢集裡的推論服務 manifest,發現同一段樣板被複製了七次:一個 initContainer 拉一包裝著模型權重的 image,cp -r /src/. /models/,再讓主容器從 emptyDir 讀。每個服務都寫一次,每次換模型版本都要同步改兩個地方,而且節點上永遠躺著兩份一樣的權重檔——一份在 im…
標籤「containerd」相關文章共 2 篇 — Tony.Wu Blog
翻自己叢集裡的推論服務 manifest,發現同一段樣板被複製了七次:一個 initContainer 拉一包裝著模型權重的 image,cp -r /src/. /models/,再讓主容器從 emptyDir 讀。每個服務都寫一次,每次換模型版本都要同步改兩個地方,而且節點上永遠躺著兩份一樣的權重檔——一份在 im…
很多剛從傳統 VM 環境轉到 Kubernetes 的 SRE,第一個會延續下來的習慣就是:kubectl exec -it 進容器,然後 tail -f /var/log/app.log。在十幾個 Pod 的 dev 環境這樣搞還行,但 cluster 一旦長到一兩百個節點、每天上千次發版、Pod 隨時被驅逐重排,這…