GKEでTPUの「ダイナミックスライシング」、大規模AI処理の耐障害性と効率を向上

Google Cloud は、GKE（Google Kubernetes Engine）で TPU（Google のAI用チップ）を使うための「ダイナミックスライシング」の一般提供を始めました。

これまで GKE Standard で TPU を使うには、TPU スライス（チップのまとまり）の構成ごとに、決まったノードプール（サーバーのグループ）を用意する必要がありました。起動に時間がかかり、1つのノードプールで複数のAI処理を動かせず、必要が変わるたびにノードプールを作り直す手間もありました。ハードウェアの1か所の故障でスライス全体が止まるなど、障害の影響の範囲も広くなっていました。

新しい機能は、物理的なノードプールの用意と、論理的なスライスの組み立てを切り離します。スライスごとに決まったノードプールを作る方式と比べ、処理の起動が最大5倍、障害からの復旧が4.5倍速くなり、TPU を無駄なく使えるとしています。