airunway-aks-setup
空の AKS クラスターに AI のモデルを載せて、推論の窓口が動くところまで 6 段で進めさせる。GPU を調べて、載るモデルの大きさと推論の仕組みを選ぶ。入れる前に毎回確認を取る
npx skills add microsoft/azure-skills/airunway-aks-setup入れる前にこのスキルがすること・注意点・SKILL.md の原文を確かめてください。解析は安全性の判定ではありません。
- インストール
- 366,132
- 実用度
- 62
- GitHub star
- 1,623
- 最終更新
- 2026/11/7
頼み方の例
そのままコピーして使えますairunway-aks-setupスキルを使って、いま接続している AKS クラスターを点検してください。ノードと GPU の一覧、載せられるモデルの大きさの目安、勧める推論の仕組みを報告してください。何もインストールしないでください。
対象のファイルや状況は、ご自身の作業に合わせて置き換えてください。
このスキルがすること
SKILL.md の記述から機械的に抽出- シェルコマンドを実行する記述があります
これは安全性の判定ではありません。 SKILL.md にそう書かれているという事実だけを並べています。実際に問題があるかは使い方と文脈で決まるため、当サイトでは断定しません。導入前に SKILL.md の原文を確認してください。
SKILL.md の規模
いつ使うか
Azure の Kubernetes(AKS)で、自前の LLM を動かしたいときに効きます。AI Runway という、モデルの配置を 1 つの定義(ModelDeployment)で扱う仕組みを入れ、最初のモデルが応答するところまで順に進めます。
- 点検接続先の確認、ノードと GPU の一覧
- 制御役AI Runway の本体を入れる
- GPU の評価型番ごとの注意(古い GPU は bfloat16 が使えない、など)
- 推論の仕組みKAITO・Dynamo・KubeRay から選んで入れる
- 最初のモデルGPU の容量に合うモデルを選び、
Readyまで待つ - まとめ窓口に試しに問い合わせて、応答を確かめる
途中から再開できる
skip-to-step N で途中から再開できます。済んでいる段は、状態を報告して飛ばします。
GPU からモデルを選ぶ
資料に、GPU ごとの推奨のモデルが 6 行並んでいます。主な 5 件を挙げます。
- GPU なしGemma 3 1B(量子化版。CPU で動く)
- T4 1 枚(16GB)Phi-3 mini
- A10G か L4 1 枚(24GB)Llama 3.1 8B(トークンが要る)
- A100 40GB 1 枚Phi-3 medium
- A100 80GB 4 枚Llama 3.1 70B(複数の GPU に分割)
推論の仕組みは、迷ったら KAITO
推論の仕組みは迷ったら KAITOという方針です。
KAITO
迷ったらこれ
Dynamo
大量の処理を段ごとに伸ばしたいチーム向け
KubeRay
すでに Ray を使っているチーム向け
使わないほうがいいとき
クラスターがまだ無いとき
このスキルは作成済みのクラスターが前提です。本文も、先に azure-kubernetes でクラスターを作ってから戻るよう書いています。
用意されたモデルを API で呼ぶだけのとき
GPU のノードを自分で持つ構成です。モデルを呼ぶだけなら、Azure のモデルの提供サービスを使うほうが手間も費用も小さく済みます。
動いている推論が不調なとき
障害の切り分けは azure-diagnostics が関連のスキルに挙がっています。
注意点
解析で見つかったこと
SKILL.md の解析では、シェルコマンドの実行の記述が見つかっています。同梱ファイルは 11 件で(2026-10-12 確認)、6 段それぞれの手順、GPU の一覧、モデルの大きさの目安、PowerShell での書き方、障害の対処です。
初めの GPU のノードや推論の設定まではこのスキルが受け持ちます。すでに動いている GPU や推論の障害(Day-2)は、追加で入れる aks-gpu-inference に任せる作りで、そのときだけ案内の資料を読みます(2026-10-12 確認)。
GPU のノードは高額
AI Runway のリポジトリが手元に要る
制御役と推論の仕組みは、リポジトリの最上位で make を実行して入れる手順です。ところが、どこから取ってくるかは書かれていません。
AI Runway の置き場所は GitHub の ai-runway/airunway です(旧 kaito-project/airunway から移っています。2026-10-09 確認)。
入れる前に毎回確認を取る
「インストールや配置の前には利用者の確認を取れ」という決まりがあり、各段の状態を ✓ と ✗ で報告してから進みます。戻し方も資料にあり、モデル・トークン・推論の仕組み・制御役の順に消す手順が並んでいます。
トークンを履歴に残さない書き方
Llama のような利用に申請の要るモデルは、Hugging Face のトークンが要ります。手順では、画面に表示せずに読み取り、権限を絞った一時ファイルを経由して Kubernetes のシークレットに入れます。
インストール数
インストール数は約 31 万件です。同じリポジトリの 28 件は約 8 万〜57 万件で、2 つの塊に分かれています(2026-09-07 の上流集計)。この公開元のスキルの関係は Azure のスキル群の地図にまとめています。
インストール数の推移
日次で記録9月18日 〜 11月7日(49日分)
インストール数と 1 日あたりの増加は Skillselion が に集計した値です。上流の更新は数日おきなので、前日比ではありません。GitHub star と最終更新は に GitHub から取得しました。
併用すると強いスキル
よくある質問
大きなモデルがなかなか Ready になりません
資料によると、13B 以上のモデルは重みのダウンロードに 10 分以上かかることがあり、70B なら 20〜40 分以上が目安です。失敗と決めつける前に、Pod のログでダウンロードが進んでいるかを見るよう書かれています。
T4 の GPU でエラーが出ます
T4 と V100 は bfloat16 を扱えません。起動の引数に --dtype float16 を足すよう書かれています。V100 は注意の計算の方式も限られるので、xformers を使います。
どれくらいの大きさのモデルが載りますか
資料の目安では、float16 で 7〜8B が約 14〜16GB、70B が約 140GB です(重みだけ)。推論中の作業領域として、さらに 2〜3 割を足して見積もります。A100 80GB を 4 枚なら合計 320GB で、70B が分割して載る計算です。
GPU の割り当てが足りないと言われます
Azure では GPU の型ごとに使える量の上限(クォータ)があります。上限の確認と引き上げの申請は、同じ公開元の azure-quotas の担当です。