AI レポート · Amazon · 2026-10-22 · ブログ・論評
Amazon SageMaker AIのTTS向けオートスケーリング目標、推測で決めるのはやめる
原題: Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
Amazon SageMaker AIでカスタムテキスト読み上げモデルをデプロイするチームはオートスケーリングのしきい値を推測で決めがちで、外れればGPUコストの無駄かレイテンシSLO違反のどちらかを招く。本稿ではKokoro-82MをカスタムコンテナとしてSageMaker AIのリアルタイムエンドポイントにデプロイし(AWS CDKスタックがデプロイを担う)、ライブエンドポイントに対する2つの実測値、Q_max(1インスタンスがSLOを守れる最大の同時実行数)とT_total(スケールアウトに端から端までかかる時間)から、スケールアウトしきい値、スケールインしきい値、両方のクールダウンを算術的に導出する。掲載される数値はすべて実際のデプロイと計測に基づいている。