どんな話?
自分で選んだAIを呼び出せるようにする4つの道具を、公式の説明書と公式の GitHub を読んで整理した回です(実機の操作はしていません)。vLLM と Flash は Serverless の上に窓口を作る道具で、REST API と MCP は Runpod を操作する道具。vLLM の窓口は ChatGPT と同じ形で呼べ、書きかえるのは行き先・鍵・モデルの名前の3か所。起きるまで・仕事中・仕事のあとの待ち時間にお金がかかります。最後に「窓口の選び方メモ」を1枚書きました。
自分で選んだAIを呼び出せるようにする4つの道具を、公式の説明書と公式の GitHub を読んで整理した回です(実機の操作はしていません)。vLLM と Flash は Serverless の上に窓口を作る道具で、REST API と MCP は Runpod を操作する道具。vLLM の窓口は ChatGPT と同じ形で呼べ、書きかえるのは行き先・鍵・モデルの名前の3か所。起きるまで・仕事中・仕事のあとの待ち時間にお金がかかります。最後に「窓口の選び方メモ」を1枚書きました。
記事を読みながら、できたものにチェックを付けていけます。チェックはこの端末に残ります。
ぜんぶできた!おつかれさまでした。
くわしい手順と画面の図は、Xの記事にあります。