目的:AI・機械学習を使う

モデルを手元の環境で動かす

「外部にデータを送らず AI を使いたい」

この目的で選ぶときに見る軸

  1. 必要メモリ・GPU
  2. 対応モデル
  3. 速度

下の表の「主要制約」は各ツールで最も先に当たる制約。軸ごとの値はツール詳細の制約表で確認する。

この目的に使える手段(2件)

モデルを手元の環境で動かす を持つツールの比較
ツール分類種別学習料金成熟主要制約検証
Ollama
LLMを手元のPC・サーバーで動かす、OSSのローカル実行ランタイム
AI・機械学習ツール無料成長中既定のコンテキストウィンドウ:4,096トークン(OLLAMA_CONTEXT_LENGTH 環境変数か num_ctx パラメータで変更可能)
Hugging Face
機械学習モデル・データセットを共有し、推論も呼び出せるハブ兼API
AI・機械学習マネージドサービス無料枠あり成長中無料プランの推論クレジット(Inference Providers):無料ユーザーは月$0.10相当のクレジット(変更の可能性あり)。PROユーザーは月$2.00