モデルを手元の環境で動かす
「外部にデータを送らず AI を使いたい」
この目的で選ぶときに見る軸
- 必要メモリ・GPU
- 対応モデル
- 速度
下の表の「主要制約」は各ツールで最も先に当たる制約。軸ごとの値はツール詳細の制約表で確認する。
この目的に使える手段(2件)
| ツール | 分類 | 種別 | 学習 | 料金 | 成熟 | 主要制約 | 検証 |
|---|---|---|---|---|---|---|---|
| Ollama LLMを手元のPC・サーバーで動かす、OSSのローカル実行ランタイム | AI・機械学習 | ツール | 低 | 無料 | 成長中 | 既定のコンテキストウィンドウ:4,096トークン(OLLAMA_CONTEXT_LENGTH 環境変数か num_ctx パラメータで変更可能) | |
| Hugging Face 機械学習モデル・データセットを共有し、推論も呼び出せるハブ兼API | AI・機械学習 | マネージドサービス | 中 | 無料枠あり | 成長中 | 無料プランの推論クレジット(Inference Providers):無料ユーザーは月$0.10相当のクレジット(変更の可能性あり)。PROユーザーは月$2.00 |