OpenClawSkills
GitHub
Gateway / Operations • 5分で読める

ローカルモデル

ローカル LLM(LM Studio、vLLM、LiteLLM、カスタム OpenAI エンドポイント)で OpenClaw を動かします。

ローカルは実現可能ですが、OpenClaw は大きなコンテキストと即時インジェクションに対する強力な防御を期待します。小さなカードはコンテキストを切り捨て、安全性を漏らします。目標は大きく:''≥2 個の最大の Mac Studio または同等の GPU リグ(約 3,000 ドル以上)''。単一の ''24 GB'' GPU は、レイテンシが高いより軽量なプロンプトにのみ適しています。''実行できる最大/フルサイズのモデル変体''を使用してください。積極的な量子化または「小」チェックポイントは、即時インジェクションのリスクを増加します(''セキュリティ''を参照)。

Tutorial.step

推奨:LM Studio + MiniMax M2.1(Responses API、フルサイズ)

現在最高のローカルスタック。LM Studio で MiniMax M2.1 をロードし、ローカルサーバーを有効にします(デフォルト ''http://127.0.0.1:1234'')、Responses API を使用して推論と最終テキストを分けます。

Json5
{
  agents: {
    defaults: {
      model: { primary: "lmstudio/minimax-m2.1-gs32" },
      models: {
        "anthropic/claude-opus-4-5": { alias: "Opus" },
        "lmstudio/minimax-m2.1-gs32": { alias: "Minimax" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "minimax-m2.1-gs32",
            name: "MiniMax M2.1 GS32",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
}

セットアップチェックリスト

- LM Studio をインストール:https://lmstudio.ai

- LM Studio で、''最大の MiniMax M2.1 バージョン''をダウンロードします(「小」/大量量子化された変体を避けるため)、サーバーを起動し、''http://127.0.0.1:1234/v1/models'' でリストされていることを確認してください。

- モデルをロードしたままにします;コールドロードは起動レイテンシを増加します。

- LM Studio のバージョンが異なる場合、''contextWindow''/''maxTokens'' を調整してください。

- WhatsApp の場合、最終テキストのみを送信するために Responses API を使用してください。

現在最高のローカルスタック。LM Studio で MiniMax M2.1 をロードし、ローカルサーバーを有効にします(デフォルト ''http://127.0.0.1:1234'')、Responses API を使用して推論と最終テキストを分けます。

ローカルで実行している場合でも、ホストされたモデルの設定を維持します。''models.mode: "merge"'' を使用して、フォールバックが利用可能になります。

Tutorial.step

ハイブリッド設定:ホストメイン、ローカルフォールバック

Json5
{
  agents: {
    defaults: {
      model: {
        primary: "anthropic/claude-sonnet-4-5",
        fallbacks: ["lmstudio/minimax-m2.1-gs32", "anthropic/claude-opus-4-5"],
      },
      models: {
        "anthropic/claude-sonnet-4-5": { alias: "Sonnet" },
        "lmstudio/minimax-m2.1-gs32": { alias: "MiniMax Local" },
        "anthropic/claude-opus-4-5": { alias: "Opus" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "minimax-m2.1-gs32",
            name: "MiniMax M2.1 GS32",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
}

#

Tutorial.step

ローカル優先、ホストされたセーフティネット付き

プライマリ順序とフォールバック順序を交換します。同じプロバイダーブロックと ''models.mode: "merge"'' を維持します。これにより、ローカルボックスがダウンした場合、Sonnet または Opus にフォールバックできます。

#

Tutorial.step

リージョナルホスト/データルーティング

- ホストされた MiniMax/Kimi/GLM 変体も、リージョン固定エンドポイントを持つ OpenRouter 上に存在します(例:米国ホスト)。そこでリージョナル変体を選択して、選択した管轄内にトラフィックを保ちながら、''models.mode: "merge"'' を使用して Anthropic/OpenAI フォールバックを行います。

- ローカルのみは依然として最強のプライバシーパスです。プロバイダ機能が必要だがデータフローを制御したい場合、ホストされたリージョナルルーティングは中間的な立場です。

Tutorial.step

その他の OpenAI 互換ローカルプロキシ

''models.mode: "merge"'' を維持して、ホストされたモデルがフォールバックとして利用可能になります。

Json5
{
  models: {
    mode: "merge",
    providers: {
      local: {
        baseUrl: "http://127.0.0.1:8000/v1",
        apiKey: "sk-local",
        api: "openai-responses",
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 120000,
            maxTokens: 8192,
          },
        ],
      },
    },
}

''models.mode: "merge"'' を維持して、ホストされたモデルがフォールバックとして利用可能になります。

Tutorial.step

トラブルシューティング

- ゲートウェイはプロキシに到達できますか? ''curl http://127.0.0.1:1234/v1/models''

- LM Studio モデルがアンロードされましたか?再ロードしてください。コールドスタートは一般的な「ハング」の原因です。

- コンテキストエラー? ''contextWindow'' を下げるか、サーバー制限を上げてください。

- セキュリティ:ローカルモデルはプロバイダ側のフィルターをバイパスします。プロンプトを狭くコンパクトに保ち、急速なインジェクションブラスト半径を制限してください。