OpenAIが去年ひっそりとオープンソース化した20BパラメータのMoEモデルgpt-oss-20b。当時は誰も注目しなかった — OpenAIのスポットライトは常にクローズドソースのフラグシップにあるのだから。
だがコミュニティは忘れていなかった。誰かがTurboQuant 3-bitで量子化し、AppleのMLX推論フレームワークに組み込んで、かなり驚くべきことを発見した：20Bパラメータのモデルとは思えないほど滑らかに普通のMacBookで動く。
完全オフライン。ネット接続不要。月額料金不要。131Kコンテキストウィンドウ。
なぜこれが重要なのか
20Bパラメータは大きく聞こえるが、MoEアーキテクチャの活性化パラメータは総パラメータ数を大幅に下回る。gpt-oss-20bは推論ごとにエキスパートの一部のみを活性化し、実際の計算量は3-5Bのdenseモデルに匹敵する。
TurboQuantが重みを3-bitに圧縮し、モデルファイルは数百MBのみ。MLXはApple Silicon向けに深い最適化を行い、GPU上で直接実行、CPUを経由しない。
結果として：H100は不要、クラウドサーバーは不要、コンセントに繋ぐ必要すらない — M2 MacBook Airだけで推論が実行できる。
既存のローカル推論ツールと何が違うのか？Ollamaも小規模モデルを動かせるが、gpt-oss-20bの最大の優位性はOpenAI自身がトレーニングしたモデルだということだ。コミュニティがオープンソースデータで蒸留したものではなく、モデル品質は保証されている。
実測パフォーマンス
コミュニティのフィードバックは主にいくつかのシナリオに集中している：
コード補完とQA。gpt-oss-20bのHumanEvalスコアは一部の30Bレベルオープンソースモデルに匹敵。日常のコーディングアシスタントとしては十分だが、Claude CodeやGPT-5.5の代替は期待しないこと。
長文書処理。131Kコンテキストは本物だ。技術ドキュメント全体を読み込ませて要約させた人がいて、結果は良好だった。ただし、MoEモデルの超長コンテキストでのアテンション減衰問題は体系的に評価されていないので、鵜呑みにしないこと。
マルチターン会話。コンテキストが途切れないのが最大の体感優位性。ローカルで実行 means レートリミットなし — 好きなだけチャットできる。
対象ユーザーと制限
向いている人：
- オフライン環境で作業が必要な開発者（出張、機密環境）
- プライバシーに敏感でコードをクラウドに送りたくない人
- ローカルでプロンプトエンジニアリング実験をしたい人
向いていない人：
- 最高のコード品質が必要なプロダクション環境 — クラウドフラグシップモデルが必要
- Apple Silicon以外のユーザー — MLXはAppleチップのみ対応
- マルチモーダル機能が必要なユーザー — gpt-oss-20bはテキストのみ
ローカル推論の転換点
gpt-oss-20bがMacBookで快適に動作することは、ローカル推論が新しい段階に入ったことを示している：「なんとか動くが遅くて使えない」から「日常のメインアシスタントとして使える」へ。
次に注目すべき変数は量子化精度だ。3-bitですでに使える。2-bit量子化が品質損失を許容範囲に抑えられれば、モデルファイルはさらに半分になる。その時、M1 MacBookでも快適に動作するようになるだろう。
OpenAIはgpt-oss-20bのポジショニングを公式に宣伝していないが、コミュニティの使用パターンがすでに答えを出している：フラグシップモデルの代替ではなく、オフラインシナリオにおける合理的なフォールバックだ。
主な情報源：