AI・最新技術
Bonsai 2とは?自分のPCで動くAIの特徴と始め方
AIに文章を要約してほしい。でも、毎回クラウドへ送る以外の選択肢も知りたい。Bonsai 2 27Bは、自分のPCで文章や画像を処理するためのAIモデルです。注目点は、27Bクラスのモデルを小さくして、手元の機器で試せる範囲を広げたこと。チャットサービスへの登録だけで使い始める製品ではなく、対応する実行ソフトを用意します。
Bonsai 2の何が新しい?
PrismMLが2026年9月17日に発表した、Qwen3.8 27Bをもとにしたモデルです。公式発表では約5.9GBのサイズで、元モデルの総合ベンチマーク性能の98.2%を維持したとしています。これは提供元が20種類のテストをまとめた比較です。どの日本語の質問にも98.2%正解する、という意味ではありません。公式発表で比較条件を確認できます。
サービス側でAIを動かす
PC側でAIを動かす
図は処理場所の概念図です。ローカルの利点は、モデルの推論を自分の機器で行えること。一方で、導入・更新やPCの負荷も自分で管理します。外部検索や別のサービスをつなげれば、その機能の通信は別に発生します。
何に使う?まずは文章と画像を1件ずつ
公式資料はテキストに加え画像入力にも対応すると説明しています。例えば、短いメモから決定事項を拾う、スクリーンショットに書かれた項目を整理する、といった用途が試す候補です。最初は正解を自分で確かめられる材料を使うと、普段の作業に合うか判断できます。公式のモデル紹介では、旧モデルを含む構成も確認できます。
次の文は当サイトで作成した練習用入力例です。実行結果ではありません。
以下のメモを「決まったこと」「未定のこと」に分けてください。 メモにない情報は補わず、各項目を1行にしてください。 メモ:次回の打ち合わせは10月6日14時。 場所は未定。資料は田中さんが前日までに共有。 参加人数はまだ確認できていない。
日時と資料の担当・期限が残っているか、場所や人数を勝手に埋めていないかを見ます。次に自分の用途に近い、公開してよい文章で試します。導入できたことと、仕事に使える精度が出たことを分けて評価しましょう。
約5.9GBなら、メモリ6GBで足りる?
モデルのサイズだけでPCは選べません。会話を保持する領域、画像処理、実行ソフト、OSにもメモリが必要です。長い文章を一度に渡す場合と、短い質問1件では使用量が変わります。
| 確認するもの | 理由 |
|---|---|
| モデルの形式・配布ファイル | 同じBonsai 2でも容量と実行方法が異なる |
| PCの空きメモリ | モデル本体以外の処理領域が必要 |
| ディスクの空き | モデルと実行環境の保存に使う |
| 使う文章の長さ | 長い会話ほど追加メモリが必要になりやすい |
配布元のGGUFモデルカードで形式とファイルを確認してください。見出しの数字だけを根拠にPCを買うのではなく、まず手元の機器と公式の対応環境を照合するのが先です。
公式デモから始める手順
2026年9月20日時点、Bonsai 2のGGUF版にはPrismMLの対応版llama.cppが必要です。旧Bonsaiが動いたソフトでも、そのまま対応するとは限りません。公式Bonsai-demoは、対応する実行環境を取得する入口です。
- 公式デモのQuick Startで、自分のOSの手順を確認します。
- macOS/Linuxはリポジトリを取得した後、セットアップスクリプトで必要ファイルを用意します。
- チャット用のサーバーを起動し、PC内のブラウザー画面を開きます。
- 短い日本語の入力例を1件送り、内容と応答時間を確かめます。
macOS/Linuxの基本操作は以下です。Gitなどの必要環境は公式Quickstartで確認してください。セットアップは依存ソフトやモデルをダウンロードします。
git clone https://github.com/PrismML-Eng/Bonsai-demo.git cd Bonsai-demo ./setup.sh ./scripts/start_llama_server.sh
起動後、ブラウザーで http://localhost:8080 を開きます。Windowsには別のPowerShell手順があるため、上のコマンドをそのまま使わず公式のWindows欄へ進んでください。
無料で使える範囲と、導入を待ってよい場合
モデルはApache 2.0ライセンスで公開されています。手元で動かす場合も、機器・電力・導入の手間は必要です。外部サービスを追加すれば、その利用条件は別になります。
日本語の短い相談をすぐ使いたいだけなら、使い慣れたチャットサービスを続ける選択もあります。Bonsai 2は、処理場所を自分で選びたい人や、ローカルAIを開発に使いたい人の検討候補です。まず1件の入力が目的に合うか確かめてから、長文やツール連携へ広げてください。
AIの役割を比較したい方には、選択や分類に特化したJevの解説もあります。自動化を画面上で組み立てたい方は、MakeのMaiaの仕組みをご覧ください。