PowerToysをAIチャットボットに変えました。あなたもできます。すべてのAIチャットをローカルマシンで

AIはどこにでも存在します。私たちはそこから逃れることはできません。そして、AIには様々なネガティブな側面があるにもかかわらず、AIが日々の生活を少し楽にしてくれる実用例は数多くあります。
チャットボットは最も一般的な AI ツールの 1 つですが、ChatGPT や Copilot などはクラウドへの接続に依存しています。
ただし、これは AI LLM を使用する唯一の方法ではありません。現在では、テクノロジーをローカル マシンに導入するために設計された、使いやすいさまざまなツールが用意されています。
これらの 1 つを、Windows 11 スタート メニューの最良の代替手段であり、ぜひ試していただきたい PowerToys Run のサードパーティ プラグインと組み合わせると、簡単なキーボード ショートカットでアクセスできるローカル AI チャットボットが作成されます。
設定には少し手間がかかり、今のところ特に高速というわけではありませんが、少なくとも概念実証は素晴らしいです。私も試してみて、PowerToys Run AIチャットボットを自分で作成しましたが、これは本当に素晴らしいアイデアだと思います。
PowerToys + Ollama = Windows 11 PC 上のどこにでもローカル AI チャットボット
PowerToys Run は純粋にフロントエンドとして機能します。LLM を実行するツールである Ollama と連携するために、サードパーティ製のプラグインを使用します。
そのため、これを試す前に両方をインストールする必要があります。それほど難しくはなく、Ollama GitHubリポジトリから始めるのが良いでしょう。ただし、最高のパフォーマンスを得るには、サポートされているAMDまたはNVIDIA GPUが必要です。
Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。
OllamaはデフォルトでCLIツールなので、使用するにはターミナルを開く必要があります。GUIを追加するためのオプションもありますが、ここでの作業には必要ありません。
インストールが完了したら、プラグインがデフォルトで使用するように設定されているLlama 3.1をダウンロードしてください。ターミナルウィンドウでPowerShellを開き、次のコマンドを入力します。
ollama pull llama3.1
Llama 3.1は最新版ではありませんが、プラグインを最小限の手間で試してみたい場合は、ダウンロードすることをお勧めします。プラグインで使用するLLMは、PowerToysアプリのプラグイン設定で変更できます。お好みのLLMに変更してください。
もちろん、このためにはPowerToys-Run-LocalLLmmというプラグインもインストールする必要があります。GitHubリポジトリからダウンロードし、PowerToys RunプラグインがインストールされているPCの場所に解凍するだけです。
たとえば、私の PC では次のパスをたどります。
LOCALAPPDATA%\Microsoft\PowerToys\PowerToys Run\Plugins
その後、変更を有効にするには、必ず PowerToys を終了して再起動してください。
使いやすく、Windows 11 PC に AI を統合する方法の優れた例です。
PowerToys Runで選択したLLMを起動するには、「llm」と入力し、その後にクエリを入力します。短い回答であれば、生成にそれほど時間はかかりません。長い場合は、少しお待ちいただくことになります。
私の知る限り、これはレスポンス全体を一度を出力するためだと思います。ターミナルでOllamaを使うと、単語ごとに出力されるのが確認できます。つまり、タイミングはそれほど変わらないでしょう。ただ、何も起こっていないように見えるだけです。
そのため、脳は「遅い」と認識するでしょう。確かに確かに遅いですが、理由がないわけではありません。そして当然、ハードウェアも影響してきます。私はOllamaを使えるRTX 5080を持っています。性能の低いハードウェアだと、間違いなく待ち時間が長くなります。
すぐに使えるもう一つの問題は、レスポンスが長すぎると途中で切れてしまうことです。プラグインはスクロールを誘発しないため、PowerToys Run のボックスを大きく設定する必要があります。
PowerToysのメインアプリの設定で、「スクロール前に表示される結果の数」というオプションを増やす必要があります。このプラグインではスクロールはできませんが、結果を表示するボックスが大きく表示されます。
この投稿の画像は、この設定を10に設定しています。数値を大きくするほど、スペースが増えます。それでも切り取られてしまう場合は、少なくともコピーボタンをクリックして全体をコピーし、テキストエディタに貼り付けてください。
とはいえ、全体的にはまさにWindows 11で日常的に使いたいタイプの設定です。MicrosoftがPowerToysを作っているのなら、なぜCopilotを組み込まないのでしょうか?結局のところ、他のすべてのものに詰め込まれているのですから。
重要なのは、PowerToys RunがWindows 11でおそらく他のどのツールよりもよく使っているということです。AIを使うためにワークフローから外れるのではなく、このツールはAIを統合してくれます。しかも、他人のクラウドではなくローカルで実行されるという利点もあります。私はこれに全面的に賛成です。
リチャード・ディバインは、10年以上の経験を持つWindows Centralの編集長です。元プロジェクトマネージャーであり、長年のテクノロジー愛好家でもある彼は、2011年にMobile Nationsに入社し、Windows Centralに加え、Android CentralやiMoreでも活躍しています。現在は、このサイトであらゆる種類のPCハードウェアとレビューの取材を担当しています。Mastodonでは、mstdn.social/@richdevine でフォローできます。