PowerToysをAIチャットボットに変えました。あなたもできます。すべてのAIチャットをローカルマシンで

  • abmhh
  • 0 comments
PowerToysをAIチャットボットに変えました。あなたもできます。すべてのAIチャットをローカルマシンで
Llama 3.1にPowerToys Runを使ってWindows 11でPythonをセットアップする方法を尋ねる
高速ではなく、セットアップに少し手間がかかりますが、アイデアは非常に有望です。 (画像提供:Windows Central)

AIはどこにでも存在します。私たちはそこから逃れることはできません。そして、AIには様々なネガティブな側面があるにもかかわらず、AIが日々の生活を少し楽にしてくれる実用例は数多くあります。

チャットボットは最も一般的な AI ツールの 1 つですが、ChatGPT や Copilot などはクラウドへの接続に依存しています。

ただし、これは AI LLM を使用する唯一の方法ではありません。現在では、テクノロジーをローカル マシンに導入するために設計された、使いやすいさまざまなツールが用意されています。

これらの 1 つを、Windows 11 スタート メニューの最良の代替手段であり、ぜひ試していただきたい PowerToys Run のサードパーティ プラグインと組み合わせると、簡単なキーボード ショートカットでアクセスできるローカル AI チャットボットが作成されます。

設定には少し手間がかかり、今のところ特に高速というわけではありませんが、少なくとも概念実証は素晴らしいです。私も試してみて、PowerToys Run AIチャットボットを自分で作成しましたが、これは本当に素晴らしいアイデアだと思います。

PowerToys + Ollama = Windows 11 PC 上のどこにでもローカル AI チャットボット

Windows ターミナルを使用して PowerShell で Ollama と対話します。

Ollamaは、ローカルマシンで使用するLLMを素早く簡単にインストールできるツールです。(画像提供:Windows Central)

PowerToys Run は純粋にフロントエンドとして機能します。LLM を実行するツールである Ollama と連携するために、サードパーティ製のプラグインを使用します。

そのため、これを試す前に両方をインストールする必要があります。それほど難しくはなく、Ollama GitHubリポジトリから始めるのが良いでしょう。ただし、最高のパフォーマンスを得るには、サポートされているAMDまたはNVIDIA GPUが必要です。

Windows と Xbox の熱狂的なファンのための最新ニュース、レビュー、ガイド。

OllamaはデフォルトでCLIツールなので、使用するにはターミナルを開く必要があります。GUIを追加するためのオプションもありますが、ここでの作業には必要ありません。

インストールが完了したら、プラグインがデフォルトで使用するように設定されているLlama 3.1をダウンロードしてください。ターミナルウィンドウでPowerShellを開き、次のコマンドを入力します。

ollama pull llama3.1

Llama 3.1は最新版ではありませんが、プラグインを最小限の手間で試してみたい場合は、ダウンロードすることをお勧めします。プラグインで使用するLLMは、PowerToysアプリのプラグイン設定で変更できます。お好みのLLMに変更してください。

もちろん、このためにはPowerToys-Run-LocalLLmmというプラグインもインストールする必要があります。GitHubリポジトリからダウンロードし、PowerToys RunプラグインがインストールされているPCの場所に解凍するだけです。

たとえば、私の PC では次のパスをたどります。

LOCALAPPDATA%\Microsoft\PowerToys\PowerToys Run\Plugins

その後、変更を有効にするには、必ず PowerToys を終了して再起動してください。

使いやすく、Windows 11 PC に AI を統合する方法の優れた例です。

PowerToys Run の Llama 3.2 にビルバオで何をすべきかアドバイスを求めます。

ヨーロッパリーグ決勝のためにビルバオに行くことはできませんが、この情報のおかげで、もし行けるなら見るべきものについていくつかヒントを得ることができました。(画像提供:Windows Central)

PowerToys Runで選択したLLMを起動するには、「llm」と入力し、その後にクエリを入力します。短い回答であれば、生成にそれほど時間はかかりません。長い場合は、少しお待ちいただくことになります。

私の知る限り、これはレスポンス全体を一度を出力するためだと思います。ターミナルでOllamaを使うと、単語ごとに出力されるのが確認できます。つまり、タイミングはそれほど変わらないでしょう。ただ、何も起こっていないように見えるだけです。

そのため、脳は「遅い」と認識するでしょう。確かに確かに遅いですが、理由がないわけではありません。そして当然、ハードウェアも影響してきます。私はOllamaを使えるRTX 5080を持っています。性能の低いハードウェアだと、間違いなく待ち時間が長くなります。

すぐに使えるもう一つの問題は、レスポンスが長すぎると途中で切れてしまうことです。プラグインはスクロールを誘発しないため、PowerToys Run のボックスを大きく設定する必要があります。

PowerToys Run の結果ボックスのサイズを大きくしました。

このプラグインを使用するには、PowerToys Run の結果ボックスを手動で大きくする必要があります。(画像提供: Windows Central)

PowerToysのメインアプリの設定で、「スクロール前に表示される結果の数」というオプションを増やす必要があります。このプラグインではスクロールはできませんが、結果を表示するボックスが大きく表示されます。

この投稿の画像は、この設定を10に設定しています。数値を大きくするほど、スペースが増えます。それでも切り取られてしまう場合は、少なくともコピーボタンをクリックして全体をコピーし、テキストエディタに貼り付けてください。

とはいえ、全体的にはまさにWindows 11で日常的に使いたいタイプの設定です。MicrosoftがPowerToysを作っているのなら、なぜCopilotを組み込まないのでしょうか?結局のところ、他のすべてのものに詰め込まれているのですから。

重要なのは、PowerToys RunがWindows 11でおそらく他のどのツールよりもよく使っているということです。AIを使うためにワークフローから外れるのではなく、このツールはAIを統合してくれます。しかも、他人のクラウドではなくローカルで実行されるという利点もあります。私はこれに全面的に賛成です。

リチャード・ディバインは、10年以上の経験を持つWindows Centralの編集長です。元プロジェクトマネージャーであり、長年のテクノロジー愛好家でもある彼は、2011年にMobile Nationsに入社し、Windows Centralに加え、Android CentralやiMoreでも活躍しています。現在は、このサイトであらゆる種類のPCハードウェアとレビューの取材を担当しています。Mastodonでは、mstdn.social/@richdevine でフォローできます。