Gemma はすでに紹介されており、コードを使用して彼とチャットする方法も紹介されています。
コードを使用する方法は、開発者向けに適しており、一定のハードルがあります。
使用する際にも便利ではありません。
今日は、誰にでもより友好的な方法を紹介します。直接ビジュアルソフトウェアを使用して Gemma とコミュニケーションを取る方法です。
今日使用するソフトウェアは lmstudio と呼ばれ、多くの大規模モデルをワンクリックで実行できるソフトウェアです。
最新バージョン 0.2.16 では、Gemma モデル、200 億および 700 億パラメータのモデルがサポートされています。
このソフトウェアは非常に優れており、多くのオープンソースモデルとチャットするだけでなく、OpenAI の API サービスを起動することもできます。
一般ユーザーと開発者の両方にとって非常に使いやすいです。
ソフトウェアは複数のプラットフォームをサポートしており、現在は Windows、Mac（Apple Silicon M シリーズ）、Linux の 3 つのシステムをサポートしています。
また、ソフトウェアはデフォルトで CPU を使用して推論を行うようですので、デバイスのハードルが大幅に低くなっています。
小さなモデルの推論速度も非常に良いです。
ソフトウェアをインストールした後（古いバージョンのユーザーはアップグレードを忘れずに）、メイン画面で Google's Gemma 2b Instruct のカードが表示されます。カード内で download を見つけ、クリックするとモデルのダウンロードが開始されます。
全体のプロセスは非常に簡単ですが、社内ユーザーはダウンロードできない問題に遭遇するかもしれません。
ダウンロードが完了したら、ソフトウェアのトップバーから Gemma モデルを選択し、モデルの読み込みが完了するのを待って会話を開始できます。
ウィンドウの下部にある User の後に内容を入力すると、チャットを開始できます。
中国語を直接送信することができ、理解されますが、彼は英語で返答します。