プロジェクト名：FreeAskInternet -- ローカライズされた大規模言語モデルの対話システム
Github オープンソースアドレス：https://github.com/nashsu/FreeAskInternet
FreeAskInternet は、複数の先進的な大規模言語モデルを組み合わせて、検索と回答生成のサービスを提供する無料のオープンソースの大規模言語モデルツールです。
私たちは、GPU を必要とせずにローカルで直接インストールして実行することができます。それは、各大規模言語モデルの検索アグリゲータのように見えます。
このプロジェクトの説明によると、FreeAskInternet は大規模言語モデル（LLM）を使用して回答を生成し、グラフィックプロセッシングユニット（GPU）に依存しないで済むとのことです。ユーザーが質問を投げると、システムは SearXNG を利用して複数のエンジンで検索を行い、その検索結果を ChatGPT3.5 言語モデルと組み合わせて回答を生成します。すべてのプロセスはローカルで実行され、GPU や OpenAI や Google の API キーは必要ありません。
注：SearXNG は無料のインターネットメタ検索エンジンであり、さまざまな検索サービスとデータベースからの結果を集約します。オープンソースアドレス：https://github.com/searxng/searxng。
FreeAskInternet の特徴をまとめると次のようになります：
- 無料でオープンソースであり、自分でローカルにインストールできます。
- ChatGPT3.5、Qwen、Kimi、致普 AI などの API を使用しており、これらの API のキーを持っていなくても使用することができます。
- 無料の API を使用しているため、通常 GPU が必要な大規模言語モデルとは異なり、FreeAskInternet は GPU なしで実行できるため、ユーザーのハードウェア要件が低くなっています。
- ollama などのカスタム大規模言語モデルを使用することもできます（ダウンロードアドレス：https://ollama.com/）。これにより、ユーザーはより柔軟性と個別化のオプションを得ることができます。
- インストールは簡単で、Docker Compose という人気のあるコンテナオーケストレーションツールを使用して、FreeAskInternet を素早くデプロイできるため、インストールと設定の手間が省けます。
FreeAskInternet の動作原理：ユーザーがインターフェースに入力した質問に対して、SearXNG が複数のエンジンで検索を行います。検索が完了すると、システムは自動的に検索結果のリンク内容をクロールして収集し、これらの内容を選択した LLM（Large Language Models：大規模言語モデル）に渡します。例えば、ChatGPT3.5、Kimi、Qwen、ZhipuAI、またはカスタムの ollama です。これらのモデルは渡されたコンテンツを参考にしてコンテンツを生成し、ユーザーの質問に回答します。
インストールと使用方法
このプロジェクトはまだ初期段階にあり、いくつかの問題があるかもしれませんが、個人の学習には十分です。
プロジェクトはまだ新しいですが、現在 6.8k のスターを獲得しており、人気は継続していますので、注目してください。
インストールする前に、ローカルに Docker がインストールされ、docker-compose がサポートされている必要があります。インストールが完了したら、リンクhttp://localhost:3000 を開いて使用を開始できます。
インストールと使用方法は以下の通りです：
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d