Meta 社の Llama 3 は、オープンアクセスの Llama シリーズの最新バージョンであり、Hugging Face プラットフォームで既にリリースされています。Meta 社がオープン AI 領域の発展に取り組んでいる姿勢は非常に刺激的であり、私たちはこのリリースを全力で支援し、Hugging Face エコシステムとの深い統合を実現しています。
Llama 3 には 2 つのバージョンがあります:8B バージョンは消費者向け GPU での効率的な展開と開発に適しており、70B バージョンは大規模な AI アプリケーション向けに設計されています。各バージョンには、基本形式と指示チューニング形式の 2 種類が含まれています。さらに、Llama 3 8B をベースにした Llama Guard の新バージョンも、Llama Guard 2(セキュリティチューニングバージョン)としてリリースされています。
私たちは Meta 社と緊密に連携し、製品が Hugging Face エコシステムにシームレスに統合されることを確認しています。Hub では、これらの 5 つのオープンアクセスモデル(2 つの基本モデル、2 つのチューニングモデル、および Llama Guard)を見つけることができます。
今回のリリースの主な特徴と統合機能には、以下が含まれます:
- モデルの Hub 上で、モデルカードとライセンス情報を提供
- 🤗 Transformers の統合
- Meta Llama 3 70B 向けの Hugging Chat 統合
- 推論機能が推論エンドポイント、Google Cloud、Amazon SageMaker に統合
- 🤗 TRL を使用して単一の GPU 上で Llama 3 8B を微調整する例
デモ:https://huggingface.co/chat/models/meta-llama/Meta-Llama-3-70B-instruct