先週、Meta は、AI アプリケーション向けのオープンソースラージ言語モデル (LLM) の次世代版である Llama 3 を発表しました。トレーニング前とトレーニング後の手順、調整、およびモデル応答の多様性の向上により、前世代からの大きな飛躍を達成し、人気の高まりによる需要を満たすために生成 AI 機能を向上させています。
MediaTek が昨年 Meta Llama 2 で確立したフレームワークを基盤として、私たちは再び、強力な機能を備えた魅力的なハードウェアと開発者に優しいソフトウェア ツールの組み合わせを提供することに取り組んでいます。 MediaTek は、Dimensity 9300、Dimensity 8300、および将来の Gen-AI 対応プラットフォームを含む Dimensity プラットフォームで Llama 3 8B を正式にサポートする予定です。 Llama 3 をデバイス上で実行できることにより、応答性の向上、プライバシー、セキュリティ、信頼性の向上、接続がほとんどまたはまったくない場所でも運用コストの削減など、いくつかの利点が得られます。
Llama 3 8B のようなモデルは、モバイル プラットフォームやエッジ AI デバイスに最適です。 Llama 3 は最先端のパフォーマンスを提供し、言語のニュアンス、文脈の理解、翻訳や対話の生成などの複雑なタスクに優れています。 Llama 3 は、複数ステップのタスクを難なく処理でき、その洗練されたトレーニング後のプロセスにより、誤拒否率が大幅に低下し、応答の整合性が向上し、模範解答の多様性が高まります。さらに、推論、コード生成、テキストの理解、指示に従う、世界の知識などの能力を大幅に向上させます。
開発者は MediaTek の NeuroPilot SDK を通じて Llama 3 を利用できます。 NeuroPilot は、モバイル プラットフォームやエッジ AI 対応デバイスなど、MediaTek の多様な製品ポートフォリオ全体でオンデバイスの GenAI 推論機能を有効にし、最適化するツールキットです。
Dimensity プラットフォーム上で Llama 3 を利用するためのツールを開発者に提供する機会は、AI で可能なことの限界を押し広げるという MediaTek のビジョンの証です。
