MediaTek sử dụng nền tảng Llama 2 của Meta để nâng cao AI tạo sinh trên các thiết bị điện toán biên

Việt Nam –24/8/2023MediaTek, công ty bán dẫn toàn cầu hàng đầu cung cấp chip cho hơn 2 tỷ thiết bị kết nối mỗi năm, hôm nay vừa thông báo hãng đang làm việc chặt chẽ cùng với Llama 2 của Meta, một mô hình Ngôn ngữ Lớn mã nguồn mở (LLM) thế hệ tiếp theo của công ty. Sử dụng LLM của Meta cũng như các APU mới nhất của MediaTek và Nền tảng AI NeuroPilot, MediaTek đặt mục tiêu xây dựng một hệ sinh thái điện toán biên hoàn chỉnh được thiết kế để thúc đẩy việc phát triển ứng dụng AI trên điện thoại thông minh, IoT, các loại phương tiện, nhà thông minh và các thiết bị điện toán biên khác.

Hiện tại, hầu hết quy trình xử lý AI tạo sinh (Generative AI) được thực hiện thông qua điện toán đám mây; tuy nhiên, việc sử dụng các mô hình Llama 2 của MediaTek sẽ cho phép các ứng dụng AI tạo sinh chạy trực tiếp trên thiết bị. Việc làm này mang lại một số lợi ích cho các nhà phát triển và người dùng, bao gồm hiệu suất mượt mà, nâng cao quyền riêng tư, bảo mật và đáng tin cậy hơn, độ trễ thấp hơn, tăng khả năng làm việc trong các khu vực có ít hoặc không có kết nối, và chi phí vận hành thấp hơn.

Để thực sự tận dụng công nghệ AI tạo sinh trên thiết bị điện toán biên, các nhà sản xuất thiết bị điện toán biên sẽ cần áp dụng bộ xử lý AI cao cấp, tiêu thụ ít năng lượng và kết nối nhanh hơn, đáng tin cậy hơn để nâng cao khả năng tính toán. Mỗi con chip di động 5G do MediaTek cung cấp hiện nay đều được trang bị các APU được thiết kế để thực hiện nhiều tính năng AI tạo sinh đa dạng, chẳng hạn như Giảm nhiễu bằng AI, Tăng cường Độ phân giải bằng AI, AI MEMC và nhiều tính năng khác.

Ngoài ra, vi xử lý flagship thế hệ tiếp theo của MediaTek, dự kiến sẽ được giới thiệu vào cuối năm nay, sẽ có một ngăn xếp phần mềm được tối ưu hóa để chạy Llama 2, cùng với một APU nâng cấp với khả năng tăng tốc cốt lõi Transformer, giảm thiểu diện tích truy cập và sử dụng băng thông DRAM, tăng cường hơn nữa hiệu suất LLM và AIGC. Những tiến bộ này tạo điều kiện thuận lợi để nhanh chóng xây dựng các trường hợp sử dụng cho AI tạo sinh trên thiết bị.

Sự phổ biến ngày càng tăng của AI tạo sinh là một xu hướng quan trọng trong quá trình chuyển đổi số, và tầm nhìn của chúng tôi là cung cấp cho cộng đồng có niềm đam mê như các nhà phát triển và người dùng Llama 2 các công cụ cần thiết để đổi mới đầy đủ trong lĩnh vực Trí tuệ Nhân tạo," JC Hsu, Phó Tổng Giám đốc Cấp Cao và Quản lý bộ phận Kinh doanh Communications Wireless tại MediaTek cho biết. "Thông qua sự hợp tác với Meta, chúng tôi có thể cung cấp phần cứng và phần mềm với nhiều khả năng vượt trội hơn bao giờ hết."

MediaTek kỳ vọng các ứng dụng AI dựa trên Llama 2 sẽ có sẵn trên các smartphone trang bị SoC flagship thế hệ tiếp theo, dự kiến sẽ được tung ra thị trường vào cuối năm nay.

 

###

 

 

Giới thiệu MediaTek

MediaTek (TWSE: 2454) là công ty bán dẫn không dây toàn cầu cho phép gần 2 tỷ thiết bị được kết nối mỗi năm. Chúng tôi dẫn đầu thị trường trong việc phát triển các hệ thống sáng tạo trên chip (SoC) cho các sản phẩm thiết bị di động, giải trí gia đình, kết nối và Internet vạn vật (IoT). Cống hiến của MediaTek đối với sự đổi mới đã định vị chúng tôi là một nhân tố quyết định trên thị trường trong một số lĩnh vực công nghệ chính, bao gồm công nghệ di động tiết kiệm điện năng, giải pháp ô tô và một loạt các sản phẩm đa phương tiện tiên tiến như điện thoại thông minh, máy tính bảng, TV kỹ thuật số, 5G, Thiết bị hỗ trợ bằng giọng nói (VAD) và thiết bị công nghệ đeo trên người. MediaTek truyền năng lượng và cảm hứng để tất cả mọi người có thể mở rộng tầm nhìn và đạt được mục tiêu của mình thông qua công nghệ thông minh, một cách dễ dàng và hiệu quả hơn bao giờ hết. Chúng tôi hợp tác với những thương hiệu mà bạn yêu thích để mang công nghệ tuyệt vời tiếp cận được với tất cả mọi người, và đó chính là động lực thúc đẩy cho mọi thứ chúng tôi làm. Để biết thêm chi tiết, truy cập www.mediatek.com