MediaTekLlama của Meta, Mô hình ngôn ngữ lớn (LLM) nguồn mở thế hệ tiếp theo của công ty 2 thông báo rằng ông đang hợp tác chặt chẽ với MediaTek sử dụng APU và Nền tảng AI NeuroPilot mới nhất cũng như LLM của Meta; Nó nhằm mục đích tạo ra một hệ sinh thái điện toán biên hoàn chỉnh được thiết kế để tăng tốc phát triển ứng dụng AI trên điện thoại thông minh, IoT, phương tiện, nhà thông minh và các thiết bị biên khác.
MediaTek phát triển AI tạo trong thiết bị trên các thiết bị biên
Llama của MediaTek về các hoạt động AI tổng hợp, hiện chủ yếu được thực hiện thông qua điện toán đám mây 2 Người ta tuyên bố rằng khi bắt đầu sử dụng các mô hình, các ứng dụng trí tuệ nhân tạo trực tiếp từ nhà sản xuất sẽ bắt đầu hoạt động trên thiết bị. Điều này sẽ mang lại cho các nhà phát triển và người dùng những lợi ích như hiệu suất mượt mà, quyền riêng tư cao hơn, độ bảo mật và độ tin cậy tốt hơn, độ trễ thấp hơn, khả năng hoạt động ở những khu vực có ít hoặc không có kết nối và chi phí vận hành thấp hơn.
Để tận dụng tối đa công nghệ AI của nhà sản xuất trên thiết bị, các nhà sản xuất thiết bị biên sẽ cần phải có bộ xử lý AI có hiệu suất tính toán cao, tiêu thụ điện năng thấp và khả năng kết nối nhanh hơn, đáng tin cậy hơn để nâng cao khả năng tính toán của họ. Mọi SoC dành cho điện thoại thông minh 5G do MediaTek cung cấp hiện nay đều được trang bị các APU được thiết kế để thực hiện nhiều tính năng AI hiệu quả như Giảm nhiễu AI, Siêu phân giải AI, AI MEMC, v.v.
Ngoài ra, chipset hàng đầu thế hệ tiếp theo của MediaTek, Llama, sẽ được giới thiệu vào cuối năm nay, 2Nó sẽ có một APU tiên tiến như tăng tốc đường trục Transformer, giảm quyền truy cập và mức sử dụng băng thông DRAM, nâng cao hơn nữa hiệu suất LLM và AIGC. Những cải tiến này mang lại tốc độ cần thiết cho các trường hợp sử dụng AI của nhà sản xuất trên thiết bị.
JC Hsu, Phó chủ tịch cấp cao của công ty kiêm Tổng giám đốc Bộ phận kinh doanh truyền thông không dây của MediaTek, cho biết: “Sự phổ biến ngày càng tăng của AI tạo ra là xu hướng chính trong chuyển đổi kỹ thuật số… Chúng tôi tại Llama 2 Chúng tôi mong muốn cung cấp cho các nhà phát triển và người dùng những công cụ họ cần để đổi mới hoàn toàn về AI. Nhờ sự hợp tác của chúng tôi với Meta, giờ đây chúng tôi có thể cung cấp nhiều phần cứng và phần mềm hơn trên các thiết bị biên.”
Llama sẽ được phát triển cho điện thoại thông minh thế hệ tiếp theo tốt nhất được cung cấp bởi MediaTek, SoC 2 Nó có kế hoạch đưa các ứng dụng dựa trên AI của mình ra thị trường vào cuối năm nay.
Nguồn hình ảnh nổi bật: rawpixel.com / Freepik
