Trong thế giới trí tuệ nhân tạo ngày càng phát triển, lạc đà không bướu 2 người mẫu đã nổi lên như một công cụ đầy hứa hẹn cho nhiều ứng dụng. Tuy nhiên, câu hỏi về cách cài đặt Llama 2 cục bộ trên một Apple MacBook chạy bằng silicon đã là một điểm gây tranh cãi đối với nhiều người. Bài viết này nhằm mục đích làm sáng tỏ quá trình này, đồng thời cung cấp hướng dẫn toàn diện cho những ai mong muốn khai thác sức mạnh của mô hình AI này trên hệ thống của mình. Apple MacBook.
lạc đà không bướu 2 mô hình, trong khi tương thích với Linux và Windowschưa được thiết kế đặc biệt cho Apple silicon. Điều này đã khiến nhiều người dùng MacBook rơi vào tình thế khó khăn. Tuy nhiên, có một lớp lót bạc. MỘT dự án C++ mã nguồn mở đã được phát triển, cung cấp giải pháp khả thi để tải model Llama vào MacBook của bạn.
Cài đặt Llama 2 cục bộ trên MacBook
Dành cho những ai muốn tìm hiểu cách cài đặt Llama 2 tại địa phương, video dưới đây được tạo bởi Alex Ziskind cung cấp hướng dẫn bằng video từng bước. Hướng dẫn bạn qua quy trình sao chép kho lưu trữ, tải xuống các mô hình và chuyển đổi chúng để sử dụng trên MacBook được hỗ trợ bởi Apple phần cứng silicon.
Bạn có thể tải xuống Llama 2 cả từ Github Và Ôm mặt. Bản phát hành này bao gồm trọng số mô hình và mã bắt đầu cho các mô hình ngôn ngữ Llama được tinh chỉnh và huấn luyện trước trong phạm vi tham số từ 7B đến 70B. Kho lưu trữ GitHub được coi là một ví dụ tối thiểu để tải Llama 2 mô hình và chạy suy luận. Bạn có thể yêu cầu quyền truy cập vào phiên bản mới nhất của Llama trên Trang web Meta AI.
Một điều quan trọng cần lưu ý là kích thước của các mô hình này. Các 7 Ví dụ: mô hình tham số Billion có dung lượng khổng lồ là 13,48 gigabyte. Tuy nhiên, những mô hình này có thể được lượng tử hóa để giảm kích thước, giúp thiết bị của bạn dễ quản lý hơn.
Meta giải thích thêm về Llama 2 giải phóng :
LLaMA là gì 2
LLaMA, viết tắt của Mô hình ngôn ngữ lớn Meta AI, là một mô hình ngôn ngữ phức tạp được phát triển và xuất bản bởi Meta AI vào tháng 2 năm 2023, một đơn vị nghiên cứu AI hàng đầu. Được xây dựng theo bốn cấu hình khác nhau dựa trên các thông số, các mô hình có kích thước 7 tỷ, 13 tỷ, 33 tỷ và 65 tỷ thông số tương ứng.
Việc lặp lại 13 tỷ tham số của mô hình LLaMA đã chứng minh hiệu quả đặc biệt, vượt trội so với mô hình lớn hơn nhiều, GPT-3, có 175 tỷ tham số, trong phần lớn các điểm chuẩn Xử lý ngôn ngữ tự nhiên (NLP). Tương tự, mô hình LLaMA được tham số hóa nhiều nhất được quan sát là có tính cạnh tranh với các mô hình hàng đầu như PaLM và Chinchilla.
Trước đây, quyền truy cập vào các Mô hình ngôn ngữ lớn (LLM) hiệu suất cao như thế này thường bị hạn chế ở các API hạn chế, nếu chúng có thể truy cập được. Tuy nhiên, Meta đã thực hiện một cách tiếp cận mới bằng cách đưa ra trọng số của mô hình LLaMA cho cộng đồng nghiên cứu rộng lớn hơn. Hành động này được thực hiện theo giấy phép phi thương mại, mở ra quyền truy cập tài nguyên duy nhất cho các nhà nghiên cứu.
Các bài viết khác bạn có thể thấy thú vị về chủ đề LLaMA 2 :
Vài tháng sau, vào ngày 18 tháng 7 năm 2023, Meta hợp tác với Microsoft để công bố sự ra đời của LLaMA 2, biểu thị lần lặp thứ hai và nâng cao của LLaMA ban đầu. Mô hình cập nhật, LLaMA 2được đào tạo và phát hành theo ba kích cỡ mô hình, chúng bao gồm 7 tỷ, 13 tỷ và 70 tỷ thông số tăng cao. Kiến trúc của mô hình tiếp tục theo phong cách của LLaMA 1với sự khác biệt dễ nhận thấy là việc sử dụng thêm 40% dữ liệu để huấn luyện các mô hình nền tảng của LLaMA 2.
Khi bạn đã cài đặt xong Llama 2 cục bộ, bạn có thể bắt đầu sử dụng các mô hình để suy luận. Những mô hình này có thể tạo ra văn bản, mặc dù độ chính xác và hữu ích của văn bản được tạo ra có thể khác nhau. Điều quan trọng cần nhớ là Llama 2 mô hình vẫn đang được phát triển và có thể chưa được trang bị đầy đủ để tạo mã. Vì vậy, thay vào đó, bạn nên sử dụng nó cho các tác vụ sáng tạo.
Trong quá trình cài đặt Llama 2 cục bộ trên một Apple MacBook chạy bằng silicon có vẻ khó khăn nhưng chắc chắn có thể đạt được. Với sự trợ giúp của dự án C++ nguồn mở và hướng dẫn từng bước, bạn có thể bắt đầu khai thác sức mạnh của Llama 2 mô hình trên MacBook của bạn. Chỉ cần nhớ kiên nhẫn và sáng tạo khi sử dụng công cụ AI đầy hứa hẹn này. Để biết thêm thông tin về việc có được quyền truy cập vào LLaMA mới nhất 2 mô hình ngôn ngữ lớn hơn chuyển sang mô hình chính thức Trang web Meta AI.
Tuyên bố từ chối trách nhiệm: Một số bài viết của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, APS Blog có thể kiếm được hoa hồng liên kết. Tìm hiểu về Chính sách tiết lộ của chúng tôi.
