Chinchilla AI là một ví dụ khác về mô hình ngôn ngữ AI, được cho là hoạt động tốt hơn GPT-3. Vâng, bạn đã nghe đúng. Công cụ đằng sau ChatGPT hoạt động tốt hơn mô hình ngôn ngữ mới của DeepMind. Tin tức lan truyền nhanh chóng và ngay sau đó mọi người đều thắc mắc: “Chinchilla AI là gì?” bạn có phải là một trong số họ không? Bạn đến đúng chỗ rồi. Như mọi khi, chúng tôi tiếp tục chia sẻ với bạn những xu hướng mới nhất trong thế giới AI.
Chúng tôi đã giải thích một số công cụ AI tốt nhất như ChatGPT, DALL-E 2, Khuếch tán ổn định và Lensa AI. Bây giờ đến lượt Chinchilla AI. Hãy tiếp tục đọc và tìm hiểu xem nó có thực sự tốt hơn GPT-3.
AI Chinchilla là gì?
DeepMind của Chinchilla AI là một lựa chọn phổ biến cho một mô hình ngôn ngữ lớn và nó đã chứng tỏ mình vượt trội so với các đối thủ cạnh tranh. Vào tháng 3 năm 2022, DeepMind phát hành Chinchilla AI. Nó hoạt động theo cách tương tự như các mô hình ngôn ngữ lớn khác như GPT-3 (175 tham số), kỷ Jura-1 (tham số 178B), Gopher (tham số 280B) và Megatron-Turing NLG (tham số 300) (tham số 530B). Tuy nhiên, điểm nổi bật chính của Chinchilla AI là nó có thể được tạo ra với chi phí dự kiến tương tự như Gopher, nhưng tính trung bình, nó sử dụng ít tham số hơn với nhiều dữ liệu hơn để cung cấp, 7% kết quả chính xác hơn Gopher.
Đối với ngân sách FLOP, công việc trước đó đã phân bổ quá mức các tham số gây tổn hại đến mã thông báo đào tạo. Chinchilla và Gopher sử dụng cùng một phương pháp tính toán huấn luyện; tuy nhiên Chinchilla được đào tạo với số lượng token nhiều hơn gấp 4 lần và nhỏ hơn gấp 4 lần nên việc sử dụng ở hạ lưu sẽ rẻ hơn. https://t.co/RepU03NJ91 2/3 pic.twitter.com/kBAavQ3rTC
– DeepMind (@DeepMind) Ngày 12 tháng 4 năm 2022
Chinchilla vượt trội hơn Gopher (280B), GPT-3 (175B), kỷ Jura-1 (178B) và Megatron-Turing NLG trên một loạt các nhiệm vụ đánh giá xuôi dòng (530B). Nó đơn giản hóa đáng kể việc sử dụng tiếp theo vì nó đòi hỏi ít năng lượng máy tính hơn để suy luận và tinh chỉnh.
Để hợp lý hóa hoạt động và cải thiện việc ra quyết định, các công ty có thể tận dụng Chinchilla AI. Nó mở đường cho các công ty tạo và phát hành các ứng dụng hỗ trợ AI, nâng cao chức năng của sản phẩm kỹ thuật số.
Dựa trên việc đào tạo các mô hình ngôn ngữ được sử dụng trước đó, người ta đã xác định rằng nếu tăng gấp đôi kích thước mô hình thì người ta cũng phải có số lượng mã thông báo đào tạo gấp đôi. Giả thuyết này đã được Deepmind sử dụng để huấn luyện Chinchilla AI. Tương tự như Gopher về mặt chi phí, Chinchilla AI có thông số 70B và lượng dữ liệu nhiều gấp bốn lần. Chinchilla vượt trội hơn Gopher (280B), Megatron-Turn NLG (530B), Jurassic-1 (178B) và GPT-3 trên diện rộng trong rất nhiều nhiệm vụ đánh giá, đạt được kết quả khá đáng chú ý (175B).
Chinchilla AI có độ chính xác trung bình là 67.5% trên điểm chuẩn MMLU, tức là 7% cao hơn hiệu suất của Gopher. Thật đáng kinh ngạc, Chinchilla AI vượt trội hơn các mô hình ngôn ngữ lớn, truyền thống hơn về độ chính xác. Chinchilla yêu cầu sức mạnh xử lý ít hơn nhiều để suy luận và điều chỉnh, điều này mang lại lợi ích to lớn cho các ứng dụng tiếp theo.
Thật không may, hiện tại không có cách nào để công chúng sử dụng Chinchilla AI DeepMind vì nó vẫn đang trong giai đoạn thử nghiệm. Sau khi được phát hành, Chinchilla AI sẽ hữu ích trong việc phát triển các công cụ trí tuệ nhân tạo khác nhau, chẳng hạn như chatbot, trợ lý ảo và mô hình dự đoán. Cho đến lúc đó, chúng tôi chủ yếu dựa vào các Tweet do các nhà nghiên cứu DeepMind gửi.
Chinchilla AI của DeepMind là công cụ thay đổi cuộc chơi với tiềm năng cải thiện lợi nhuận của doanh nghiệp và chất lượng trải nghiệm của khách hàng. Nhiều hoạt động có thể được tự động hóa và cải tiến với sự trợ giúp của Chinchilla AI.
Lợi ích ban đầu trong việc áp dụng AI sắp kết thúc. Hãy nhanh lên!
Tính năng AI của Chinchilla
Khi nói đến công nghệ trí tuệ nhân tạo (AI), ngân sách điện toán thường là thành phần hạn chế. Cuối cùng, quy mô của mô hình và số lượng mã thông báo đào tạo sẽ được xác định bằng số tiền mà công ty có thể chi cho công nghệ mạnh hơn. Chinchilla AI có một số khả năng giúp giải quyết vấn đề này:
- Kích thước mô hình cố định: Các nhà phát triển tại DeepMind đã bắt đầu với một nhóm có kích thước mô hình cố định (70M-16B) và điều chỉnh tổng số mã thông báo đào tạo để tối ưu hóa hiệu suất (4 các biến thể). Việc ghép nối tối ưu sau đó được xác định cho từng tài nguyên máy tính có sẵn. Một mô hình có sức mạnh tính toán tương tự như quá trình đào tạo của Gopher sẽ chứa 1Mã thông báo .5T và tham số 67B, được tính theo phương pháp này.
- Đường cong cho isoFLOP: Các kỹ sư của DeepMind đã thử nghiệm với các kích thước mô hình khác nhau trong khi vẫn giữ được sức mạnh tính toán sẵn có không đổi. Một mô hình tính toán tối ưu với 63 tỷ tham số và 1.4 nghìn tỷ token có thể được đào tạo bằng cách sử dụng sức mạnh tính toán tương tự như Gopher bằng cách sử dụng phương pháp này.
- Tạo hàm mất tham số: Áp dụng những gì họ học được từ hai phương pháp đầu tiên, các kỹ sư của DeepMind đã mô tả các khoản lỗ như các hàm tham số của kích thước mô hình và số lượng mã thông báo. Về mặt điện toán, mô hình tính toán tối ưu được đào tạo theo phương pháp này sẽ có tham số 40B, ngang bằng với Gopher.
So với tất cả các mô hình ngôn ngữ chính được thiết lập trong hai năm gần đây đều cho thấy kết quả SOTA, hiệu suất của Chinchilla đáng chú ý không chỉ vì sự cải tiến mà còn vì mô hình nhỏ hơn. Nhiều chuyên gia trong lĩnh vực trí tuệ nhân tạo đã lập luận rằng các doanh nghiệp và tổ chức học thuật đang lãng phí thời gian và tiền bạc khi tập trung vào việc mở rộng quy mô mô hình thay vì tìm cách tận dụng tốt hơn các nguồn lực và thông số sẵn có.
Chinchilla là một cải tiến mang tính cách mạng cả về hiệu suất và hiệu quả.
Làm thế nào để sử dụng Chinchilla của Deepmind?
Vì chúng tôi đã trình bày những kiến thức cơ bản về Chinchilla AI nên chúng tôi sẽ trả lời câu hỏi của bạn về cách sử dụng nó, nhưng trước tiên chúng tôi có một số tin tức khủng khiếp. Thật không may, nó không có sẵn cho công chúng tại thời điểm viết bài. Cuối cùng, trong những tháng tiếp theo, chúng tôi sẽ có thể sử dụng Chinchilla AI và cập nhật phần này. Sau khi việc sử dụng nó được công khai, Bạn có thể thực hiện những điều này với Chinchilla AI:
- Chinchilla AI là một nền tảng AI để tự động hóa quy trình và cải thiện khả năng phán đoán kinh doanh. Nó giúp các công ty tạo và phát hành các ứng dụng dựa trên AI nhằm nâng cao chức năng của các sản phẩm kỹ thuật số của họ.
- Chinchilla AI có thể được sử dụng để tạo chatbot. Đúng như tên gọi, chatbot là chương trình máy tính có thể mô phỏng cuộc đối thoại của con người. Chúng thường được triển khai để hợp lý hóa quy trình bán hàng hoặc dịch vụ khách hàng.
- Với Chinchilla AI, bạn có thể tạo chatbot của riêng mình mà không cần học cách viết mã. Nó có thể được sử dụng để xây dựng một chatbot để sử dụng ở những nơi như Discord, trang web của bạn, Facebook Messengervà hơn thế nữa.
- Chatbots, trợ lý ảo, mô hình dự đoán và các ứng dụng hỗ trợ AI khác có thể được tạo bằng Chinchilla AI. Khi nói đến việc tạo ra các ứng dụng hỗ trợ AI, Chinchilla AI là lựa chọn lý tưởng cho các công ty cần phát triển nhanh chóng.
- Ứng dụng Chinchilla AI cho phép phát triển các nhân vật tương tác trong trò chơi điện tử. Giao diện thân thiện với người dùng và bộ tính năng mạnh mẽ của nó có thể được sử dụng để lập trình trí tuệ nhân tạo cho các trò chơi có độ phức tạp khác nhau, từ trò chơi điện tử cổ điển đến mô phỏng chiến lược đặt cược cao. Khi kết hợp với các công nghệ AI khác, Chinchilla AI cũng có thể được sử dụng để tạo các mô hình có thể in 3D.
Kiểm tra bài nghiên cứu để biết thông tin chi tiết.
Bạn đang tự hỏi căn phòng của bạn sẽ như thế nào theo phong cách cyberpunk? Hãy thử AI nội thất
Các lựa chọn thay thế Chatbot: Những thứ như ChatGPT
Nếu bạn đã đi xa đến mức này, bạn chắc chắn sẽ quan tâm đến các công cụ AI chuyển văn bản thành văn bản. Các tài nguyên sau có thể hữu ích cho bạn:
Chào mừng đến với thế giới do AI điều khiển
Bạn thắc mắc về tác dụng của trí tuệ nhân tạo trong cuộc sống hằng ngày? Hầu như mỗi ngày, một công cụ, mô hình hoặc tính năng mới xuất hiện và thay đổi cuộc sống của chúng ta, chẳng hạn như ChatGPT và chúng tôi đã xem xét một số công cụ, mô hình hoặc tính năng tốt nhất:
