Xây dựng một mô hình học máy đơn lẻ tương đối dễ dàng. Việc tạo ra hàng trăm hoặc hàng nghìn mô hình và lặp lại những mô hình hiện có là điều khó khăn.
Thật dễ dàng để bị lạc trong sự hỗn loạn. Sự hỗn loạn này trở nên tồi tệ hơn khi bạn làm việc theo nhóm vì giờ đây bạn phải theo dõi những gì mọi người đang làm. Việc tổ chức sự hỗn loạn đòi hỏi toàn bộ nhóm phải tuân theo quy trình và ghi lại hành động của họ. Đây là bản chất của MLOps.
MLOps là gì?
Nguồn: ml-ops.org
Theo MLOps.org, Vận hành máy học cố gắng xây dựng một quy trình phát triển máy học toàn diện để thiết kế, xây dựng và quản lý phần mềm dựa trên ML có thể tái tạo, có thể kiểm tra và phát triển. Về cơ bản, MLOps là các nguyên tắc DevOps được áp dụng cho machine learning.
Giống như DevOps, ý tưởng chính đằng sau MLOps là tự động hóa để giảm bớt các bước thủ công và tăng hiệu quả. Ngoài ra, giống như DevOps, MLOps bao gồm cả Tích hợp liên tục (CI) và Phân phối liên tục (CD). Ngoài hai điều này, nó còn bao gồm Đào tạo liên tục (CT). Một khía cạnh bổ sung của CT là đào tạo lại các mô hình bằng dữ liệu mới và triển khai lại chúng.
Do đó, MLOps là một nền văn hóa kỹ thuật nhằm thúc đẩy cách tiếp cận có phương pháp để phát triển mô hình học máy và tự động hóa các bước khác nhau của phương pháp. Quá trình này chủ yếu bao gồm trích xuất dữ liệu, phân tích, chuẩn bị, đào tạo mô hình, đánh giá, chia sẻ và giám sát mô hình.
Ưu điểm của MLOps
Nói chung, lợi ích của việc sử dụng các nguyên tắc MLOps cũng giống như lợi ích của việc sử dụng Quy trình vận hành tiêu chuẩn. Những lợi thế như sau:
- Một quy trình được xác định rõ ràng sẽ cung cấp lộ trình cho tất cả các bước chính cần thực hiện trong quá trình phát triển mô hình. Điều này đảm bảo rằng không có bước quan trọng nào bị bỏ qua.
- Các bước quy trình có thể được tự động hóa có thể được xác định và tự động hóa. Điều này làm giảm số lượng công việc lặp đi lặp lại và tăng tốc độ phát triển. Nó cũng loại bỏ lỗi của con người đồng thời giảm lượng công việc cần phải làm.
- Việc đánh giá tiến trình phát triển mô hình sẽ dễ dàng hơn khi bạn biết mô hình đang ở đâu trong quy trình.
- Các nhóm sẽ giao tiếp dễ dàng hơn vì có từ vựng chung về các bước cần thực hiện trong quá trình phát triển.
- Quá trình này có thể được tái sử dụng để phát triển nhiều mô hình, cung cấp cách quản lý sự hỗn loạn.
Vì vậy, cuối cùng, vai trò của MLOps trong học máy là cung cấp một cách tiếp cận có phương pháp để tạo ra các mô hình có thể được tự động hóa nhiều nhất có thể.
Nền tảng xây dựng đường ống
Để giúp bạn triển khai MLOps trong quy trình của mình, bạn có thể sử dụng một trong nhiều khung mà chúng tôi sẽ đề cập ở đây. Mặc dù các tính năng cụ thể của các nền tảng này có thể khác nhau nhưng về cơ bản chúng giúp bạn thực hiện những việc sau:
- Lưu trữ tất cả các mô hình của bạn cùng với siêu dữ liệu mô hình được liên kết của chúng – chẳng hạn như cấu hình, mã, độ chính xác và thử nghiệm. Nó cũng chứa các phiên bản khác nhau của mô hình của bạn để kiểm soát phiên bản.
- Lưu trữ siêu dữ liệu của tập dữ liệu, chẳng hạn như dữ liệu được sử dụng để đào tạo mô hình.
- Giám sát các mô hình trong quá trình sản xuất để phát hiện các vấn đề như sai lệch mô hình.
- Triển khai mô hình vào sản xuất.
- Tạo mô hình trong môi trường có ít hoặc không có mã.
Hãy cùng khám phá các nền tảng MLOps tốt nhất.
luồng MLF
MLFlow có lẽ là nền tảng phổ biến nhất để quản lý vòng đời máy học. Nó là nguồn mở và miễn phí. Cung cấp các tính năng sau:
- theo dõi để ghi lại các thí nghiệm học máy, mã, dữ liệu, cấu hình và kết quả cuối cùng;
- dự án đóng gói mã của bạn ở định dạng dễ tái tạo;
- triển khai thực hiện học máy;
- đăng ký để lưu trữ tất cả các mô hình trong kho lưu trữ trung tâm
MLFlow tích hợp với các thư viện máy học phổ biến như TensorFlow và PyTorch. Nó cũng tích hợp với các nền tảng như Apache Spark, H20.asi, Google Cloud, Amazon Sage Maker, Azure Machine Learning và Databricks. Nó cũng hoạt động với nhiều nhà cung cấp dịch vụ đám mây khác nhau như AWS, Google Cloud và Microsoft Azure.
Học máy Azure
Azure Machine Learning là một nền tảng học máy toàn diện. Quản lý các hoạt động khác nhau trong vòng đời của máy trong quy trình MLOP. Các hoạt động này bao gồm chuẩn bị dữ liệu, xây dựng và đào tạo các mô hình, xác thực và triển khai các mô hình cũng như quản lý và giám sát việc triển khai.
Azure Machine Learning cho phép bạn xây dựng các mô hình bằng cách sử dụng IDE và khung lựa chọn ưa thích của bạn, PyTorch hoặc TensorFlow.
Nó cũng tích hợp với ONNX Runtime và Deepspeed để tối ưu hóa việc đào tạo và suy luận. Điều này cải thiện hiệu suất. Nó sử dụng cơ sở hạ tầng trí tuệ nhân tạo trên nền tảng Microsoft Azure kết hợp GPU NVIDIA và mạng Mellanox để giúp xây dựng các cụm máy học. Với AML, bạn có thể tạo sổ đăng ký trung tâm để lưu trữ và chia sẻ các mô hình cũng như bộ dữ liệu.
Azure Machine Learning tích hợp với các hành động Git và GitHub để tạo quy trình công việc. Nó cũng hỗ trợ thiết lập kết hợp hoặc nhiều đám mây. Nó cũng có thể tích hợp với các dịch vụ Azure khác như Synapse Analytics, Data Lake, Databricks và Security Center.
Trí tuệ nhân tạo Google Vertex
Google Vertex AI là một nền tảng dữ liệu và AI hợp nhất. Cung cấp các công cụ cần thiết để tạo các mô hình tùy chỉnh và được đào tạo trước. Nó cũng phục vụ như một giải pháp toàn diện để triển khai MLOps. Để dễ sử dụng, nó tích hợp với BigQuery, Dataproc và Spark, cho phép bạn truy cập liền mạch vào dữ liệu trong quá trình đào tạo.
Ngoài API, Google Vertex AI còn cung cấp môi trường công cụ ít mã, không cần mã mà những người không phải là nhà phát triển như doanh nghiệp, nhà phân tích dữ liệu và kỹ sư có thể sử dụng. API cho phép các nhà phát triển tích hợp với các hệ thống hiện có.
Google Vertex AI cũng cho phép bạn xây dựng các ứng dụng AI tổng quát bằng cách sử dụng Generative AI Studio. Điều này làm cho việc triển khai và quản lý cơ sở hạ tầng trở nên dễ dàng và nhanh chóng. Các trường hợp sử dụng lý tưởng cho Google Vertex AI bao gồm tính sẵn sàng của dữ liệu, kỹ thuật tính năng, đào tạo và điều chỉnh siêu tham số, chia sẻ mô hình, điều chỉnh và hiểu mô hình, giám sát mô hình và quản lý mô hình.
Khối dữ liệu
Databricks là dịch vụ Data Lakehouse cho phép bạn chuẩn bị và xử lý dữ liệu. Với các khối dữ liệu, bạn có thể quản lý toàn bộ vòng đời máy học, từ thử nghiệm đến sản xuất.
Về cơ bản, Databricks cung cấp MLFlow được quản lý cung cấp các tính năng như ghi dữ liệu trong phiên bản quảng cáo của mô hình ML, theo dõi thử nghiệm, chia sẻ mô hình, đăng ký mô hình và theo dõi số liệu quảng cáo. Sổ đăng ký mô hình cho phép bạn lưu trữ các mô hình để phát lại và sổ đăng ký giúp bạn theo dõi các phiên bản và giai đoạn trong vòng đời của chúng.
Việc triển khai các mô hình bằng Dataricks có thể được thực hiện chỉ bằng một cú nhấp chuột và bạn sẽ có các điểm cuối API REST để sử dụng cho việc dự đoán. Trong số các mô hình khác, nó tích hợp tốt với các mô hình ngôn ngữ lớn và sinh sản được đào tạo trước, chẳng hạn như các mô hình trong thư viện máy biến áp ôm mặt.
Dataricks cung cấp sổ ghi chép cộng tác Databricks hỗ trợ Python, R, SQL và Scala. Nó cũng đơn giản hóa việc quản lý cơ sở hạ tầng bằng cách cung cấp các cụm được cấu hình sẵn được tối ưu hóa cho khối lượng công việc học máy.
AWS SageMaker
AWS SageMaker là dịch vụ đám mây AWS cung cấp cho bạn các công cụ cần thiết để phát triển, đào tạo và triển khai các mô hình machine learning. Mục tiêu chính của SageMaker là tự động hóa công việc thủ công tẻ nhạt và lặp đi lặp lại liên quan đến việc xây dựng mô hình học máy.
Do đó, nó cung cấp các công cụ để xây dựng quy trình sản xuất cho các mô hình machine learning sử dụng nhiều dịch vụ AWS khác nhau, chẳng hạn như phiên bản Amazon EC2 và lưu trữ Amazon S3.
SageMaker hoạt động với Jupyter Notebook được cài đặt trên phiên bản EC2 cùng với tất cả các gói và thư viện phổ biến cần thiết để mã hóa mô hình machine learning. Đối với dữ liệu, SageMaker có thể lấy dữ liệu từ Amazon Dịch vụ lưu trữ đơn giản.
Theo mặc định, bạn sẽ triển khai các thuật toán học máy phổ biến như hồi quy tuyến tính và phân loại hình ảnh. SageMaker cũng đi kèm với một trình giám sát mô hình cung cấp khả năng điều chỉnh tự động và liên tục để tìm ra bộ tham số mang lại cho mô hình của bạn hiệu suất tốt nhất. Việc triển khai cũng được đơn giản hóa vì bạn có thể dễ dàng triển khai mô hình của mình trên AWS dưới dạng điểm cuối HTTP an toàn mà bạn có thể giám sát bằng CloudWatch.
dữ liệurobot
DataRobot là nền tảng MLOps phổ biến cho phép bạn quản lý các giai đoạn khác nhau của vòng đời máy học, chẳng hạn như chuẩn bị dữ liệu, thử nghiệm máy học, xác thực và quản lý mô hình.
Nó có các công cụ để tự động hóa việc tiến hành thử nghiệm với nhiều nguồn dữ liệu khác nhau, thử nghiệm hàng nghìn mô hình và đánh giá những mô hình tốt nhất để triển khai trong môi trường sản xuất. Nó hỗ trợ xây dựng các mô hình cho nhiều loại mô hình AI khác nhau để giải quyết vấn đề theo chuỗi thời gian, xử lý ngôn ngữ tự nhiên và thị giác máy tính.
Với DataRobot, bạn có thể xây dựng bằng các mô hình có sẵn nên không cần phải viết mã. Ngoài ra, bạn có thể chọn cách tiếp cận dựa trên mã và triển khai các mô hình bằng mã tùy chỉnh.
DataRobot đi kèm với sổ ghi chép để viết và chỉnh sửa mã. Ngoài ra, bạn có thể sử dụng API để tạo mô hình trong IDE mà bạn chọn. Sử dụng GUI, bạn có thể theo dõi các thử nghiệm của mô hình của mình.
Khởi động AI
Chạy AI cố gắng giải quyết tình trạng sử dụng không đúng mức cơ sở hạ tầng AI, cụ thể là GPU. Nó giải quyết vấn đề này bằng cách thúc đẩy khả năng hiển thị của toàn bộ cơ sở hạ tầng và đảm bảo nó được sử dụng trong quá trình đào tạo.
Để làm được điều này, Run AI nằm giữa phần mềm MLOps và phần cứng của công ty. Khi chiếm giữ cấp độ này, tất cả các công việc đào tạo sau đó sẽ được thực hiện bằng Run AI. Ngược lại, nền tảng sẽ lên lịch để chạy từng tác vụ này.
Không có giới hạn về việc phần cứng cần dựa trên nền tảng đám mây như AWS và Google Cloud, tại chỗ hay giải pháp kết hợp. Nó cung cấp lớp trừu tượng cho các nhóm học máy bằng cách hoạt động như một nền tảng ảo hóa GPU. Bạn có thể chạy các tác vụ từ Jupyter Notebook, bash terminal hoặc PyCharm từ xa.
H2O.ai
H2O là một nền tảng học máy phân tán mã nguồn mở. Nó cho phép các nhóm cộng tác và tạo ra một kho lưu trữ mô hình trung tâm nơi các nhà khoa học dữ liệu có thể thử nghiệm và so sánh các mô hình khác nhau.
Là một nền tảng MLOps, H20 cung cấp một số tính năng chính. Đầu tiên, H2O cũng đơn giản hóa việc triển khai mô hình trên máy chủ dưới dạng điểm cuối REST. Cung cấp các chủ đề triển khai khác nhau như thử nghiệm A/B, mô hình Champoion-Challenger và triển khai mô hình đơn đơn giản.
Lưu trữ và quản lý dữ liệu, tạo phẩm, thử nghiệm, mô hình và triển khai trong quá trình đào tạo. Điều này cho phép lặp lại các mô hình. Nó cũng cho phép bạn quản lý quyền ở cấp độ nhóm và người dùng để quản lý mô hình và dữ liệu. Khi mô hình đang chạy, H2O cũng cung cấp khả năng giám sát thời gian thực về độ trôi của mô hình và các chỉ số hoạt động khác.
Độ dốc không gian giấy
Gradien giúp các nhà phát triển ở tất cả các giai đoạn trong vòng đời phát triển Machine Learning. Cung cấp sổ ghi chép được hỗ trợ bởi Jupyter nguồn mở để phát triển mô hình và đào tạo trên đám mây bằng cách sử dụng GPU mạnh mẽ. Điều này cho phép bạn nhanh chóng khám phá và tạo nguyên mẫu cho các mô hình.
Bạn có thể tự động hóa quy trình triển khai bằng cách tạo quy trình công việc. Các quy trình công việc này được xác định bằng cách mô tả các tác vụ trong YAML. Việc sử dụng quy trình làm việc giúp việc triển khai và chia sẻ các mô hình dễ dàng nhân rộng và do đó có thể mở rộng.
Nhìn chung, gradient cung cấp các vùng chứa, máy móc, dữ liệu, mô hình, số liệu, nhật ký và bí mật để giúp bạn quản lý các giai đoạn khác nhau trong quy trình phát triển mô hình học máy của mình. Đường dẫn của bạn chạy trên cụm Gradiet. Các cụm này nằm trên Paperspace Cloud, AWS, GCP, Azure hoặc các máy chủ khác. Bạn có thể tương tác với gradient bằng CLI hoặc SDK theo chương trình.
những từ cuối
MLOps là một cách tiếp cận hiệu quả và toàn diện để xây dựng, triển khai và quản lý các mô hình học máy trên quy mô lớn. MLOps dễ sử dụng, có thể mở rộng và bảo mật, khiến nó trở thành lựa chọn tốt cho các tổ chức thuộc mọi quy mô.
Trong bài viết này, chúng tôi đã đề cập đến MLOP, lý do tại sao việc triển khai chúng lại quan trọng, những gì liên quan và các nền tảng MLOps phổ biến khác nhau.
Sau đó, bạn có thể đọc phần so sánh của chúng tôi về Dataricks và Snowflake.
