Liệu chi phí ngày càng tăng và lượng khí thải carbon của máy học có thể giảm bớt bằng cách sử dụng phần cứng AI tương tự thay vì kỹ thuật số để khai thác khả năng xử lý nhanh, tiêu thụ ít năng lượng không?
Các nhà nghiên cứu Logan Wright và Tatsuhiro Onodera từ Đại học Cornell và NTT Research đã thấy trước thời điểm máy học (ML) sẽ được thực hiện bằng cách sử dụng phần cứng vật lý tiên tiến, chẳng hạn như hệ thống quang tử hoặc cơ học nano. Họ khẳng định những tiện ích cải tiến này có thể được sử dụng trong bối cảnh máy chủ và biên.
Nền tảng của các sáng kiến AI hiện nay, mạng lưới thần kinh sâu, phụ thuộc rất nhiều vào các bộ xử lý kỹ thuật số như GPU. Tuy nhiên, những lo ngại về chi phí tài chính và môi trường của học máy đã xuất hiện từ lâu, điều này đang dần hạn chế khả năng mở rộng của các mô hình học sâu.
Một số mô hình AI lớn phổ biến đã được đào tạo bằng cách sử dụng đánh giá vòng đời trong một nghiên cứu năm 2019 từ Đại học Massachusetts, Amherst. Người ta phát hiện ra rằng quy trình này có khả năng tạo ra hơn 626.000 pound carbon dioxide tương đương, hoặc gấp khoảng 5 lần lượng khí thải trong đời của một chiếc ô tô điển hình của Mỹ, bao gồm cả lượng khí thải được tạo ra trong quá trình sản xuất ô tô.
Vào ngày 19 tháng 7, Giám đốc điều hành Kazu Gomi của NTT Research đã tuyên bố rằng học máy không cần dựa vào các mạch kỹ thuật số và thay vào đó có thể hoạt động trên mạng thần kinh vật lý trong một phiên tại VentureBeat Hội nghị thượng đỉnh điều hành của Transform. Ngược lại với các phương pháp dựa trên phần mềm, phần cứng tương tự thực tế được sử dụng dưới dạng mạng lưới thần kinh nhân tạo để mô phỏng các nơ-ron.
“Một trong những lợi ích rõ ràng của việc sử dụng hệ thống analog thay vì kỹ thuật số là mức tiêu thụ năng lượng của AI. Vấn đề tiêu thụ là có thật, vì vậy câu hỏi đặt ra là đâu là những cách mới để giúp máy học nhanh hơn và tiết kiệm năng lượng hơn,” Gomi nói.
Analog AI nhằm mục đích thực hiện các phép tính hiệu quả hơn nhiều
Wright nhấn mạnh rằng mọi người không cố gắng nghĩ về cách tạo ra máy tính kỹ thuật số trong lịch sử ban đầu của AI.
“Họ đang cố gắng nghĩ cách chúng ta có thể mô phỏng bộ não, tất nhiên không phải là kỹ thuật số. Những gì tôi có trong đầu là một hệ thống tương tự và nó thực sự hiệu quả hơn nhiều trong việc thực hiện các loại phép tính diễn ra trong mạng lưới thần kinh sâu so với các mạch logic kỹ thuật số ngày nay,” anh giải thích.
Một ví dụ về phần cứng tương tự dành cho trí tuệ nhân tạo là bộ não, nhưng cũng có những hệ thống sử dụng quang học.
Tác động môi trường của AI khiến các quy định trở nên quan trọng cho một tương lai bền vững
“Ví dụ yêu thích của tôi là sóng, vì rất nhiều thứ như quang học đều dựa trên sóng. Ví dụ, trong bồn tắm, bạn có thể xây dựng bài toán để mã hóa một tập hợp số. Ở phía trước bồn tắm, bạn có thể thiết lập một sóng và chiều cao của sóng mang lại cho bạn vectơ X. Bạn để hệ thống phát triển trong một thời gian và sóng truyền sang đầu kia của bồn tắm. Sau một thời gian, bạn có thể đo chiều cao của nó và điều đó mang lại cho bạn một bộ số khác,” ông nói.
Về bản chất, thiên nhiên có khả năng tính toán. Ngoài ra, “bạn không cần phải cắm nó vào bất cứ thứ gì,” ông nói.
Liên doanh AI tương tự
Các nhà nghiên cứu đang sử dụng các chiến lược đa dạng để tạo ra công nghệ AI tương tự. Ví dụ, Nghiên cứu của IBM đã đầu tư vào các mạch tương tự, đặc biệt là công nghệ điện trở nhớ, để tính toán máy học.
“Nó khá hứa hẹn. Các mạch điện trở nhớ này có đặc tính là thông tin được tính toán một cách tự nhiên khi các electron ‘chảy’ qua mạch, cho phép chúng có khả năng tiêu thụ năng lượng thấp hơn nhiều so với các thiết bị điện tử kỹ thuật số,” Onodera giải thích.
Mặt khác, NTT Research đang tập trung vào một khuôn khổ rộng hơn không chỉ dành cho công nghệ điện trở nhớ.
Sử dụng dữ liệu để giảm chi phí chăm sóc sức khỏe
“Công việc của chúng tôi tập trung vào việc cho phép các hệ thống vật lý khác, chẳng hạn như các hệ thống dựa trên ánh sáng và cơ học (âm thanh), thực hiện học máy. Bằng cách đó, chúng tôi có thể tạo ra các cảm biến thông minh trong miền vật lý gốc nơi thông tin được tạo ra, chẳng hạn như trong trường hợp micrô thông minh hoặc máy ảnh thông minh,” ông nói.
Ví dụ, thần thoại và các công ty khởi nghiệp khác tập trung vào việc sử dụng các mạch AI tương tự, mà Wright gọi là “bước tiến tuyệt vời” và “có lẽ là cách rủi ro thấp nhất để truy cập vào mạng thần kinh tương tự. “Chỉ có thể cải thiện được rất nhiều về hiệu suất nếu phần cứng vẫn dựa trên thiết bị điện tử.”
Tương lai của AI tương tự sẽ là gì?
Một số công ty đang nghiên cứu AI tương tự, bao gồm LightMatter, Lightelligence và Luminous Computing. Họ sử dụng quang tử—quy trình tính toán bằng ánh sáng—thay vì dùng thiết bị điện tử. Wright cho rằng công nghệ này kém tiên tiến hơn và nguy hiểm hơn.
“Nhưng tiềm năng lâu dài còn thú vị hơn nhiều. Ông nói: Mạng lưới thần kinh dựa trên ánh sáng có thể tiết kiệm năng lượng hơn nhiều.
Tuy nhiên, ông cho biết, các vật liệu khác có thể được sử dụng để tạo ra máy tính, đặc biệt là cho trí tuệ nhân tạo.
Ông nói thêm: “Bạn có thể tạo ra nó từ vật liệu sinh học, điện hóa học (như bộ não của chúng ta) hoặc từ chất lỏng, sóng âm thanh (âm thanh) hoặc các vật thể cơ học, hiện đại hóa những chiếc máy tính cơ học đầu tiên”.
Chẳng hạn, bằng cách lặp đi lặp lại các dãy điện trở có thể lập trình thành các lớp phức tạp, MIT Research đã tiết lộ vào tuần trước rằng họ đã phát triển các điện trở lập trình proton mới, một mạng lưới gồm các nơ-ron nhân tạo tương tự và các khớp thần kinh có thể thực hiện các phép tính tương tự như mạng nơ-ron kỹ thuật số. Đây là một cột mốc quan trọng cho tương lai của AI tương tự.
Theo NTT Research, nó đang loại bỏ các chiến lược này và đặt ra các truy vấn dài hạn, mở rộng hơn nhiều.
Máy tính Qudit mở ra những khả năng vô tận bằng cách vượt qua hệ nhị phân
“Bài báo của chúng tôi cung cấp câu trả lời đầu tiên cho những câu hỏi này bằng cách cho chúng tôi biết cách chúng tôi có thể tạo ra một máy tính mạng thần kinh bằng cách sử dụng bất kỳ chất nền vật lý nào. Và cho đến nay, các tính toán của chúng tôi cho thấy rằng một ngày nào đó việc tạo ra những chiếc máy tính kỳ lạ này thực sự sẽ rất có ý nghĩa, vì chúng có thể hiệu quả hơn nhiều so với thiết bị điện tử kỹ thuật số và thậm chí cả thiết bị điện tử tương tự. Máy tính mạng nơ-ron dựa trên ánh sáng có vẻ như là phương pháp tốt nhất cho đến nay, nhưng ngay cả câu hỏi đó cũng chưa được giải đáp hoàn toàn,” Logan nói.
Tuy nhiên, AI tương tự không phải là lựa chọn duy nhất
Theo Sara Hooker, cựu nhà nghiên cứu của Google Brain, người hiện đang giám sát cơ sở nghiên cứu phi lợi nhuận Cohere cho AI, hoạt động kinh doanh AI “đang ở giai đoạn phần cứng thực sự thú vị”.
Cô nhấn mạnh rằng sự tiến bộ to lớn trong AI xảy ra cách đây mười năm là sự phát triển phần cứng.
“Mạng lưới thần kinh sâu không hoạt động cho đến khi GPU được sử dụng cho trò chơi điện tử [and] cô ấy chỉ được tái sử dụng cho các mạng lưới thần kinh sâu,” cô giải thích.
“Sự thay đổi gần như diễn ra ngay lập tức. Qua một đêm, 13.000 CPU cần tới hai GPU. Đó là mức độ kịch tính của nó,” cô nói.
Cô khẳng định rằng có thể có những phương pháp thay thế để mô tả thế giới có thể hiệu quả như kỹ thuật số.
“Nếu ngay cả một trong những hướng dữ liệu này bắt đầu cho thấy sự tiến bộ, thì nó có thể mở ra nhiều hiệu quả và các cách biểu diễn học tập khác nhau. Đó là điều khiến các phòng thí nghiệm đáng giá ủng hộ chúng,” cô giải thích.
Theo Hooker, người có bài báo năm 2020, “sự thành công của GPU dành cho mạng lưới thần kinh sâu” thực sự là một sự trùng hợp kỳ lạ và may mắn – đó là trúng số độc đắc.Xổ số phần cứng” đã xem xét lý do tại sao các công cụ phần cứng khác nhau thành công và thất bại.
Cô ấy nói, GPU được tạo ra cho trò chơi điện tử và không bao giờ dành cho máy học. Thời điểm lý tưởng để liên kết giữa các tiến bộ về phần cứng và mô hình hóa “phụ thuộc vào thời điểm phù hợp để liên kết giữa tiến trình về phía phần cứng và tiến trình về phía mô hình hóa. Cung cấp nhiều tùy chọn phần cứng hơn là thành phần quan trọng nhất vì nó mang lại nhiều khoảnh khắc bất ngờ hơn khi bạn nhìn thấy những đột phá đó,” cô nói.
Làm thế nào các nhóm có thể giảm lượng khí thải carbon của máy học
Tuy nhiên, AI tương tự không phải là giải pháp duy nhất được xem xét khi nói đến việc giảm giá và lượng khí thải carbon của trí tuệ nhân tạo. Ví dụ: các công cụ mới đang xuất hiện để giảm lượng khí thải carbon của AI. Ví dụ, mảng cổng lập trình trường (FPGA) đang được các nhà nghiên cứu coi là máy gia tốc dành riêng cho ứng dụng trong các trung tâm dữ liệu có thể giảm mức tiêu thụ năng lượng và tăng tốc độ hoạt động. Cô ấy nói rằng cũng có những sáng kiến để nâng cao công nghệ phần mềm.
Nhưng theo Hooker, phải nắm bắt cơ hội. Khi được hỏi liệu cô ấy có tin rằng những gã khổng lồ công nghệ lớn hỗ trợ tương lai tương tự và các dạng tương lai AI phi kỹ thuật số thay thế khác hay không, cô ấy nói: “Một trăm phần trăm. Có động cơ rõ ràng.”
Bà nói: “Việc đầu tư chỉ dựa vào các công ty luôn là điều khó khăn vì nó rất rủi ro. “Nó thường phải là một phần của chiến lược dân tộc chủ nghĩa để trở thành một ván cược dài hạn hấp dẫn.” Bà tiếp tục rằng cần có sự đầu tư nhất quán của chính phủ vào môi trường phần cứng dài hạn.
Mặc dù Hooker tuyên bố rằng cô ấy sẽ không dựa vào việc sử dụng rộng rãi phần cứng AI tương tự, nhưng cô ấy vẫn khẳng định rằng những nỗ lực nghiên cứu sẽ mang lại lợi ích cho hệ sinh thái.
“Nó giống như chuyến bay đầu tiên của NASA tới mặt trăng. Có rất nhiều đột phá khoa học xảy ra chỉ nhờ có một mục tiêu. Những người trong lĩnh vực này đều hiểu rằng phải đặt cược vào những dự án rủi ro hơn,” cô nói.
Các ứng dụng ngắn hạn của AI tương tự
Các nhà nghiên cứu của NTT đã nói rõ ràng rằng việc triển khai sớm nhất, chính xác nhất cho công việc AI tương tự của họ sẽ không có sẵn trong ít nhất 5 đến 10 năm. Thậm chí sau đó, chúng có thể sẽ được sử dụng đầu tiên cho các mục đích thích hợp như những mục đích ở rìa.
“Tôi nghĩ rằng hầu hết các ứng dụng trong thời gian ngắn sẽ diễn ra ở biên, nơi có ít tài nguyên hơn và bạn có thể không có nhiều năng lượng. Tôi nghĩ đó là nơi có tiềm năng nhất. Nhóm đang suy nghĩ về loại hệ thống vật lý nào sẽ có khả năng mở rộng cao nhất và mang lại lợi thế lớn nhất về hiệu quả sử dụng năng lượng và tốc độ. Nhưng về mặt thâm nhập vào cơ sở hạ tầng học sâu, điều này có thể sẽ diễn ra theo từng bước,” Wright nói.
“Tôi nghĩ nó sẽ dần dần xuất hiện trên thị trường, với một mạng nhiều lớp và có thể giao diện người dùng sẽ hoạt động trên miền analog,” ông nói. Ông nói thêm: “Tôi nghĩ đó là một cách tiếp cận bền vững hơn nhiều”.
