Beberapa kemajuan AI dalam dekade terakhir dapat menyesatkan

Situs web ini dapat memperoleh komisi afiliasi dari tautan di situs web ini. Kondisi.

Selama dekade terakhir, kecerdasan buatan dan pembelajaran mesin telah muncul sebagai pusat penelitian utama, didorong oleh kemajuan dalam komputasi GPU, algoritme perangkat lunak, dan desain perangkat keras khusus. Data baru menunjukkan bahwa setidaknya beberapa peningkatan algoritmik selama dekade terakhir mungkin kurang dari yang diperkirakan sebelumnya.

Para peneliti yang mencoba memvalidasi peningkatan jangka panjang dalam berbagai algoritme AI telah menemukan situasi di mana pembaruan sederhana untuk solusi yang lebih lama memungkinkan mereka untuk meniru metode yang lebih baru yang harus menggantikannya. Tim membandingkan 81 algoritme tanam berbeda yang dikeluarkan selama periode sepuluh tahun dan tidak menemukan bukti yang jelas tentang peningkatan dalam jangka waktu tersebut.

Menurut David Blalock, seorang mahasiswa ilmu komputer di MIT yang mengerjakan proyek tersebut, setelah lima puluh esai “semakin tidak jelas”. Penasihat Blalock, Dr. John Guttag, terkejut dengan berita itu dan berkata Sains, Ini gergaji tua, kan? Jika Anda tidak dapat mengukur apa pun, sulit untuk melakukan yang lebih baik. “

Kebetulan, pertanyaan seperti inilah mengapa inisiatif MLPerf sangat penting. Kami membutuhkan tes objektif yang dapat digunakan peneliti untuk membandingkan model dan kinerja perangkat keras yang valid.

Keistimewaan yang ditemukan para peneliti adalah bahwa dalam beberapa kasus, algoritme yang lebih lama dan lebih sederhana memiliki peluang untuk mengadopsi metode yang lebih baru setelah memodifikasi metode lama untuk meningkatkan kinerjanya. . Dalam satu kasus, perbandingan tujuh algoritme rekomendasi media berbasis saraf mengungkapkan bahwa enam di antaranya lebih rendah daripada algoritme non-saraf yang lebih tua dan lebih sederhana. Perbandingan algoritme fotografi Cornell tidak menunjukkan peningkatan kinerja sejak 2006 setelah memperbarui metode lama:

Gambar dari Science

Ada beberapa hal yang ingin saya tekankan di sini: Pertama, ada banyak manfaat AI yang tidak realistis, seperti penyempurnaan video AI yang ditingkatkan, atau kemajuan dalam penglihatan kamera dan komputer. GPU jauh lebih baik dalam menghitung AI daripada pada tahun 2009, dan akselerator AVX-512 khusus AI pada tahun 2020 juga hilang pada tahun 2009.

Tetapi kami tidak berbicara tentang perangkat keras yang semakin besar atau lebih baik dalam mengimplementasikan algoritme AI. Kami membahas algoritma dan kompleksitasnya dalam model AI. Saya benar-benar belajar sesuatu tentang masalah ini; Teman saya David Cardinal dan saya telah mengerjakan sejumlah proyek terkait AI yang saya kerjakan dengan Proyek DS9 Premium. Perbaikan mendasar pada algoritme sulit dilakukan, dan banyak peneliti tidak disarankan untuk sepenuhnya menguji apakah metode baru memang lebih baik daripada yang lama – tetapi mungkin lebih baik jika Anda menemukan metode baru untuk melakukan sesuatu daripada berpura-pura untuk sesuatu yang lain.

Tentu saja, tidak semudah mengatakan bahwa model yang lebih baru tidak memberikan kontribusi apa pun yang berguna dalam hal ini. Jika seorang peneliti menemukan optimasi yang meningkatkan performa model baru, dan ternyata optimasi tersebut bekerja untuk model lama, bukan berarti model baru tersebut tidak relevan. Membangun model baru adalah optimasi pertama yang ditemukan.

Gambar di atas adalah apa yang disebut Gartner sebagai siklus hype. AI jelas satu-satu dan mengingat pentingnya teknologi ini untuk apa yang kita lihat dari perusahaan seperti Nvidia, Google, Facebook, Microsoft dan Intel hari ini akan dibahas untuk masa depan. Ketika berbicara tentang AI, kami telah melihat kesuksesan besar dengan berbagai mata pelajaran, seperti mengajar komputer untuk bermain game secara efektif dan melakukan banyak penelitian tentang mobil self-driving. Aplikasi pengguna utama saat ini masih cukup istimewa saat ini.

Saya tidak akan membaca ini sebagai bukti bahwa AI hanyalah udara panas, tetapi saya benar-benar mengatakan bahwa AI menaklukkan alam semesta dan menggantikan kita di puncak rantai makanan dengan sebutir garam. Kemajuan nyata di lapangan – setidaknya pada tingkat fundamental – mungkin lebih sulit dicapai daripada yang diperkirakan beberapa orang.

Kredit untuk gambar teratas: Getty Images

Baca sekarang: