MIT mengembangkan AI yang mendeteksi artikel dan semua jenis teks yang dihasilkan oleh AI lain
Penggunaan kecerdasan buatan semakin meningkat, dan beberapa di antaranya fokus pada bahasa, seperti Microsoft AI itu berjanji untuk meningkatkan tulisan kami secara otomatis. Dengan contoh lain, seperti Deep TabNine, alat yang membantu pengembang melalui Deep Learning, jelas bahwa AI dapat meningkatkan dan melanjutkan pekerjaan manusia, tetapi apa yang terjadi ketika pekerjaan AI berfokus pada analisis pekerjaan AI lain?
Di tengah – tengah
Kecerdasan buatan yang mendeteksi karya kecerdasan buatan lain
Saat ini ada kecerdasan buatan yang mampu membuat berita palsu dalam hitungan detik. Kemampuan untuk membedakan kapan teks telah ditulis oleh AI dan kapan tidak Itu menjadi lebih penting dari sebelumnya (meskipun bukan hanya AI yang menciptakan berita palsu). Dari MIT-IBM Watson Lab mereka telah menciptakan GLTR, alat demonstrasi yang memungkinkan "inspeksi forensik sidik jari visual dari model bahasa dalam teks input".
Dengan kata lain, Itu mampu mendeteksi fragmen teks yang telah dihasilkan oleh algoritma. Alat ini dapat diuji oleh siapa saja, dengan tiga sampel teks yang dihasilkan oleh AI, dan tiga contoh artikel buatan manusia lainnya.
Kata-kata diidentifikasi oleh warna. Ketika sebuah kata sangat mungkin muncul setelah kata sebelumnya, itu muncul hijau. Ketika kecil kemungkinannya, mereka ditandai dengan warna kuning dan merah, dan akhirnya, dalam warna ungu. Jika suatu teks memuat banyak kata-kata yang tidak mungkin, kita dapat mulai curiga yang mungkin telah dihasilkan dengan AI.
Menguji alat
Teks yang ditandai ditulis oleh kami, sisanya, oleh AI.
Untuk menguji alat ini, kami menggunakan alat yang kami bicarakan beberapa waktu lalu: Talk To Transformer. Ini bertanggung jawab untuk mengotomatiskan teks yang kita tulis, terkadang dengan lebih sukses, kadang dengan lebih sedikit. Dalam hal ini, telah mendeteksi sebagai tiga kata yang tidak mungkin kita tulis (Teks kami berakhir dengan 'AI' dari kalimat pertama), dan di seluruh teks terus mendeteksi kata-kata yang tidak mungkin.
Alat ini masih memiliki banyak pekerjaan di depannya, karena pendeteksian kata-kata yang mungkin atau tidak mungkin, seperti yang dapat ditunjukkan dengan teks apa pun, mungkin tidak cukup untuk mengetahui apakah suatu teks itu salah atau tidak.
Namun, dari 'AI' kedua, semua teks dihasilkan oleh AI, sehingga pengoperasian alat ini masih memiliki cara untuk melanjutkan. Untuk mengatakan, dalam mendukung Talk To Transformer, bahwa, kadang-kadang, ia mencapai banyak koherensi ketika datang untuk menghasilkan teks, yang dapat membuat pendeteksiannya sulit. Namun, Sangat mengherankan bahwa AI dilatih untuk menganalisis informasi yang dihasilkan oleh AI, dengan orientasi untuk mendeteksi ketika kita membaca informasi palsu dan ketika kita tidak.
Share MIT mengembangkan AI yang mendeteksi artikel dan semua jenis teks yang dihasilkan oleh AI lain
