Những kẻ trộm đã sử dụng công nghệ deepfake âm thanh để sao chép giọng nói của một doanh nhân và yêu cầu chuyển khoản 35 triệu đô la vào tài khoản nước ngoài, theo một tài liệu tòa án có được bởi Forbes. Đó là vụ trộm “giọng trầm” thành công nhất cho đến nay, mặc dù nó có thể chỉ là một phần nhỏ của một xu hướng đang phát triển.
Công nghệ Deepfake khá nổi tiếng vào thời điểm này. Về cơ bản, mọi người đào tạo AI để tái tạo khuôn mặt của ai đó, thường là khuôn mặt của một diễn viên hoặc cá nhân nổi tiếng khác. Sau đó, AI có thể tạo hoạt ảnh và dán khuôn mặt này vào video tham chiếu, từ đó chèn chủ thể nhân bản vào một cảnh.
Nhưng bạn không thể chỉ đưa ai đó vào video mà không tạo lại giọng nói của họ. Và đó là lúc các kỹ năng tạo âm thanh phát huy tác dụng — bạn huấn luyện AI để tái tạo giọng nói của ai đó, sau đó cho AI biết phải nói gì bằng giọng nói của người đó.
Một khi công nghệ deepfake đạt đến mức độ hiện thực nhất định, các chuyên gia tin rằng nó sẽ thúc đẩy một kỷ nguyên mới của thông tin sai lệch, quấy rối và khởi động lại phim điên rồ. Nhưng có vẻ như công nghệ “giọng nói trầm” đã đạt được thời điểm lớn.
Trở lại năm 2020, một giám đốc ngân hàng ở UAE nhận được một cuộc điện thoại từ giám đốc của một công ty lớn. Theo giám đốc, một vụ mua lại lớn đang được thực hiện, vì vậy ông cần ngân hàng cho phép chuyển khoản 35 triệu đô la vào một số tài khoản ở Mỹ. Giám đốc đã chỉ vào các email từ một luật sư để xác nhận việc chuyển tiền, và vì mọi thứ có vẻ hợp pháp nên giám đốc ngân hàng đã thông qua.
Nhưng “giám đốc” của công ty này thực sự là một thuật toán “giọng trầm” được đào tạo để nghe như nạn nhân của nó. UAE hiện đang tìm kiếm sự hỗ trợ của Hoa Kỳ trong việc lấy lại số tiền bị mất, đã bị một nhóm gồm 17 tên trộm chuyển lậu vào các tài khoản trên toàn cầu.
Đây không phải là vụ trộm âm thanh sâu sắc đầu tiên, nhưng một lần nữa, nó là thành công nhất cho đến nay. Các hoạt động tương tự sẽ xảy ra trong tương lai, có thể ở quy mô lớn hơn nhiều. Vậy các doanh nghiệp và chính phủ có thể làm gì để giảm thiểu mối đe dọa? Chà, thật khó nói.
Bởi vì deepfakes không ngừng được cải thiện, cuối cùng chúng sẽ trở nên quá thuyết phục để con người xác định đúng. Nhưng AI được đào tạo có thể phát hiện ra các lỗi sâu, vì khuôn mặt và giọng nói được nhân bản thường chứa các lỗi nhỏ và sai lầm, chẳng hạn như tiếng ồn kỹ thuật số hoặc âm thanh nhỏ mà con người không thể tạo ra.
Nguồn: Forbes
