Tin tức và phân tích của tất cả các thiết bị di động

Làm thế nào một máy chiếu trị giá 300 đô la có thể đánh lừa Tesla khuyết Autopilot

Phóng to / Hình ảnh này, được chụp từ bên trong của Tesla Model X, cho thấy hình ảnh được chiếu của một chiếc ô tô phía trước Model X. Hình nhỏ ở phía dưới bên phải, được tạo bởi Nassi từ nhật ký của Model X, cho thấy Model X phát hiện hình chiếu như một chiếc xe thực sự.

Ben Nassi

Sáu tháng trước, Ben Nassi, một sinh viên tiến sĩ tại Đại học Ben-Gurion được giáo sư Yuval Elovici khuyên, đã thực hiện một loạt các cuộc tấn công giả mạo thành công với Hệ thống hỗ trợ người lái Mobileye 630 Pro sử dụng máy bay không người lái và máy chiếu chạy bằng pin rẻ tiền. Kể từ đó, anh ta đã mở rộng kỹ thuật để thử nghiệm cũng thành công với việc sử dụng Tesla Model X và nhầm lẫn sẽ trình bày những phát hiện của mình tại hội nghị Cybertech Israel ở Tel Aviv.

Các cuộc tấn công giả mạo chủ yếu dựa vào sự khác biệt giữa nhận dạng hình ảnh của con người và AI. Đối với hầu hết các hình ảnh, Nassi và nhóm của ông dự kiến ​​sẽ troll Tesla sẽ không đánh lừa một người lái xe người điển hình trên thực tế, một số cuộc tấn công giả mạo gần như là steganographic, dựa vào sự khác biệt trong nhận thức không chỉ giúp cho những nỗ lực giả mạo thành công mà còn cũng để che giấu chúng khỏi các nhà quan sát con người.

  • Đây là khung từ quảng cáo bạn có thể thấy trên bảng quảng cáo kỹ thuật số, có chèn dấu giới hạn tốc độ giả. Nó chỉ xuất hiện trong một phần tám giây và hầu hết các trình điều khiển sẽ bỏ lỡ nó nhưng nhận dạng hình ảnh AI nhận ra nó.

  • Con người sẽ không rơi vào biển báo giả được chiếu vào lá cây. Nhưng nhận dạng hình ảnh AI nói chung sẽ.

  • Con người chắc chắn sẽ nhận thấy những điểm đánh dấu làn đường dự kiến ​​nhưng sẽ không thể tôn vinh họ. Autopilot trong Tesla Model X đã đưa họ trở thành hợp pháp và được theo dõi.

Nassi đã tạo ra một video phác thảo những gì anh ta thấy là sự nguy hiểm của các cuộc tấn công giả mạo này, mà anh ta gọi là "Phantom of the ADAS", và một trang web nhỏ cung cấp video, một bản tóm tắt phác thảo công việc của anh ta và bản thân tài liệu tham khảo đầy đủ. Chúng tôi không nhất thiết phải đồng ý với phần quay mà Nassi đã thực hiện trong phần lớn công việc của mình, có vẻ như chúng tôi giống như Tesla phản ứng khá hợp lý và tốt với những nỗ lực cố tình này để gây nhầm lẫn cho các cảm biến của nó. Chúng tôi nghĩ rằng loại công việc này là quan trọng, tuy nhiên, vì nó cho thấy sự cần thiết phải thiết kế phòng thủ của hệ thống lái xe bán tự trị.

Nassi và nhóm của mình giả mạo Model X được thực hiện với một trợ lý người cầm máy chiếu, do luật máy bay không người lái ở quốc gia nơi các thí nghiệm được thực hiện. Nhưng việc giả mạo cũng có thể được thực hiện bởi drone, vì các cuộc tấn công giả mạo trước đó của anh ta vào hệ thống hỗ trợ người lái Mobileye là.

Từ góc độ an ninh, góc độ thú vị ở đây là kẻ tấn công không bao giờ phải ở hiện trường vụ tấn công và không cần để lại bất kỳ bằng chứng nào phía sau vụ tấn công và kẻ tấn công không cần nhiều chuyên môn kỹ thuật. Một thiếu niên với một máy bay không người lái trị giá 400 đô la và một máy chiếu chạy bằng pin có thể giải quyết vấn đề này một cách hợp lý mà không cần biết nhiều hơn "này, sẽ rất vui khi troll xe ô tô xuống đường cao tốc, phải không?" Thiết bị này không cần phải đắt tiền hay đội ngũ của Nass Nassi đã sử dụng thành công một số máy chiếu trị giá 200 – 300 đô la, một trong số đó được đánh giá chỉ có độ phân giải 854×480 và 100 lumens.

Đây là video "Phantom of the ADAS" đầy đủ. Hiệu ứng của các vạch kẻ đường được chiếu trên Model X ở chế độ Tự động lái, tại 2: 02, đặc biệt thú vị.

Tất nhiên, không ai nên để một chiếc Tesla tự lái mà không bị giám sát ở nơi đầu tiên, Autopilot là một Cấp độ 2 Hệ thống hỗ trợ người lái, không phải bộ điều khiển cho một chiếc xe tự trị hoàn toàn. Mặc dù Tesla đã không trả lời các yêu cầu bình luận về hồ sơ, bộ công cụ báo chí của công ty mô tả Autopilot rất rõ ràng (nhấn mạnh chúng tôi):

Autopilot chỉ dành cho sử dụng với người lái xe chu đáo, có tay trên bánh xe và sẵn sàng tiếp quản bất cứ lúc nào. Mặc dù Autopilot được thiết kế để trở nên có khả năng hơn theo thời gian, nhưng ở dạng hiện tại, nó không phải là một hệ thống tự lái, nó không biến Tesla thành một chiếc xe tự trị, và nó không cho phép người lái xe thoái thác trách nhiệm. Khi được sử dụng đúng cách, Autopilot sẽ giảm khối lượng công việc chung của người lái và sự dư thừa của tám camera bên ngoài, radar và 12 cảm biến siêu âm cung cấp thêm một lớp an toàn mà hai mắt không thể có được.

Ngay cả cái tên "Autopilot" cũng không phù hợp như nhiều người cho rằng ít nhất, nếu không ai hiểu được thực tế của các hệ thống lái tự động hàng không và hàng hải hiện đại ngay từ đầu. Wikipedia tham khảo Cẩm nang Hệ thống điện tử nâng cao của FAA khi định nghĩa tự động là "hệ thống không thay thế người điều khiển, nhưng thay vào đó hỗ trợ họ điều khiển phương tiện." Trên trang đầu tiên của chương Cẩm nang hệ thống điện tử nâng cao về điều khiển bay tự động, có ghi: "Ngoài việc học cách sử dụng chế độ lái tự động, bạn cũng phải tìm hiểu khi nào nên sử dụng và khi nào không sử dụng nó."

Trong những hạn chế này, ngay cả những phản hồi tồi tệ nhất được thể hiện trong video của Nassi về Model X đang chuyển sang đánh dấu làn đường giả trên đường trên đường dường như không tệ lắm. Trên thực tế, đoạn clip đó cho thấy chính xác những gì sẽ xảy ra: chủ sở hữu của Model X, lo ngại về việc chiếc xe đắt tiền của anh ta có thể làm gì, phanh lại và điều khiển bằng tay sau khi Autopilot đi theo hướng không an toàn.

Vấn đề là, có lý do chính đáng để tin rằng có quá nhiều tài xế không tin rằng họ thực sự cần phải chú ý. Một cuộc khảo sát năm 2019 đã chứng minh rằng gần một nửa số tài xế được thăm dò tin rằng an toàn khi rời tay khỏi bánh xe trong khi Autopilot đang bật, và sáu phần trăm thậm chí nghĩ rằng ngủ trưa là ổn. Gần đây, Thượng nghị sĩ Edward Markey (D-Mass.) Kêu gọi Tesla cải thiện sự rõ ràng về tiếp thị và tài liệu của mình, và ứng cử viên tổng thống của đảng Dân chủ Andrew Yang đã rảnh tay trong một chiến dịch quảng cáo giống như Elon Musk đã làm trước ông, trong một năm 2018 60 phút bộ phận.

Đã đến lúc phải xem xét luật pháp về máy bay không người lái và máy chiếu cụ thể, theo cách tương tự như con trỏ laser được quy định sau khi chúng trở nên phổ biến và rẻ tiền. Một số kỹ thuật được sử dụng trong các cuộc tấn công giả mạo được thực hiện ở đây cũng có thể gây nhầm lẫn cho các trình điều khiển của con người. Và mặc dù các trình điều khiển của con người ít nhất là có sẵn về mặt lý thuyết, cảnh giác và sẵn sàng tiếp nhận bất kỳ hệ thống AI bối rối nào hiện nay, điều đó sẽ không xảy ra mãi mãi. Sẽ là một ý tưởng tốt để bắt đầu làm việc theo các quy định cấm giả mạo cảm biến xe trước chúng ta không còn có con người ủng hộ họ nữa.