Microsoft đã công bố ngày hôm qua (3) O đối ứng, một công cụ mã nguồn mở để giúp các nhà phát triển đánh giá tính bảo mật của hệ thống học máy của họ. Do sự gia tăng của các cuộc tấn công mạng, công ty liên tục cập nhật cơ sở hạ tầng bảo mật để tự bảo vệ mình trước các mối đe dọa và Counterfit đang ở đây để cải thiện biện pháp này.
Công cụ này tự động hóa các bài kiểm tra bảo mật của hệ thống trí tuệ nhân tạo, mục tiêu chính là giúp các công ty tin tưởng hơn rằng hệ thống AI của họ được bảo mật hiệu quả. Microsoft lưu ý rằng trong số 28 tổ chức mà họ đã phỏng vấn, bao gồm các công ty lớn nhất trong danh sách Fortune 500 của Hoa Kỳ, các chính phủ, tổ chức phi lợi nhuận và các doanh nghiệp vừa và nhỏ, 25 cảm thấy họ thiếu các cơ chế cần thiết để bảo vệ các hệ thống AIvà ngay cả khi các chuyên gia bảo mật của bạn đang tìm kiếm hướng dẫn để đối phó với các mối đe dọa mạng.
Counterfit giúp thực hiện đánh giá rủi ro bảo mật bằng AI để đảm bảo rằng các thuật toán được sử dụng trong các tổ chức là mạnh mẽ, an toàn và đáng tin cậy.
Theo Microsoft, Counterfit rất dễ sử dụng cho các nhóm bảo mật sử dụng Metasploit hoặc PowerShell Empyre. Công cụ mới có thể được sử dụng để kiểm tra thâm nhập và quét lỗ hổng, cũng như có thể ghi nhật ký các cuộc tấn công trên các mô hình AI để các nhóm nhà khoa học dữ liệu và kỹ thuật có thể tận dụng phép đo từ xa để tăng cường bảo mật hơn nữa cho hệ thống AI của họ.
Tiết lộ / Microsoft
Counterfit khởi đầu là một tập hợp các kịch bản tấn công được viết riêng để nhắm mục tiêu các mô hình AI riêng lẻ, và sau đó phát triển thành một công cụ tự động hóa tấn công nhiều hệ thống AI trên quy mô lớn.
Dự án mã nguồn mở Counterfit hiện có trên GitHub. Trên trang web, bạn có thể tìm thêm thông tin về cách triển khai nó trong tổ chức của mình.
Via: Neowin Nguồn: Microsoft
…..
