AI đang ngày càng trở thành một công cụ mạnh mẽ để tạo nội dung, chúng tôi được nhắc nhở rằng công nghệ như vậy cũng có trách nhiệm và yêu cầu sử dụng hợp lý. Một sự cố gần đây liên quan đến người dùng nền tảng tạo nội dung AI, Midjourney, đã gói gọn những thách thức và trách nhiệm đi kèm với kỷ nguyên sáng tạo kỹ thuật số mới này.
Hậu quả của thí nghiệm AI của Brown
Người này, như được tiết lộ trong phần tiếp theo Twitter chủ đề, là người biên tập video Justin Brownngười đã chia sẻ kinh nghiệm của mình, cho biết: “Tôi đã bị cấm sử dụng Midjourney AI vì tạo ra những hình ảnh thực tế về các chính trị gia lừa dối vợ họ trong loạt phim có tên ‘AI sẽ cách mạng hóa ngành công nghiệp tống tiền’, đồng thời nói thêm rằng ‘khi được sử dụng với trí thông minh và mục đích, AI có thể trở thành một vũ khí.”
Tôi đã bị cấm sử dụng Midjourney AI vì tạo ra những hình ảnh thực tế về các chính trị gia lừa dối vợ họ trong loạt phim có tên “AI sẽ cách mạng hóa ngành tống tiền”
Một vài suy nghĩ về hình ảnh AI của một người giỏi làm đồ giả 🧵
Trump lừa dối vợ: pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) Ngày 26 tháng 5 năm 2023
Trong khi bài tập này có một thông điệp rõ ràng thì phản ứng của Midjourney lại nhanh chóng và rõ ràng. Nền tảng này đã cấm Brown, thể hiện cam kết chủ động chống lại việc phổ biến thông tin sai lệch do AI tạo ra. Khi chúng ta tiến gần hơn đến cuộc bầu cử năm 2024, những biện pháp như vậy dường như ngày càng cần thiết.
Midjourney và cộng sự có sẵn một số biện pháp bảo vệ an toàn, nhưng bạn có thể vượt qua chúng bằng những lời nhắc nhở sáng tạo hoặc các yêu cầu lặp đi lặp lại. Những trình tạo này chủ yếu chỉ tổng hợp các bức ảnh có sẵn trên internet. Quyền riêng tư, bản quyền, nhân phẩm và sự an toàn bị hủy hoại
Bernie lừa dối vợ: pic.twitter.com/uxSCXevQFd
– JustinTBrown (@JuuustinBrown) Ngày 26 tháng 5 năm 2023
Cài đặt giữa hành trình tốt nhất cho đầu ra nhất quán
Những biện pháp phòng ngừa cần thiết trong thời đại AI
Brown đã tạo ra các hình ảnh đại diện trực quan có các nhân vật chính trị nổi tiếng, bao gồm tổng thống đương nhiệm Joe Biden, cựu tổng thống Donald Trump, cựu thống đốc New Jersey Chris Christie và thống đốc Florida Ron DeSantis. Những hình ảnh bị chỉnh sửa này có mức độ đáng tin cậy khác nhau, trong đó có một số hình ảnh có sức thuyết phục đến mức đáng lo ngại.
Tuy nhiên, điều đáng chú ý là Brown chỉ bị trục xuất khỏi Midjourney sau khi anh ta phát sóng những đồ họa này trên Reddit, qua đó gợi ý về khả năng những người khác đã kín đáo tạo ra những hình ảnh tương tự mà Midjourney không hề biết. Sau khi các sáng tạo của anh ấy đạt được động lực nhất định trên Reddit, nhóm kiểm duyệt của nền tảng đã vào cuộc để xóa bộ truyện này, sau đó lệnh cấm của anh ấy khỏi Midjourney được thực hiện nhanh chóng.
Như Brown đã chia sẻ với PetaPixel“Sau khi thu hút được một số sức hút trên Reddit, bộ truyện này đã bị người kiểm duyệt xóa và lệnh cấm Giữa hành trình gần như ngay lập tức được áp dụng,” một câu chuyện thu hút sự chú ý một cách tinh vi đến một thực tế khá đáng lo ngại: khả năng những tác phẩm tương tự đang bay dưới radar.
Công bằng mà nói đối với Midjourney, lĩnh vực chính trị đã chứng kiến việc sử dụng các hình ảnh do AI tạo ra và làn sóng ngày càng tăng của các hình ảnh và giọng nói giả mạo đặt ra thách thức ghê gớm đối với tính toàn vẹn của các thủ tục tố tụng dân chủ. Tốt nhất nên tránh những sáng tạo có thiện chí như thế này, điều này nhấn mạnh sự cần thiết phải có lập trường nghiêm khắc, không khoan nhượng từ phía Midjourney.
Giá trị của lập luận này được hỗ trợ thêm bởi sự thừa nhận của chính Brown rằng một số hình ảnh đã được sử dụng lại bên ngoài bối cảnh ban đầu của chúng.
“Tôi chưa bao giờ trình bày những hình ảnh [in the photo series] như thật,” Brown nói PetaPixel. “Nhưng tôi biết rằng một số hình ảnh đó đã được người khác chụp và chia sẻ ngoài bối cảnh, vì vậy tôi sẽ không ngạc nhiên nếu có một số người tin rằng chúng là thật.”
Câu chuyện về cuộc gặp gỡ của Justin Brown với Midjourney đã làm sáng tỏ sức mạnh và sự nguy hiểm của công nghệ đang phát triển nhanh chóng này. Khi chúng ta mạnh dạn bước vào thời đại chế tạo kỹ thuật số, phản ứng nhanh chóng của Midjourney đóng vai trò như một lời nhắc nhở rõ ràng về nhu cầu cấp thiết về ranh giới đạo đức và kiểm soát nghiêm ngặt.
AI đạo đức: Hướng dẫn của AstraZeneca về các quy định hiện hành
Mặc dù những hình ảnh của Brown là một minh chứng mạnh mẽ về tiềm năng của AI, nhưng chúng cũng nhấn mạnh mức độ dễ dàng đáng báo động mà công nghệ này có thể bị lạm dụng. Khi nắm bắt tiềm năng của AI, chúng ta phải luôn cảnh giác, đảm bảo sức mạnh của nó được khai thác một cách có trách nhiệm, có đạo đức và quan tâm đến việc duy trì tính toàn vẹn của các quy trình dân chủ của chúng ta. Tương lai của AI là ở đây và đi kèm với đó là trách nhiệm mà chúng ta không thể bỏ qua.
