DALL-E, trí thông minh nhân tạo của OpenAI có khả năng tạo hình ảnh từ văn bản, giờ đây có thể chỉnh sửa hình ảnh có chứa khuôn mặt người. Cho đến thời điểm đó, tính năng này đã bị cấm vì sợ bị lợi dụng.
Người dùng AI chỉ có khả năng làm việc và chia sẻ khuôn mặt chân thực. Họ không thể tải lên bất kỳ ảnh nào có thể đại diện cho người thật, bao gồm ảnh của những người nổi tiếng và nhân vật của công chúng.
DALL-E đã được cải thiện về bảo mật
Trong một email gửi tới người dùng, công ty giải thích rằng họ đã đạt được nhiều tiến bộ về mặt bảo mật, giờ đây cho phép họ chấp nhận làm việc với khuôn mặt của người thật. Đặc biệt, nó đã cải thiện các bộ lọc của mình để loại bỏ các hình ảnh có chứa ” nội dung tình dục, chính trị và bạo lực “.
Do đó, người dùng DALL-E sẽ có thể tải lên ảnh của một người và tạo các biến thể của ảnh này hoặc sửa đổi các đặc điểm cụ thể của ảnh sau, chẳng hạn như quần áo hoặc kiểu tóc của một người. Điều này sẽ khiến nhiều người trong ngành công nghiệp sáng tạo hài lòng. Tuy nhiên, việc triển khai tính năng này sẽ gây khó khăn cho quá trình lọc của OpenAI, điều mà một số khách hàng đã phàn nàn trong quá khứ vì tính không chính xác của nó.
AI tạo nghệ thuật đang gây tranh cãi
Quyết định này cho thấy cách mà các nhà sản xuất trình tạo hình ảnh và người dùng của họ cố gắng quản lý các nhược điểm tiềm ẩn của công nghệ này, vốn có thể nhanh chóng bị những kẻ xấu lợi dụng thông qua việc tạo ra deepfakes đáng chú ý.
Ví dụ: nền tảng Ổn định khuếch tán, có sẵn trong mã nguồn mở mà không có bất kỳ hạn chế nào, đã được sử dụng để tạo deepfakes nội dung khiêu dâm không có sự đồng ý của những người nổi tiếng như Emma Watson. Khuếch tán ổn định, giống như tính năng mới trong OpenAI, cho phép chỉnh sửa khuôn mặt người. Tuy nhiên, OpenAI kén chọn hơn nhiều về việc sử dụng độc hại các công nghệ của mình, đặc biệt là vì nó là một công ty được hỗ trợ bởi những tên tuổi rất lớn trong lĩnh vực công nghệ như Microsoft, những người hoàn toàn không muốn dính dáng đến những vấn đề đen tối như vậy.
Ngoài những nguy hiểm mà chúng thể hiện, các AI tạo ra nghệ thuật là mục tiêu của các nghệ sĩ, những người cho rằng những công nghệ này, có khả năng tạo ra một tác phẩm ngay lập tức từ một vài từ, làm nghệ thuật và tác phẩm của họ trở thành kẻ phá hoại.
Nguồn: The Verge, TechCrunch
