Hình minh họa. Ảnh: Xinhua
Theo tờ Guardian (Anh), ngày càng nhiều doanh nghiệp chuyển sang sử dụng nội dung do AI tạo ra, được thể hiện như những trải nghiệm chân thực của khách hàng, nhưng những nhân vật đó thực chất không tồn tại.
Ví dụ, một công ty mỹ phẩm có thể đặt hàng video trông rất chân thực về cô gái 20 tuổi giấu tên đang thoa kem chống nắng bên cạnh hồ bơi ở Bali (Indonesia). Sau đó, thương hiệu này có thể đăng tải video lên thẳng các kênh mạng xã hội của họ, tạo cảm giác như thể video được đăng tải bởi người có tầm ảnh hưởng thực sự.
Việc sử dụng nội dung do AI tạo ra nhằm mô phỏng trải nghiệm khách hàng thực tế cũng đang được các doanh nghiệp tích cực tiếp cận. Trong đó có thể loại video mở hộp và phản ứng với sản phẩm mới trước máy quay.
Hiện không có quy định cụ thể nào yêu cầu các thương hiệu phải thông báo cho người tiêu dùng khi nội dung quảng cáo được AI tạo ra. Tại Liên minh châu Âu (EU), các quy định mới theo Đạo luật Trí tuệ Nhân tạo có hiệu lực vào tháng 8 tới yêu cầu nội dung do AI tạo ra hoặc chỉnh sửa, chẳng hạn như hình ảnh, âm thanh và video, phải được dán nhãn rõ ràng.
Nhóm bảo vệ người tiêu dùng Which? tại Anh nhận định rằng khách hàng nên được thông báo rõ ràng khi nội dung quảng cáo có sự xuất hiện của những người có ảnh hưởng do AI tạo ra thay vì người thật.
Biên tập viên Lisa Barber của Which? Tech, chia sẻ: “Điều tra gần đây của chúng tôi về deepfake trên mạng xã hội cho thấy điều đáng lo ngại là 70% người dùng không thể phân biệt chính xác tất cả video thật và giả mà chúng tôi cho họ xem. Điều đó có nghĩa là người tiêu dùng có thể thường xuyên bị đánh lừa bởi nội dung do AI tạo ra và trở thành mục tiêu của những kẻ lừa đảo. Thật đáng lo ngại khi người tiêu dùng không thể tin tưởng vào nội dung họ thấy trực tuyến. Các công ty phải minh bạch khi nội dung được tạo ra bằng AI”.
