Làm sao có thể biết một hình ảnh hoặc video có do AI tạo ra hay không?

Nội dung do AI tạo ra thường chứa những dấu vết và điểm bất nhất tinh vi mà các công cụ chuyên dụng có thể phát hiện. Những công cụ này nhận diện các đặc điểm đặc trưng của ảnh tổng hợp, giúp phân biệt chúng với ảnh thật.

Công cụ phát hiện ảnh AI chính xác đến mức nào?

Trong một đánh giá độc lập do các nhà nghiên cứu tại Đại học Rochester và Đại học Kansas thực hiện với 80.000 hình ảnh từ nhiều công cụ tạo ảnh, công cụ của chúng tôi đạt độ chính xác cao nhất trong số các công cụ được thử nghiệm. Độ chính xác phụ thuộc vào công cụ tạo ảnh, chất lượng ảnh và quá trình hậu xử lý; không công cụ nào đáng tin cậy 100%, và kết quả nên được kết hợp với đánh giá của con người.

Công cụ có hoạt động khi không có siêu dữ liệu hoặc hình mờ không?

Có. Việc phát hiện dựa trên chính nội dung điểm ảnh của tệp. Công cụ không phụ thuộc vào siêu dữ liệu EXIF, thẻ nguồn gốc C2PA hay hình mờ hiển thị, vốn thường bị xóa khi hình ảnh được tải lên mạng xã hội, ứng dụng nhắn tin hoặc sàn thương mại.

Công cụ có thể phát hiện những công cụ tạo ảnh AI nào?

Công cụ bao quát tất cả các công cụ tạo ảnh lớn hiện nay, bao gồm Nano Banana, GPT 2, Grok Imagine, Midjourney, DALL-E 3, Imagen 3 và 4, Stable Diffusion (SD 1.5, SDXL, SD3), Flux, Ideogram, Adobe Firefly, Bing Image Creator và các công cụ tạo khuôn mặt dựa trên GAN. Công cụ được cập nhật liên tục khi có công cụ tạo ảnh mới ra mắt.

Công cụ có phát hiện được deepfake và hoán đổi khuôn mặt không?

Có. Bên cạnh phát hiện ảnh & video AI, chúng tôi cung cấp tính năng phát hiện deepfake chuyên biệt, giúp nhận diện hoán đổi khuôn mặt và các chỉnh sửa khuôn mặt bằng AI. Cả hai chạy trên cùng một lần tải lên, nên bạn nhận được một đánh giá tổng hợp.

Công cụ này có giống công cụ phát hiện deepfake không?

Hai công cụ có phần giao nhau nhưng không giống hệt. Phát hiện AI nhận diện mọi hình ảnh/video do AI tạo ra hoặc chỉnh sửa đáng kể. Phát hiện deepfake chuyên nhận diện hoán đổi khuôn mặt và chỉnh sửa khuôn mặt, một nhiệm vụ hẹp hơn. Chúng tôi cung cấp cả hai, và hầu hết người dùng đều được lợi khi sử dụng kết hợp.

Các bạn xử lý các công cụ tạo ảnh & video AI mới như thế nào?

Chúng tôi liên tục theo dõi các công cụ tạo mới và thường bổ sung chúng vào công cụ phát hiện trong vòng vài tuần sau khi ra mắt. Thường có một khoảng thời gian ngắn sau khi một mô hình ra mắt, khi độ chính xác phát hiện đối với nội dung của nó thấp hơn so với các công cụ tạo đã có từ trước.

Công cụ phát hiện nội dung AI có thể thay thế đánh giá của con người không?

Dù công cụ phát hiện nội dung AI cung cấp thông tin theo thời gian thực, nó không bao giờ nên được dùng để thay thế đánh giá của con người. Mỗi công cụ có thể có mức độ chính xác khác nhau. Điều quan trọng là bạn cần tự cân nhắc khi xem xét kết quả.

Công cụ phát hiện nội dung AI có những hạn chế gì?

Công cụ phát hiện nội dung AI có thể cho kết quả không chính xác: dương tính giả hoặc âm tính giả. Công cụ này cũng có thể gặp khó khăn với nội dung được tạo bởi các công cụ AI mà nó chưa từng gặp, chẳng hạn như các công cụ mới ra mắt. Trong một số trường hợp, hình ảnh cũng có thể đã bị chỉnh sửa nhiều nhằm né tránh việc phát hiện.

Điểm số được cung cấp có ý nghĩa gì?

Điểm số thể hiện mức độ tin cậy của API vào dự đoán của mình. Điểm càng cao cho thấy khả năng nội dung do AI tạo ra hoặc chỉnh sửa càng lớn, còn điểm thấp cho thấy điều ngược lại. Ngay cả khi API trả về điểm rất cao hoặc rất thấp, chẳng hạn 99% hoặc 1%, bạn vẫn cần xem xét bối cảnh và dùng đánh giá của con người để đưa ra kết luận cuối cùng.

Các bạn cập nhật các công cụ tạo nội dung AI mới như thế nào?

Chúng tôi thường xuyên thử nghiệm API với các công cụ tạo nội dung mới khi chúng xuất hiện trên thị trường, và cập nhật công cụ phát hiện để nhận diện chúng. Xin lưu ý rằng thường có một khoảng thời gian ngắn giữa lúc một công cụ tạo mới ra mắt và lúc nó được tích hợp đầy đủ vào hệ thống của chúng tôi.