Deepfake (một từ ghép của "deep learning" và "fake") là một kỹ thuật để tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo (AI). Nó được sử dụng để kết hợp và chồng các hình ảnh và video hiện có lên các hình ảnh hoặc video nguồn bằng cách sử dụng một kỹ thuật học máy (machine learning) được gọi là Generative Adversarial Network (tạm dịch là mạng chống đối tạo sinh). Cụm từ Deepfake đã được đặt ra vào năm 2017.
Vì những khả năng này, deepfake được sử dụng để tạo tin tức giả và những trò lừa đảo độc hại.
Video deepfake được tạo sử dụng hai hệ thống AI, một hệ thống được gọi là generator (bộ tạo) và hệ thống còn lại gọi là discriminator (bộ phân biệt). Generator tạo một clip video giả và sau đó yêu cầu discriminator xác nhận xem đâu là clip giả, đâu là clip thật. Mỗi lần discriminator phân biệt chính xác một video clip giả, nó sẽ cung cấp cho generator một manh mối về những việc không nên làm khi tạo clip tiếp theo.
Generator và discriminator tạo một thứ được gọi là Generative Adversarial Network (GAN). Bước đầu tiên là thiết lập một mạng GAN để xác định đầu ra mong muốn và tạo cơ sở dữ liệu đào tạo cho generator. Khi generator bắt đầu tạo mức đầu ra chấp nhận được, video clip có thể được cấp cho discriminator.
Generator và discriminator liên tục cải thiện khả năng trong quá trình tạo video deepfake. Khi generator làm tốt hơn trong việc tạo video clip giả, discriminator cũng tăng khả năng phát hiện ra chúng. Ngược lại, khi discriminator phát hiện video giả tốt hơn, generator cũng tạo video giả ngày một tinh vi.
Cho đến gần đây, nội dung video đã khó thay đổi hơn. Tuy nhiên, vì deepfake được tạo thông qua AI, nên chúng không yêu cầu kỹ năng đáng kể để tạo một video thực tế. Thật không may, điều này có nghĩa là bất cứ ai cũng có thể tạo ra một deepfake. Một điều nguy hiểm nữa là mọi người sẽ không tin tưởng vào tính hợp lệ của bất cứ nội dung video nào nữa.
