Phần mềm AI phát hiện deepfake chính xác đến 96%

Được phát triển bởi nhà nghiên cứu Intel Ilke Demir và Umur Ciftci từ Đại học New York tại Binghamton (Mỹ), FakeCatcher được gã khổng lồ sản xuất chip tuyên bố có khả năng trả về kết quả chỉ trong mili giây với tỷ lệ chính xác lên đến 96%.

Theo Intel, một số thiết bị hiện nay phát hiện deepfake dựa trên công nghệ deep learning phân tích dữ liệu video thô để tìm ra các dấu hiệu nhận biết giúp xác định đối tượng là giả mạo. FakeCatcher thực hiện một cách tiếp cận khác ngược lại, đó là phân tích các video thực để tìm ra các dấu hiệu trực quan cho thấy đối tượng là có thật.

Để nhận biết được điều này, phần mềm sẽ tìm kiếm những thay đổi dù là nhỏ nhất về màu sắc trong pixel của video nhận biết nhờ dòng máu từ tim bơm đi khắp cơ thể. Intel cho biết, các tín hiệu lưu lượng máu này được thu thập từ khắp nơi trên khuôn mặt và các thuật toán chuyển những tín hiệu này thành bản đồ không gian, cho phép mô hình deep learning phát hiện video có thật hay không.

Trong một cuộc phỏng vấn với VentureBeat, Ilke Demir giải thích rằng phương pháp tiếp cận của FakeCatcher dựa trên phương pháp chụp quang tuyến (PPG), là một phương pháp để xác định sự thay đổi của lưu lượng máu trong mô người. Nếu một người thật xuất hiện trên màn hình, mô của họ sẽ thay đổi màu sắc rất nhẹ khi máu được bơm qua các tĩnh mạch và chỉ nhìn thấy được từ kính hiển vi. Deepfakes không thể (hoặc ít nhất là chưa thể) tái tạo sự thay đổi này ở da người.

FakeCatcher được lưu trữ trên một máy chủ nhưng tương tác với video bằng nền tảng dựa trên web. FakeCatcher có thể được áp dụng rộng rãi để giúp ngăn người dùng tải các video deepfake có hại lên mạng xã hội và giúp các tổ chức tin tức tránh phát tán nội dung bị thao túng.

Intel đã sử dụng rộng rãi các công nghệ của riêng mình trong việc phát triển FakeCatcher, bao gồm bộ công cụ mã nguồn mở OpenVINO để tối ưu hóa mô hình deep learning và OpenCV để xử lý hình ảnh, video theo thời gian thực.

Các nhóm nhà phát triển cũng đã sử dụng nền tảng Open Visual Cloud để cung cấp phần mềm tích hợp cho bộ xử lý Xeon Scalable của Intel. Phần mềm FakeCatcher có thể chạy đồng thời tới 72 luồng phát hiện khác nhau trên bộ vi xử lý Xeon thế hệ thứ 3 mở rộng.

Trong những năm gần đây, lo ngại về sự lạm dụng video deepfake sử dụng các thuật toán AI để tạo ra cảnh quay giả về người nổi tiếng gây ra không ít rắc rối. Video deepfake có thể được sử dụng để khiến các chính trị gia hoặc người nổi tiếng đưa ra những phát biểu hoặc làm những điều không đúng sự thật. Không chỉ ảnh hưởng đến những người nổi tiếng mà ngay cả những công dân bình thường cũng đã từng là nạn nhân của deepfake.

Mùa hè 2022, Cục Điều tra Liên bang Mỹ (FBI) đã báo cáo với Trung tâm Khiếu nại Tội phạm Internet Mỹ rằng họ đã nhận được sự gia tăng các khiếu nại liên quan đến những người đang sử dụng deepfakes để nộp đơn cho các công việc từ xa.

Tuy nhiên, nếu có đủ thời gian và nguồn lực, những đối tượng thực hiện video giả vẫn có khả năng phát triển các thuật toán để đánh lừa FakeCatcher.