Deepfake đang bước vào giai đoạn nguy hiểm – Tin Công Nghệ Số hóa


Web Suamaytinhits.com có bài: Deepfake đang bước vào giai đoạn nguy hiểm – Tin Công Nghệ Số hóa Ngày càng nhiều sản phẩm deepfake được sử dụng một cách tinh vi, đặc biệt trong các video khiêu dâm nhưng chưa có cách xử lý phù hợp. – Tin Công Nghệ

Reuters dẫn lời các nhà nghiên cứu, dịch vụ công nghệ và nhà quản lý bảo rằng deepfake đang ở thời kì then chốt, dù chỉ mới xuất hiện khoảng 4 năm. Các chuyên gia cảnh báo công nghệ này đã tiên tấn tới mức khiến người xem khó có thể nhận thấy video nào là giả và đa phần người sử dụng có thể sử dụng chỉ còn một cái smartphone.

“Bạn muốn thấy bản thân trên TV hay đang đóng phim không? Có bao giờ bạn tự hỏi bản thân sẽ trông làm sao nếu được hoán đổi khuân mặt với bạn bè hay người nổi tiếng?” là mô tả của 1 phần mềm deepfake trên kho ứng dụng Android và iOS. Tuy nhiên, cùng ứng dụng trên, ở các trang web người lớn, nội dung quảng cáo được đổi thành: “Tự tạo phim khiêu dâm bằng deepfake chỉ trong 1 giây, làm giả bất cứ ai bạn muốn”.

Chỉ với một ứng dụng miễn phí trên điện thoại, người dùng đã có thể tạo ra được các video deepfake một cách dễ dàng. Ảnh: Khương Nha

Chỉ với một ứng dụng miễn phí trên điện thoại, người dùng có thể tạo ra các video deepfake một cách dễ dàng. Ảnh: Khương Nha

Theo hoạch toán của Sensity , trong hơn 14.000 video deepfake được đăng tải, có đến 96% là video khiêu dâm không được coi phép. Số video deepfake cũng tăng gần gấp đôi sau 6 tháng.

Henry Ajder, người đứng đầu cơ quan chính sách và quan hệ đối tác tại đơn vị AI Metaphysic, nghĩ rằng các video khiêu dâm thực hành bằng deepfake là một dạng “bạo lực Internet” với phụ nữ.

ExoClick, chuyên cung cấp dịch vụ quảng cáo trực tuyến, đã gỡ quảng cáo “tạo phim khiêu dâm trong một giây” và khẳng định sẽ không quảng bá cho công nghệ hoán đổi khuôn mặt một cách vô trách nhiệm như thế nữa.

Trên các kho ứng dụng như App Store, Google Play, ứng dụng deepfake này sẽ không nhắc đến tới việc có thể dùng làm tạo video khiêu dâm. Đại diện Apple cho thấy họ không có quy chế cụ thể về ứng dụng deepfake, nhưng có những nguyên lý chung là cấm các ứng dụng có nội dung phỉ báng, phân biệt đối xử hoặc có khả năng làm nhục, đe dọa hoặc làm hại bất kỳ ai. Bên cạnh đó, hãng cũng cấm nhà phát triển tiếp thị mặt hàng sai lệch, có thể khiến người sử dụng hiểu lầm.

Sau khi Reuters liên hệ về ứng dụng deepfake này, Goolge đã đổi xếp hạng phần mềm thành cho độ tuổi thanh thiếu niên trở lên thay vì ai cũng cũng đều có thể tải xuống như ban đầu do “nội dung nhạy cảm”.

Tuy nhiên, không phải ứng dụng deepfake nào cũng xấu. Một số chỉ cho phép người dùng hoán đổi hình ảnh trong những cảnh được chọn trước, đòi hỏi xác minh ID từ người được hoán đổi hoặc sử dụng AI để phát hiện nội dung khiêu dâm, dù không phải khi nào cũng hiệu quả.

Reface là một trong các ứng dụng hoán đổi khuôn mặt phổ biến nhất thế giới, đã thu hút hơn 100 triệu lượt tải xuống trên toàn cầu kể từ năm 2019. Ứng dụng bổ trợ người dùng ghép khuôn mặt với những người nổi tiếng, siêu anh hùng và các nhân vật meme để tạo video clip vui nhộn.

Công ty này cho biết đang sử dụng tính năng duyệt nội dung tự động và có cả người kiểm duyệt để chặn video khiêu dâm, cùng theo đó cũng có biện pháp khống chế khác để ngăn việc phần mềm được dùng cho mục tiêu xấu, như gắn nhãn để mọi người biết đó là video deepfake.

Theo Reuters , bộ xử lý smartphone ngày càng mạnh hơn và cũng có thể tương đương với cấu hình máy tính khiến uy tín video deepfake tốt hơn, xúc tấn công nghệ này nở rộ hơn. Các chuyên gia đầu ngành cho biết vào năm 2017, họ cần dữ liệu đầu vào lớn, khoảng vài nghìn ảnh, để tạo ra thể tạo nên video có bài bản nhưng ngày nay chỉ cần một ảnh.

Song song với tốc độ phát triển của công nghệ, các nhà lập pháp cũng đang chật vật tìm cách đặt ra quy định cho deepfake. Họ phải đối diện với các khó khăn mới về kỹ thuật và đạo đức. Tại Trung Quốc, Hàn Quốc và bang California ở Mỹ, đã có quy chế cho deepfake. Ví dụ, bất kể ai cố ý mô phỏng người nào đó trong video khiêu dâm mà chưa được phép có thể bị phạt 150.000 USD.

Marietje Schaake, Giám đốc chủ trương quốc tế tại Trung tâm chính sách mạng Đại học Stanford, cho thấy các luật mới cho không gian mạng, bao gồm Đạo luật AI được đề xuất ở Mỹ và GDPR ở châu Âu cũng đều có thể điều tiết lại phạm vi hoạt động của công nghệ deepfake, nhưng vẫn còn nhiều lỗ hổng. Bà nghĩ rằng nhiều nạn nhân của deepfake có thể sợ lên tiếng tố cáo.

Vào tháng 10, các nhà nghiên cứu tại Nghị viện châu Âu nói cần quy trách nhiệm cho nhiều tác nhân khác nhau, như nhà phát triển hoặc phân phối video khiêu dâm deepfake.

“Ngày nay, chỉ người đăng video bị tác động trách nhiệm. Tuy nhiên, nhiều người đã sử dụng các giải pháp khác nhau để phát tán video mà khỏi bị lộ danh tính. Sự can thiệp cụ thể của nước pháp luật với nội dung khiêu dâm deepfake còn thiếu”, Reuters dẫn lời các nhà nghiên cứu.

Mỹ Quyên (theo Reuters )

Deepfake, AI, hoán đổi khuôn mặt, Đời sống số hóa, Tình huống

Nội dung Deepfake đang bước vào giai đoạn nguy hiểm – Tin Công Nghệ Số hóa được tổng hợp sưu tầm biên tập bởi: Sửa máy tính ITS. Mọi ý kiến vui lòng gửi Liên Hệ cho suamaytinhits.com để điều chỉnh. suamaytinhits.com tks.

Quảng Cáo
Đặt Banner Quảng cáo, Textlink, Guest Post
Liên Hệ Ngay: 1900636343

Bài Viết Liên Quan


Xếp Hạng
Quảng Cáo
Đặt Banner Quảng cáo, Textlink, Guest Post
Liên Hệ Ngay: 1900636343

Bài Viết Khác