Bị điều tra, xóa tài khoản vì Google nhận sai ảnh 'nhạy cảm' – Tin Công Nghệ Số hóa


Web Suamaytinhits.com có bài: Bị điều tra, xóa tài khoản vì Google nhận sai ảnh 'nhạy cảm' – Tin Công Nghệ Số hóa Người đàn ông tên Mark bị khóa hàng loạt tài khoản như Gmail, Google Drive… và bị điều tra sau khi gửi ảnh của con trai cho bác sĩ. – Tin Công Nghệ

Một đêm tháng 2/2021, Mark, 40 tuổi sống ở Mỹ, nhận ra điểm thất thường trên vùng háng của đứa con trai mới biết đi. Ông và vợ định đưa con tới bệnh viện, nhưng phòng khám không làm việc vào cuối tuần và đang nằm ở phía trong Covid-19, nên ông quyết định gửi ảnh cho thầy thuốc chẩn đoán trước. Qua các bức ảnh, thầy thuốc đã kê toa thuốc để giúp giảm vết sưng. Thế nhưng, vợ chồng ông không biết chúng đã biết thành AI của Google thu thập và phân tích.

Mark và con trai. Ảnh: New York Times

Mark và con trai. Ảnh: New York Times

Mark cho biết ông sử dụng và phụ thuộc vào nhiều công ty Google như Gmail, đồng bộ lịch với Google Calendar, sử dụng điện thoại Android và lưu giữ ảnh trên Google Photos, cho dù mua gói cước mạng di động ảo Google Fi.

Hai ngày sau khi gửi ảnh con trai đến bác sĩ, smartphone của Mark hiện thông báo: “Tài khoản của bạn bị vô hiệu hóa vì nội dung có hại, vi phạm nghiêm trọng chủ trương của Google và có thể chứa nội dung bất hợp pháp”, cũng như “lạm dụng và bóc lột tình dục trẻ em”.

Ban đầu, Mark tỏ ra bối rối, sau đó nhớ ra bức ảnh đã chụp con trai. “Ôi trời, có lẽ Google tưởng đó là ảnh khiêu dâm trẻ em”, ông nghĩ.

Ông từng làm kỹ sư phần mềm đảm nhận các ứng dụng kiểm duyệt nội dung, do đó, ông nghĩ các hệ thống như vậy sẽ biết cách phân loại đâu là nội dung cần gắn cờ, đâu là nội dung hợp pháp. Ông gửi kiến nghị lên Google, lý giải bệnh lý của con trai và lý do chụp ảnh.

Trong thời kì đó, đồng loạt đơn vị Google mà Mark sử dụng bị tê liệt, bị xóa email, số liên lạc của bạn bè và đồng nghiệp, ảnh những năm tháng thứ nhất đời của con trai lưu trên Google Drive. Ông cũng không thu được mã bảo mật để đăng nhập tài khoản và nhiều vấn đề khác. “Bạn càng cho nhiều trứng trong 1 giỏ, giỏ càng dễ dẫn đến vỡ”, Mark nói.

Vài ngày sau, Google trả lời họ sẽ không phục hồi tài khoản nhưng không giải thích gì thêm.

Rắc rối với không dừng ở đó. Tháng 12/2021, ông thu được thông báo điều tra từ Sở công an San Francisco cùng lệnh khám xét nhà. Một thanh tra viên yêu cầu tất cả trong tài khoản của Mark, như lịch sử kiếm tìm trên Internet, lịch sử vị trí, tin nhắn, các tài liệu, ảnh, video nào đang lưu trữ trên dịch vụ Google. Thời gian tìm kiếm liên quan đến “bóc lột trẻ em” diễn ra trong vài tháng.

Đến tháng 2, điều tra viên Nicholas Hillard kết luận Mark không phạm tội. “Tôi định vị sự việc không đủ yếu tố cấu thành tội phạm và không có vụ vi phạm nào xảy ra”, Hillard viết trong báo cáo. Mark tiếp tục gửi kháng cáo lên Google kèm báo cáo của cảnh sát nhưng vô ích. Google thông báo tài khoản của ông sẽ bị xóa vĩnh viễn.

Mark chẳng cần là trường hợp duy nhất. Cassio, sống ở Texas, cũng chụp ảnh con trai một tuổi mình bị nhiễm khuẩn ở cơ quan mẫn cảm cho thầy thuốc và tài khoản Google của ông cũng bị khóa. “Tôi đang trong công đoạn mua nhà và ký hàng loạt tài liệu kỹ thuật số. Chúng được lưu trên Gmail nhưng sau đó bị khóa. Thật đau đầu”, Cassio chia sẻ.

Cách Google gắn cờ hình ảnh

Hàng triệu hình ảnh với nội dung trẻ con bị bóc lột hoặc lạm dụng tình dục được những ông lớn công nghệ gắn cờ mỗi năm. Năm 2021, chỉ riêng Google đã đệ trình hơn 600.000 báo cáo về tư liệu lạm dụng trẻ em, vô hiệu hóa tài khoản của hơn 270.000 người dùng.

Công cụ đầu tiên được ngành công nghệ sử dụng để phát giác nội dung khiêu dâm trẻ em là PhotoDNA, được Microsoft ban hành năm 2009. Đây là cơ sở dữ liệu ảnh có quy mô lớn được nhiều hãng công nghệ như Facebook sử dụng để đối sánh nhằm phát giác ảnh vi phạm bao gồm khi bị “băm” nhỏ.

Bước đột phá lớn hơn diễn ra năm 2018, khi Google ra công cụ riêng dựa theo AI để phát giác lượng lớn ảnh có nội dung xấu về trẻ con trong thời gian ngắn, kể cả khi chúng chưa được đăng lên mạng. Không chỉ tìm thấy những hình ảnh về trẻ bị lạm dụng đã biết, nó còn phát hiện nạn nhân vô danh và đề xuất đến chính quyền để giải cứu. Facebook sau đó cũng dùng công cụ này.

Với các hình ảnh tải lên như của Mark và Cassio, hệ thống của Google lập tức phân tích. Theo Jon Callas, chuyên gia công nghệ tại tổ chức tự do dân sự kỹ thuật số Electronic Frontier Foundation, qui trình này xem là Quét xâm nhập. “Đây chính xác là cơn ác mộng mà mọi thứ chúng ta đều lo ngại. Họ quét bộ ảnh gia đình bạn, sau đó bạn gặp rắc rối”, Callas nói.

Sau khi quét, AI gắn cờ các nội dung nghi ngờ. Một chuyên viên phê duyệt nội dung của Google sẽ coi xét các bức hình hoặc video này để xác định xem chúng có thật sự vi phạm không. Nếu có, tài khoản Google sẽ bị khóa, còn nội dung vi phạm có thể gửi đến CyberTipline, một tổ chức phi doanh thu thuộc Trung tâm quốc gia về trẻ con mất tích và bị bóc lột.

Theo Fallon McNulty, người quản lý CyberTipline, tổ chức này thu được 29,3 triệu báo cáo vào 2021, tức khoảng 80.000 báo cáo mỗi ngày. Hầu hết chúng là các tấm hình đã có trên Internet, do đấy đội ngũ 40 nhân sự của CyberTipline tập trung vào các bức hình mới, phân tích và gửi đến cơ quan thực thi pháp luật. Năm ngoái, tổ chức này cảnh báo các cơ quan chức năng về “hơn 4.260 nạn nhân tiềm năng là trẻ con mới”, gồm ảnh của Mark và Cassio, dù họ không có mục đích xấu.

Kate Klonick, Giáo sư luật tại Đại học St. John, cho là việc xác định hành vi của một người khi chia sẻ ảnh của mình lên các nền tảng trực tuyến là thử thách công nghệ. “Tình trạng lầm lẫn rất dễ xảy ra, do đó các dịch vụ cần bổ sung quy trình chặt chẽ hơn nhằm khôi phục tài khoản cho các người không có mục tiêu xấu”, bà Klonick cho biết.

Carissa Byrne Hessick, giáo sư luật tại Đại học Bắc Carolina và là chuyên gia về tội phạm khiêu dâm trẻ em, cho rằng không phải mọi thứ ảnh trẻ em khỏa thân đều là ảnh khiêu dâm, bóc lột hoặc lạm dụng. Theo Hessick, Google nên bổ sung các ngữ cảnh cụ thể với ảnh trẻ em khi phê duyệt qua AI, cùng theo đó đội ngũ phê duyệt là nhân loại cũng cần được theo dấu kỹ hơn các bức hình khi gắn cờ.

Google không đưa ra bình luận về các trường hợp cụ thể của Mark và Cassio. “Các tài liệu lạm dụng tình dục trẻ nhỏ là đáng ghê tởm. Chúng tôi cam đoan chống lại việc phát tán chúng trên các nền tảng của mình”, đại diện Google cho biết.

Bảo Lâm (theo New York Times )

Google, Trẻ em, Đời sống số hóa, Tình huống

Nội dung Bị điều tra, xóa tài khoản vì Google nhận sai ảnh 'nhạy cảm' – Tin Công Nghệ Số hóa được tổng hợp sưu tầm biên tập bởi: Sửa máy tính ITS. Mọi ý kiến vui lòng gửi Liên Hệ cho suamaytinhits.com để điều chỉnh. suamaytinhits.com tks.

Quảng Cáo
Đặt Banner Quảng cáo, Textlink, Guest Post
Liên Hệ Ngay: 1900636343

Bài Viết Liên Quan


Xếp Hạng
Quảng Cáo
Đặt Banner Quảng cáo, Textlink, Guest Post
Liên Hệ Ngay: 1900636343

Bài Viết Khác