Những tuần qua, các công cụ AI tối tân với khả năng biến văn bản thành hình ảnh như Dall-E 2 và Imagen thu hút nhiều sự chú ý của giới công nghệ. Những tấm hình được tạo ra có vẻ lạ lùng, cho dù mang đường nét giống hội họa cổ điển. Chúng xuất hiện tràn ngập trên mạng xã hội, được rất nhiều người nổi tiếng chia sẻ và nhận định các AI này sẽ trở thành đạt cụ hùng cường cho người sáng tạo nội dung.
Dall-E 2 và Imagen chỉ mới mang tính thử nghiệm và chưa được ban bố ra thị trường, nhưng vẫn khiến giới chuyên gia lo ngại. Những AI này còn có thể tạo các bức ảnh gây phản cảm, thiên kiến về giới tính và văn hóa dựa theo dữ liệu huấn luyện, vốn dĩ là hàng triệu bức hình lấy từ Internet.
DALL-E 2 vẽ ảnh theo yêu cầu hoạt động thế nào. Video: OpenAI .
OpenAI hiện cho phép hàng ngàn con người tiếp cận và dùng thử Dall-E 2 sau khi ký cam đoan tuân thủ chặt chẽ chủ trương về nội dung, trong đó chưa được tạo và chia sẻ ảnh có thể gây hại. Trong khi đó, Google Research không cho giới nghiên cứu ngoài dịch vụ sử dụng Imagen.
Dấu hiệu về thiên kiến đã xuất hiện ở một bức hình do chính Google chia sẻ. “Có hai bức họa treo trên tường trong lâu đài hoàng gia. Bên trái là tranh sơn dầu về một vị vua gấu mèo. Bên cần là tranh sơn dầu về hoàng hậu gấu mèo”, dòng miêu tả ảnh có đoạn.
Hình ảnh cho thấy triệu chứng thiên kiến của Imagen. Ảnh: Google Research .
Bức ảnh đã được Imagen tạo nên đúng với mô tả, nhưng Arthur Holland Michel, chuyên gia về AI và công nghệ quan sát tại Hội đồng Carnegie về Đạo đức và Quan hệ Quốc tế (CCEIA) tại Mỹ, đã cho thấy hai con gấu mèo đều mặc trang phục hoàng gia phương Tây, dù văn bản mô tả không hề đề cập chi tiết về nhân tố này.
“Ngay cả các triệu chứng ngầm như vậy cũng khá nguy hiểm, bởi chúng cực khó bị phát hiện”, ông nói. “Không thể đề cập đến việc sử dụng rộng rãi những hệ thống này trong đời thực nếu chưa ngăn chặn được tai nạn này”.
Ghi nhận thiên kiến
AI đã xuất hiện nhiều trong cuộc đời thường nhật những năm qua, nhưng chỉ được công chúng chú ý thời gian gần đây. Các hệ thống nhận diện khuôn mặt ngày càng bị xét soi vì lo ngại về độ chính xác và thiên kiến với chủng tộc.
OpenAI và Google Research, nhà phát triển của Dall-E 2 và Imagen, công nhận AI của họ vẫn hiện hữu vấn đề trên khi đều đặn thể hiện hình ảnh dựa theo khuôn mẫu văn hóa, giới tính của phương Tây. Lama Ahmad, quản lý chương trình nghiên cứu chủ trương tại OpenAI, cho thấy các nhà nghiên cứu vẫn đang học cách đo lường mức độ thiên kiến của AI để điều tiết chúng.
Dall-E 2 và Imagen đều thu nhận văn bản để hoàn thành được hình ảnh, chúng phải được huấn luyện bằng hình ảnh và những đoạn chú giải đi kèm. OpenAI và Google Research lọc những dữ liệu độc hại như ảnh khiêu dâm khỏi cơ sở dữ liệu trước lúc huấn luyện AI, nhưng quy mô dữ liệu quá lớn khiến nỗ lực này vẫn có lỗ hổng và cho phép AI tạo ra hình ảnh độc hại.
Lọc dữ liệu cũng dẫn tới một vấn đề khác là sai lệch thông tin. “Ví dụ, phụ nữ xuất hiện nhiều hơn đàn ông trong số nội dung khiêu dâm, nên việc lọc tin tức này cũng làm giảm đáng kể dữ liệu phụ nữ trong cơ sở dữ liệu”, Ahmad nói.
Theo Julie Carpenter, nhà nghiên cứu tại Đại học Bách khoa bang California, loại toàn bộ nội dung xấu khỏi cơ sở dữ liệu là bất khả thi, bởi người đưa ra quyết định đánh dấu và xóa thông tin có thể đến từ các nền văn hóa khác nhau, dẫn tới khác biệt trong nhận thức và đánh giá nội dung.
“Công nghệ AI rất thú vị và cũng đều có thể làm tốt nhiều việc, chúng ta nên phối hợp với nó như một đối tác. Nhưng AI không hoàn hảo, nó còn nhiều hạn chế và người sử dụng cần hạ thấp hy vọng của mình. Nó không phải như trong phim”, Carpenter nhận xét.
Ông Michel cũng lo ngại rằng không giải pháp nào có thể ngăn chặn hoàn toàn những người muốn dùng AI cho mục tiêu xấu, giống như công nghệ deepfake đang bị lạm dụng để có những hình ảnh và video giả mạo hay bôi nhọ người khác.
Điệp Anh (theo CNN )
AI, OpenAI, Google, Công nghệ, Bối cảnh
Nội dung Sự thiên kiến trong những bức ảnh tạo bằng AI – Tin Công Nghệ Số hóa được tổng hợp sưu tầm biên tập bởi: Sửa máy tính ITS. Mọi ý kiến vui lòng gửi Liên Hệ cho suamaytinhits.com để điều chỉnh. suamaytinhits.com tks.
