Gần đây, một làn sóng video AI mang tính phân biệt chủng tộc, được tạo ra bằng công cụ Veo 3 của Google, đang tràn ngập nền tảng TikTok, gây ra nhiều lo ngại về khả năng kiểm soát nội dung và đạo đức trong phát triển trí tuệ nhân tạo. Sự xuất hiện của những video này, với chất lượng hình ảnh đáng kinh ngạc, đã đặt ra câu hỏi lớn về hiệu quả của các rào chắn an toàn mà các công ty công nghệ lớn như Google và TikTok đã cam kết.

Làn Sóng Video AI Độc Hại Trên TikTok

Kể từ khi Google phát hành công cụ tạo video AI Veo 3 vào tháng 5 vừa qua, vốn được ca ngợi là một bước tiến vượt bậc về độ chân thực của video AI, đã có những dấu hiệu đáng báo động về việc lạm dụng công nghệ này. Thay vì chỉ được dùng cho mục đích giải trí vô hại, Veo 3 đang bị lợi dụng để sản xuất và phát tán các nội dung mang tính thù ghét, phân biệt chủng tộc trên TikTok.

Theo báo cáo từ MediaMatters, nhiều tài khoản TikTok đã đăng tải các video AI sử dụng các khuôn mẫu phân biệt chủng tộc và bài Do Thái trong những tuần gần đây. Đáng chú ý, phần lớn nội dung độc hại này nhắm vào người da đen, miêu tả họ bằng những hình ảnh tiêu cực như "những nghi phạm quen thuộc" trong các vụ án, những bậc cha mẹ vô trách nhiệm, hay thậm chí là những con khỉ với sở thích dưa hấu. Nội dung cũng không ngần ngại tấn công người nhập cư và người Do Thái. Những video này thường chỉ dài tối đa tám giây và mang dấu mờ "Veo", xác nhận nguồn gốc từ mô hình AI hàng đầu của Google. Thật đáng buồn, một số video đã thu hút hàng triệu lượt xem, cho thấy mức độ lan truyền chóng mặt của chúng.

Độ Chân Thực Đáng Sợ Của Veo 3

Veo 3 thực sự là một bước nhảy vọt đáng lo ngại về chất lượng video AI. Khả năng tạo ra hình ảnh "pixel-perfect" của nó khiến người xem khó lòng phân biệt được đâu là thật, đâu là giả. Điều này, một mặt, mở ra vô vàn tiềm năng sáng tạo, nhưng mặt khác, lại trở thành con dao hai lưỡi khi rơi vào tay kẻ xấu. Google luôn nhấn mạnh các biện pháp bảo mật và "rào chắn" khi công bố các mô hình AI mới. Chẳng ai muốn một hệ thống AI từ chối hoàn thành nhiệm vụ chỉ vì một lỗi nhận diện sai, đúng không? Tuy nhiên, có vẻ như Veo 3 lại "dễ tính" hơn một chút. Các thử nghiệm đơn giản với Veo 3 đã cho thấy việc tái tạo các yếu tố trong những video độc hại này là điều không quá khó khăn.

Chính Sách Rõ Ràng, Thực Thi Lỏng Lẻo

TikTok có các điều khoản dịch vụ rất rõ ràng về việc cấm các loại nội dung này. "Chúng tôi không cho phép bất kỳ lời nói căm thù, hành vi thù ghét hoặc quảng bá các ý thức hệ thù ghét nào. Điều này bao gồm nội dung rõ ràng hoặc ngụ ý tấn công một nhóm được bảo vệ," hướng dẫn cộng đồng của họ nêu rõ. Thế nhưng, bất chấp lệnh cấm rõ ràng này, những video Veo 3 mang tính thù ghét vẫn cứ thế mà lan tràn không kiểm soát.

Trách Nhiệm Của Google và Thách Thức Chung

Về phía Google, họ cũng có một Chính sách Sử dụng Bị cấm toàn diện, cấm sử dụng các dịch vụ của mình để thúc đẩy lời nói căm thù, quấy rối, bắt nạt, đe dọa và lạm dụng. Rõ ràng, những video được MediaMatters phát hiện đều thuộc một hoặc nhiều danh mục này. Trong một thế giới lý tưởng, Veo 3 sẽ từ chối tạo ra những video như vậy. Nhưng sự mơ hồ trong các câu lệnh (prompt) và việc AI chưa thể hiểu được sự tinh tế của các khuôn mẫu phân biệt chủng tộc (ví dụ, việc sử dụng hình ảnh khỉ thay vì con người trong một số video) khiến việc lách luật trở nên dễ dàng.

TikTok, với tư cách là gã khổng lồ video xã hội hàng đầu thế giới, là nơi tự nhiên để những video này lan truyền. Tuy nhiên, vấn đề này không chỉ giới hạn ở TikTok. X (trước đây là Twitter) cũng đã nổi tiếng với việc kiểm duyệt rất hạn chế, dẫn đến sự bùng nổ của nội dung AI độc hại. Và tình hình có thể còn tồi tệ hơn trong tương lai gần. Google có kế hoạch tích hợp Veo 3 vào YouTube Shorts, điều này có thể khiến nội dung tương tự lan truyền dễ dàng hơn nữa trên YouTube.

Con Đường Phía Trước: Cuộc Đua Không Hồi Kết?

Cả TikTok và Google đều có những quy định cấm rõ ràng đối với loại nội dung này, lẽ ra phải ngăn chặn chúng xuất hiện hàng triệu lần trên mạng xã hội. Tuy nhiên, việc thực thi các chính sách đó lại đang thiếu sót. TikTok dường như không thể theo kịp với lượng video tải lên khổng lồ, và các rào chắn của Google dường như không đủ để ngăn chặn việc tạo ra nội dung độc hại này. Chúng ta vẫn đang chờ đợi phản hồi từ Google về các tính năng an toàn của Veo 3.

Từ khi AI tạo sinh ra đời, con người đã luôn tìm cách sử dụng nó để tạo ra nội dung gây tranh cãi và phân biệt chủng tộc. Google và các công ty khác luôn nói về các rào chắn để ngăn chặn việc lạm dụng, nhưng họ không thể bắt được mọi thứ. Sự chân thực của Veo 3 khiến nó đặc biệt hấp dẫn đối với những kẻ muốn truyền bá các khuôn mẫu thù ghét. Có lẽ, tất cả các rào chắn trên thế giới cũng không thể ngăn chặn hoàn toàn điều đó. Đây là một cuộc chiến không hồi kết giữa công nghệ và đạo đức, và chúng ta cần liên tục theo dõi để đảm bảo sự phát triển của AI không đi chệch hướng.