Roblox vừa tung ra tính năng AI mới với khả năng tự động viết lại các từ ngữ không phù hợp trong khung chat theo thời gian thực. Động thái này là nỗ lực mới nhất của nền tảng game khổng lồ nhằm làm sạch môi trường giao tiếp khi đang phải đối mặt với hàng loạt rắc rối pháp lý.

Trước đây, Roblox dùng bộ lọc chặn từ ngữ vi phạm bằng các chuỗi ký tự (####). Tuy nhiên, công ty thừa nhận việc xuất hiện quá nhiều ký tự này làm gián đoạn và gây khó khăn khi theo dõi hội thoại. Giải pháp AI mới sẽ thay thế các từ ngữ vi phạm bằng những cụm từ lịch sự hơn do hệ thống tự động đề xuất.

Cơ chế hoạt động của AI kiểm duyệt

Theo Rajiv Bhatia, Giám đốc An toàn của Roblox, hệ thống sẽ ưu tiên xử lý các từ ngữ tục tĩu trước tiên. Đây là một bước tiến lớn trong việc ứng dụng xử lý ngôn ngữ tự nhiên theo thời gian thực nhằm cải thiện trải nghiệm người chơi.

Ví dụ cụ thể về cách hệ thống hoạt động:

• Chuyển đổi trực tiếp: Nếu người dùng gửi tin nhắn "Hurry TF up", AI sẽ tự động đổi thành "Hurry up!".
• Minh bạch thông tin: Mọi thành viên trong nhóm chat đều thấy một thông báo nhỏ cho biết tin nhắn vừa được viết lại.
• Cảnh báo người gửi: Riêng người gửi sẽ nhìn thấy chính xác ngôn từ nào của mình bị hệ thống loại bỏ.
• Chế tài xử phạt: Việc AI sửa lỗi không giúp người dùng được "miễn trừ". Những ai liên tục chửi thề vẫn bị phạt vì vi phạm chính sách của Roblox.

Ông Bhatia cho biết hệ thống này tạo ra một "vòng lặp cho sự văn minh". Việc nhận phản hồi ngay lập tức giúp người dùng dễ dàng học hỏi và tuân thủ Tiêu chuẩn Cộng đồng.

Phạm vi triển khai và bài toán hạ tầng

Tính năng viết lại tin nhắn hiện chỉ được triển khai giới hạn. Nó áp dụng cho các cuộc trò chuyện giữa những người dùng đã xác minh độ tuổi và thuộc cùng một nhóm tuổi.

Hệ thống cũng hỗ trợ tất cả các ngôn ngữ đang có trong công cụ dịch tự động của trò chơi.

Việc vận hành một AI phân tích văn bản theo thời gian thực cho hàng chục triệu người chơi là một thách thức lớn. Nó đòi hỏi Roblox phải có hạ tầng máy chủ khổng lồ và sức mạnh điện toán đám mây vượt trội.

Các kỹ sư của hãng sẽ phải liên tục tối ưu hóa hệ thống vi dịch vụ phức tạp đứng sau công cụ này để đảm bảo độ trễ thấp nhất.

Bối cảnh: Áp lực pháp lý từ các cáo buộc nghiêm trọng

Việc nâng cấp AI kiểm duyệt diễn ra ngay lúc Roblox đang hứng chịu bão chỉ trích về vấn đề an toàn trẻ em.

Hồi tháng 1 năm nay, nền tảng này đã phải áp dụng hệ thống xác minh độ tuổi bắt buộc. Quyết định này được đưa ra sau hàng loạt báo cáo về "vấn nạn ấu dâm", khi nhiều kẻ xấu bị cáo buộc dùng game để dụ dỗ trẻ nhỏ.

Hiện tại, trẻ em dưới 13 tuổi không thể sử dụng tính năng chat trong game, ngoại trừ một số trải nghiệm đã được phê duyệt riêng.

Dù vậy, các biện pháp kiểm duyệt độ tuổi vẫn chưa đủ để ngăn chặn rắc rối pháp lý từ cơ quan chức năng:

• Tháng trước (Tháng 2/2026): Hạt LA (LA County) đệ đơn kiện, cáo buộc Roblox biết rõ nền tảng của họ "khiến trẻ em trở thành con mồi dễ dàng cho những kẻ ấu dâm".
• Đầu tháng này: Tổng chưởng lý bang Louisiana tiếp tục nộp đơn kiện. Ông tuyên bố nền tảng này đã "tạo ra một công viên công cộng và lấp đầy nó bằng những kẻ săn mồi tình dục nhắm vào trẻ em".

Hệ thống AI viết lại tin nhắn là nỗ lực công nghệ mới nhất của Roblox để làm sạch môi trường giao tiếp. Tuy nhiên, công ty vẫn còn chặng đường dài để giải quyết triệt để những hậu quả pháp lý từ các lỗ hổng an toàn trong quá khứ.