Giải pháp công nghệ mới nhằm xử lý khủng hoảng an toàn nền tảng
Roblox vừa tung ra tính năng AI mới với khả năng tự động viết lại các từ ngữ không phù hợp trong khung chat theo thời gian thực. Động thái này là nỗ lực mới nhất của nền tảng game khổng lồ nhằm làm sạch môi trường giao tiếp khi đang phải đối mặt với hàng loạt rắc rối pháp lý.
Trước đây, Roblox dùng bộ lọc chặn từ ngữ vi phạm bằng các chuỗi ký tự (####). Tuy nhiên, công ty thừa nhận việc xuất hiện quá nhiều ký tự này làm gián đoạn và gây khó khăn khi theo dõi hội thoại. Giải pháp AI mới sẽ thay thế các từ ngữ vi phạm bằng những cụm từ lịch sự hơn do hệ thống tự động đề xuất.
Theo Rajiv Bhatia, Giám đốc An toàn của Roblox, hệ thống sẽ ưu tiên xử lý các từ ngữ tục tĩu trước tiên. Đây là một bước tiến lớn trong việc ứng dụng xử lý ngôn ngữ tự nhiên theo thời gian thực nhằm cải thiện trải nghiệm người chơi.
Ví dụ cụ thể về cách hệ thống hoạt động:
Ông Bhatia cho biết hệ thống này tạo ra một "vòng lặp cho sự văn minh". Việc nhận phản hồi ngay lập tức giúp người dùng dễ dàng học hỏi và tuân thủ Tiêu chuẩn Cộng đồng.
Tính năng viết lại tin nhắn hiện chỉ được triển khai giới hạn. Nó áp dụng cho các cuộc trò chuyện giữa những người dùng đã xác minh độ tuổi và thuộc cùng một nhóm tuổi.
Hệ thống cũng hỗ trợ tất cả các ngôn ngữ đang có trong công cụ dịch tự động của trò chơi.
Việc vận hành một AI phân tích văn bản theo thời gian thực cho hàng chục triệu người chơi là một thách thức lớn. Nó đòi hỏi Roblox phải có hạ tầng máy chủ khổng lồ và sức mạnh điện toán đám mây vượt trội.
Các kỹ sư của hãng sẽ phải liên tục tối ưu hóa hệ thống vi dịch vụ phức tạp đứng sau công cụ này để đảm bảo độ trễ thấp nhất.
Việc nâng cấp AI kiểm duyệt diễn ra ngay lúc Roblox đang hứng chịu bão chỉ trích về vấn đề an toàn trẻ em.
Hồi tháng 1 năm nay, nền tảng này đã phải áp dụng hệ thống xác minh độ tuổi bắt buộc. Quyết định này được đưa ra sau hàng loạt báo cáo về "vấn nạn ấu dâm", khi nhiều kẻ xấu bị cáo buộc dùng game để dụ dỗ trẻ nhỏ.
Hiện tại, trẻ em dưới 13 tuổi không thể sử dụng tính năng chat trong game, ngoại trừ một số trải nghiệm đã được phê duyệt riêng.
Dù vậy, các biện pháp kiểm duyệt độ tuổi vẫn chưa đủ để ngăn chặn rắc rối pháp lý từ cơ quan chức năng:
Hệ thống AI viết lại tin nhắn là nỗ lực công nghệ mới nhất của Roblox để làm sạch môi trường giao tiếp. Tuy nhiên, công ty vẫn còn chặng đường dài để giải quyết triệt để những hậu quả pháp lý từ các lỗ hổng an toàn trong quá khứ.
