Character ai, nền tảng cho phép người dùng tạo và trò chuyện với các nhân vật ảo khác nhau, vừa công bố triển khai các tính năng mới nhằm tăng cường an toàn cho người dùng trẻ tuổi. Động thái này diễn ra sau một loạt các vụ kiện và chỉ trích nhắm vào công ty vì không bảo vệ trẻ em khỏi những nội dung độc hại và nguy hiểm trên nền tảng. Các tính năng mới chủ yếu cung cấp cho phụ huynh một bản tóm tắt về hoạt động của con cái họ trên Character ai. Điều này bao gồm thông tin về các nhân vật mà con họ đã tương tác, tần suất trò chuyện và các chủ đề được thảo luận. Phụ huynh cũng có thể thiết lập các cảnh báo để nhận thông báo nếu con cái họ tham gia vào các cuộc trò chuyện có nội dung nhạy cảm hoặc không phù hợp. Ngoài ra, Character ai cũng đang giới thiệu một hệ thống báo cáo được cải thiện, cho phép người dùng dễ dàng báo cáo các hành vi vi phạm hoặc nội dung không phù hợp. Công ty cam kết sẽ xem xét tất cả các báo cáo một cách nhanh chóng và thực hiện các hành động thích hợp, bao gồm cả việc xóa nội dung vi phạm và đình chỉ tài khoản người dùng. Việc bổ sung các công cụ giám sát phụ huynh là một bước đi quan trọng trong việc giải quyết những lo ngại về an toàn trực tuyến cho thanh thiếu niên. Tuy nhiên, một số nhà phê bình cho rằng các tính năng này vẫn chưa đủ và cần có thêm các biện pháp để bảo vệ trẻ em khỏi những rủi ro tiềm ẩn trên Character ai. Họ kêu gọi công ty tăng cường kiểm duyệt nội dung, cải thiện hệ thống xác minh tuổi và cung cấp nhiều nguồn lực hơn cho phụ huynh để giúp họ hiểu và quản lý hoạt động trực tuyến của con cái. Character ai cho biết họ đang tiếp tục đầu tư vào các công nghệ và quy trình mới để cải thiện an toàn cho người dùng. Công ty cũng đang hợp tác với các tổ chức an toàn trẻ em và các chuyên gia trong ngành để phát triển các phương pháp hay nhất và đảm bảo rằng nền tảng của họ là một môi trường an toàn và tích cực cho tất cả người dùng. Sự phát triển của trí tuệ nhân tạo và các nền tảng trò chuyện trực tuyến mang lại nhiều cơ hội sáng tạo và kết nối, nhưng đồng thời cũng đặt ra những thách thức về an toàn và bảo vệ người dùng, đặc biệt là trẻ em. Việc các công ty như Character ai chủ động triển khai các công cụ giám sát và tăng cường an ninh là rất quan trọng để đảm bảo rằng những công nghệ này được sử dụng một cách có trách nhiệm và mang lại lợi ích cho xã hội. Trong tương lai, chúng ta có thể kỳ vọng sẽ thấy nhiều nền tảng trực tuyến khác áp dụng các biện pháp tương tự để bảo vệ người dùng trẻ tuổi. Sự hợp tác giữa các công ty công nghệ, các tổ chức an toàn trẻ em và phụ huynh là chìa khóa để tạo ra một môi trường trực tuyến an toàn và lành mạnh cho tất cả mọi người.
