Sau một sự kiện đau lòng liên quan đến một thiếu niên tự tử, Character.AI, nền tảng chatbot đang ngày càng phổ biến, đã quyết định tăng cường các biện pháp bảo vệ người dùng trẻ tuổi. Cụ thể, công ty đang triển khai một tính năng kiểm soát mới dành cho phụ huynh, cho phép họ có cái nhìn sâu sắc hơn về hoạt động của con cái trên nền tảng này. Tính năng mới này được thiết kế để cung cấp cho phụ huynh thông tin chi tiết về các tương tác của con họ với các nhân vật AI trên Character.AI. Điều này bao gồm nhật ký trò chuyện, cho phép phụ huynh xem những gì con họ đang thảo luận và liệu có bất kỳ nội dung nào đáng lo ngại hay không. Ngoài ra, tính năng này cũng sẽ cung cấp các cảnh báo nếu hệ thống phát hiện bất kỳ hành vi nào có thể gây hại, chẳng hạn như đề cập đến tự tử, tự làm hại bản thân hoặc bắt nạt trên mạng. Việc triển khai tính năng kiểm soát của phụ huynh là một phản ứng trực tiếp đối với những lo ngại ngày càng tăng về tác động của AI đối với sức khỏe tinh thần của thanh thiếu niên. Các chuyên gia đã cảnh báo về khả năng các chatbot AI có thể cung cấp thông tin sai lệch, khuyến khích các hành vi nguy hiểm hoặc thậm chí lợi dụng những người dùng dễ bị tổn thương. Sự ra đời của tính năng này được kỳ vọng sẽ giúp phụ huynh chủ động hơn trong việc bảo vệ con cái khỏi những rủi ro tiềm ẩn này. Tuy nhiên, một số người cũng bày tỏ lo ngại về quyền riêng tư liên quan đến tính năng mới này. Họ cho rằng việc cho phép phụ huynh theo dõi các cuộc trò chuyện của con cái có thể xâm phạm quyền riêng tư của thanh thiếu niên và làm suy yếu lòng tin giữa cha mẹ và con cái. Character.AI đã cố gắng giải quyết những lo ngại này bằng cách nhấn mạnh rằng tính năng này là tùy chọn và phụ huynh sẽ cần có sự đồng ý của con cái trước khi kích hoạt nó. Ngoài tính năng kiểm soát của phụ huynh, Character.AI cũng đang thực hiện các biện pháp khác để cải thiện an toàn cho người dùng. Công ty đang tăng cường các thuật toán phát hiện nội dung độc hại của mình và làm việc để cung cấp các nguồn lực và hỗ trợ tốt hơn cho những người dùng đang gặp khó khăn về sức khỏe tinh thần. Những nỗ lực này cho thấy cam kết của Character.AI trong việc tạo ra một môi trường trực tuyến an toàn và hỗ trợ cho tất cả người dùng, đặc biệt là thanh thiếu niên. Sự phát triển của AI đang diễn ra với tốc độ chóng mặt, và việc đảm bảo rằng công nghệ này được sử dụng một cách có trách nhiệm là vô cùng quan trọng. Các công ty như Character.AI cần tiếp tục đổi mới và phát triển các biện pháp bảo vệ để bảo vệ người dùng của họ khỏi những tác động tiêu cực tiềm ẩn của AI. Đồng thời, phụ huynh, giáo viên và các nhà hoạch định chính sách cần hợp tác để giáo dục thanh thiếu niên về những rủi ro và lợi ích của AI, và giúp họ phát triển các kỹ năng tư duy phản biện cần thiết để điều hướng bối cảnh kỹ thuật số ngày càng phức tạp.
