Discord đã cập nhật chính sách của mình nhằm bảo vệ trẻ em và thanh thiếu niên trên nền tảng của mình sau khi có báo cáo cho thấy các tội phạm đã sử dụng ứng dụng này để tạo và truyền tải tài liệu lạm dụng tình dục trẻ em (CSAM), cũng như làm thuận lợi cho các thanh thiếu niên trẻ. Nền tảng này bây giờ rõ ràng cấm các CSAM được tạo ra bằng AI. Như The Washington Post gần đây đã báo cáo, sự tăng trưởng của AI tạo ra cũng đã dẫn đến sự nổi lên của các hình ảnh giống thật với các phần minh họa tình dục trẻ em. Tạp chí đã thấy các cuộc trò chuyện về việc sử dụng Midjourney – một AI từ văn bản sang hình ảnh trên Discord – để tạo ra các hình ảnh không phù hợp về trẻ em.
Ngoài việc cấm các CSAM được tạo ra bằng AI, Discord bây giờ cũng rõ ràng cấm bất kỳ loại nội dung văn bản hoặc phương tiện truyền thông nào khác có tính chất minh họa tình dục trẻ em. Nền tảng này đã cấm các máy chủ hẹn hò thanh thiếu niên, và đã cam kết sẽ thực hiện hành động đối với những người dùng tham gia hành vi này. Một điều tra trước đó của NBC News tìm thấy các máy chủ Discord được quảng cáo là máy chủ hẹn hò thanh thiếu niên với các thành viên yêu cầu hình ảnh nude từ các người dưới tuổi.
Người lớn trước đây đã bị tố cáo vì làm thuận lợi cho trẻ em trên Discord, và có thậm chí là các đội cảnh sát tội phạm đe dọa các người dưới tuổi phải gửi hình ảnh tình dục của họ. Việc cấm hoàn toàn các máy chủ hẹn hò thanh thiếu niên có thể giúp giảm thiểu vấn đề này. Discord cũng đã bao gồm một dòng trong chính sách của mình, nói rằng các thanh thiếu niên lớn hơn được phát hiện làm thuận lợi cho các thanh thiếu niên nhỏ hơn sẽ được “đánh giá và thực hiện theo Chính sách Hành vi Tình dục Không phù hợp với Trẻ em và Làm thuận lợi”.
Ngoài việc cập nhật quy định của mình, Discord gần đây cũng đã ra mắt công cụ Trung tâm Gia đình mà cha mẹ có thể sử dụng để giám sát hoạt động của con cái của họ trên dịch vụ trò chuyện. Mặc dù cha mẹ sẽ không thể xem nội dung thực sự của tin nhắn của con cái họ, công cụ tùy chọn này cho phép họ xem họ có bạn bè và họ nói chuyện với ai trên nền tảng này. Discord hy vọng rằng những biện pháp và công cụ mới này có thể giúp bảo vệ người dùng dưới tuổi của mình cùng với các biện pháp cũ của mình, bao gồm việc quét trước hình ảnh được tải lên nền tảng của mình bằng PhotoDNA.
Discord đã cấm các máy chủ hẹn hò dành cho thanh thiếu niên và cũng đã cấm tất cả nội dung nhạy cảm trẻ em do bộ xử lý AI tạo ra.
Hãng công nghệ Discord vừa thông báo rằng họ đã cấm các máy chủ hẹn hò dành cho thanh thiếu niên (teen). Ý tưởng là để ngăn chặn hành vi quấy rối của người lớn tới trẻ em. Ngược lại Discord cũng đã gặp nhiều vấn đề khi thanh thiếu niên được liên kết với các bộ phim khiến người thực sự cảm thấy bị đe dọa.
Thông tin dự báo rằng sử dụng máy chủ hẹn hò cho trẻ em sẽ tăng lên 50％ trong năm 2021. Đánh giá của người ta nói rằng Discord đã bắt đầu phải cải thiện chính sách của mình nhiều hơn.
Discord còn đã cấm tất cả nội dung nhạy cảm trẻ em (CSAM) được tạo bởi AI. Họ tin rằng các hình ảnh nhạy cảm với trẻ em sẽ được tự động tạo trong một thời gian ngắn. Trong khi các AI sẽ phát hiện nội dung này, sẽ có một loại nội dung để tránh việc phát hiện là chưa hiệu quả AI.
Mặc dù Discord đã thực hiện những bước để bảo vệ trẻ em từ những hành vi xấu, hãng công nghệ vẫn cần thiết phải làm nhiều hơn để chắc chắn là trẻ em được bảo vệ.