Character.AI Hạn Chế Trò Chuyện Mở Cho Người Dùng Dưới 18 Tuổi Và Giới Thiệu Các Biện Pháp An Toàn

Tóm tắt

Character AI thông báo sẽ cấm bất kỳ ai dưới 18 tuổi có cuộc trò chuyện không giới hạn với các chatbot AI của mình bắt đầu từ cuối tháng 11, sau áp lực pháp lý từ các nhà lập pháp và gia đình cho rằng nền tảng này đã dẫn đến cái chết của thanh thiếu niên.

Nền tảng chatbot powered by AI, Character.AI thông báo rằng người dùng dưới 18 tuổi sẽ không còn có thể tham gia vào các cuộc trò chuyện mở với các chatbot AI của mình, sau những lo ngại từ các nhà lập pháp và gia đình về những rủi ro tiềm tàng của nền tảng này đối với thanh thiếu niên.

Sự thay đổi dự kiến sẽ có hiệu lực vào ngày 25 tháng 11. Trong thời gian chờ đợi, nền tảng dự định giới thiệu một trải nghiệm được điều chỉnh cho người dùng dưới 18 tuổi, cho phép họ tiếp tục các hoạt động sáng tạo như sản xuất video, câu chuyện và phát trực tiếp tương tác với Các Nhân Vật. Trong thời gian chuyển tiếp này, các phiên trò chuyện cho người dùng dưới 18 tuổi sẽ bị giới hạn trong hai giờ mỗi ngày, với những giảm thiểu thời gian hơn nữa dự kiến sẽ xảy ra trong những tuần dẫn đến việc thực hiện đầy đủ.

Ngoài ra, Character.AI sẽ triển khai các biện pháp xác minh độ tuổi mới để đảm bảo rằng người dùng được cung cấp các tính năng phù hợp với độ tuổi của họ. Công ty đã phát triển một hệ thống đảm bảo độ tuổi nội bộ và sẽ tích hợp nó với các công cụ bên thứ ba, bao gồm Persona, để nâng cao độ chính xác và độ tin cậy.

Nền tảng cũng đã thông báo về việc thành lập và tài trợ cho Lab An toàn AI, một tổ chức phi lợi nhuận độc lập dành riêng cho việc nâng cao sự phù hợp an toàn trong giải trí AI. Lab sẽ tập trung vào việc phát triển các phương pháp an toàn sáng tạo, hợp tác với các chuyên gia bên ngoài và chia sẻ các kết quả nghiên cứu. Character.AI dự định rằng lab sẽ cung cấp mức độ chú ý tập trung vào an toàn cho giải trí AI tương tự như áp dụng cho các ứng dụng AI khác, và họ có kế hoạch mời các công ty công nghệ, học giả, nhà nghiên cứu và nhà hoạch định chính sách tham gia vào sáng kiến này.

Character.AI Cập nhật nền tảng dưới 18 tuổi để nâng cao an toàn cho thanh thiếu niên giữa những lo ngại về quy định

Character.AI đã thông báo về những thay đổi đối với nền tảng của mình cho người dùng dưới 18 tuổi nhằm đáp ứng những lo ngại ngày càng tăng về các tương tác AI với thanh thiếu niên. Các báo cáo gần đây và các cuộc điều tra từ các cơ quan quản lý đã làm nổi bật những rủi ro tiềm ẩn liên quan đến các cuộc trò chuyện AI mở, ngay cả khi có các biện pháp kiểm soát nội dung. Sau khi xem xét phản hồi từ các cơ quan quản lý, các chuyên gia an toàn và phụ huynh, công ty đã xác định rằng việc điều chỉnh trải nghiệm cho người dùng dưới 18 tuổi là cần thiết để bảo vệ tốt hơn những người dùng trẻ.

Những điều chỉnh này đại diện cho những bước tiến quan trọng cho nền tảng và thường thận trọng hơn so với các biện pháp được thực hiện bởi các dịch vụ tương tự. Mục tiêu là ưu tiên sự an toàn của người dùng tuổi teen trong khi vẫn cung cấp cơ hội cho sự sáng tạo, khám phá và tương tác. Character.AI dự định tiếp tục làm việc với các chuyên gia an toàn, các cơ quan quản lý và các bên liên quan khác để đảm bảo rằng việc bảo vệ người dùng vẫn là trung tâm khi nền tảng phát triển các tính năng mới khuyến khích sự biểu đạt sáng tạo và tương tác trong cộng đồng.

Character.AI là một nền tảng AI trò chuyện cho phép người dùng tương tác với và tạo ra các nhân vật điều khiển bằng AI, hoặc nhân vật bot, được hỗ trợ bởi các mô hình ngôn ngữ lớn.