Đội ngũ phát triển ứng dụng AI chat chính thức về Atelier Ryza đang tăng cường các biện pháp hạn chế sau khi một số người dùng tìm cách thao túng Ryza để cô đưa ra những phát ngôn không phù hợp.
SpiralAI thông báo vào ngày 29/9 rằng RyzaChat, tựa game nhập vai AI được cấp phép chính thức dựa trên bộ ba Atelier Ryza của Koei Tecmo, sẽ bắt đầu hạn chế nội dung do chính người dùng nhập vào trong một bản cập nhật mô hình AI dự kiến được triển khai vào tháng 10. Công ty cho biết thay đổi này nhằm bảo vệ tính cách của Ryza cũng như sự toàn vẹn của thế giới Atelier Ryza nguyên bản.
RyzaChat cho phép người chơi tự do trò chuyện với Ryza thay vì đi theo một cốt truyện được định sẵn. Những cuộc hội thoại này có thể dẫn đến các hoạt động RPG như khám phá, tổng hợp vật phẩm, chiến đấu và nhiều nội dung khác.
AI của Ryza được thiết kế để tránh những chủ đề không phù hợp với tính cách nhân vật hoặc thế giới trong game. Bên cạnh đó, một hệ thống “Game Master AI” sẽ phân tích tin nhắn của người dùng trước khi chuyển chúng đến Ryza. Một hệ thống khác có khả năng ngăn chặn ngay lập tức những câu trả lời không phù hợp trước khi chúng được hiển thị, đồng thời các nội dung không phù hợp cũng sẽ bị loại khỏi bộ nhớ của Ryza.
Tuy nhiên, một số người dùng được cho là đã cố gắng sử dụng prompt injection nhằm buộc AI đưa ra những câu trả lời vốn bị hệ thống chặn lại. SpiralAI tuyên bố sẽ không dung thứ cho những hành vi cố tình khiến nhân vật đưa ra các phát ngôn trái với chuẩn mực xã hội hoặc những hành vi có thể gây tổn hại nghiêm trọng đến hình tượng nhân vật cũng như tác phẩm gốc.
Vì vậy, SpiralAI đang chuyển một phần hoạt động kiểm duyệt sang phía người dùng, bằng cách trực tiếp hạn chế nội dung mà họ có thể nhập vào. Công ty cho biết các yếu tố như số lượng ký tự được phép nhập có thể tiếp tục được điều chỉnh tùy thuộc vào hiệu quả hoạt động của hệ thống mới.
Một vấn đề khác cũng được SpiralAI đề cập là những nội dung thực chất không hề được Ryza tạo ra. Theo công ty, các ảnh chụp màn hình và video bị chỉnh sửa hoặc làm giả nhằm khiến chúng trông giống nội dung từ RyzaChat đã xuất hiện trên mạng, trong đó có cả những đoạn văn bản mà ứng dụng chưa từng tạo ra. SpiralAI cho biết họ đã bắt đầu gửi yêu cầu gỡ bỏ và khiếu nại tới các nền tảng đang lưu trữ những nội dung này.
Đây không phải lần đầu SpiralAI đưa ra cảnh báo về vấn đề này. Vào ngày 27/8, công ty từng yêu cầu người chơi tuân thủ điều khoản sử dụng của ứng dụng, đồng thời đặc biệt đề cập đến việc lạm dụng dịch vụ cũng như các hình ảnh và video giả mạo được tạo bằng AI.
0 Nhận xét