Sora bổ sung tính năng mới cho phép người dùng kiểm soát phiên bản AI của chính mình

Giờ đây, Sora cho phép người dùng kiểm soát chặt hơn các phiên bản AI của chính mình, bao gồm việc lựa chọn sự xuất hiện của những phiên bản deepfake (hình ảnh hoặc video giả mạo bằng AI) khi nào và ở đâu trên ứng dụng. Bản cập nhật này được OpenAI tung ra nhằm chứng minh rằng họ thực sự quan tâm đến những lo ngại của người dùng giữa lúc làn sóng nội dung rác do AI tạo ra đang tràn ngập Internet.

Những tính năng này là một phần của loạt cập nhật mà OpenAI phát hành vào cuối tuần trước với mong muốn ổn định Sora và kiểm soát sự hỗn loạn đang diễn ra trong dòng nội dung của nền tảng. Sora hiện được ví như “TikTok dành cho deepfake” - nơi người dùng có thể tạo ra những đoạn video 10 giây với bất cứ nội dung gì, kể cả các phiên bản AI của chính họ hoặc người khác (kèm cả giọng nói). OpenAI gọi những video có sự xuất hiện của bản sao AI đó là “cameo”, còn giới giới chuyên gia cảnh báo đây là một rủi ro lớn về sai lệch thông tin.

Theo Bill Peebles, trưởng nhóm phát triển Sora tại OpenAI, người dùng giờ có thể tự đặt giới hạn cho cách “bản sao AI” của họ xuất hiện trong ứng dụng. Ví dụ, bạn có thể ngăn “phiên bản AI” của mình xuất hiện trong các video chính trị, chặn phát ngôn một số từ ngữ, hoặc cấm một vật cụ thể xuất hiện trong bất kỳ video nào liên quan đến nó.

Một nhân viên khác của OpenAI, Thomas Dimson, cho biết người dùng cũng có thể tùy chỉnh chi tiết hơn cách bản sao AI của mình xuất hiện, chẳng hạn như khiến nó luôn đội chiếc mũ có dòng chữ “#1 Ketchup Fan” trong mọi video.

Dù những biện pháp này được đánh giá là tích cực, nhưng các chatbot như Chat GPT, Claude từng bị phát hiện cung cấp hướng dẫn chế tạo chất nổ hay thực hiện hành vi phạm tội trên không gian mạng, cho thấy vẫn sẽ có người tìm cách vượt qua giới hạn. Một số người thậm chí còn qua mặt được những tính năng bảo vệ khác của Sora, ví dụ như phần watermark quá mờ, không có tác dụng. Peebles cho biết nhóm đang tiếp tục cải thiện và củng cố hệ thống bảo vệ.

Ông cũng khẳng định rằng Sora sẽ “tiếp tục được nâng cấp để kiểm soát chặt chẽ hơn” và “phát triển nhiều cách giúp người dùng làm chủ nội dung của mình trong tương lai.”

Kể từ khi ra mắt, Sora đã vô tình góp phần khiến Internet ngập trong video rác do AI tạo ra. Các thiết lập “cameo” còn khá sơ sài, người dùng chỉ có thể bật hoặc tắt quyền xuất hiện với các nhóm như bạn bè, người được cho phép hay mọi người, gây ra không ít rắc rối. Và ngôi sao bất đắc dĩ của Sora chính là Sam Altman, CEO của OpenAI, người bỗng xuất hiện trong hàng loạt video chế nhạo, từ cảnh trộm cắp, hát rap cho đến... nướng một con Pikachu.

Hà Anh