Công cụ của OpenAI có thể nhại giọng một người chỉ với mẫu âm thanh 15 giây – Ảnh: AFP
Ngày 29-3, OpenAI, cha đẻ của nền tảng trí tuệ nhân tạo ChatGPT, đã chia sẻ một thử nghiệm quy mô nhỏ công cụ có tên Voice Engine, một tuần sau khi đăng ký thương thiệu cho công cụ này.
Điểm đáng chú ý là công cụ này có thể sao chép lời nói của ai đó dựa trên đoạn ghi âm 15 giây.
OpenAI cho biết họ có kế hoạch thử nghiệm nó “nhưng chưa phát hành rộng rãi công nghệ vào thời điểm này” vì nguy cơ bị lạm dụng.
“Chúng tôi nhận thấy rằng việc tạo ra bài phát biểu giống giọng nói của mọi người có những rủi ro nghiêm trọng, điều này đặc biệt được quan tâm hàng đầu trong năm bầu cử”, Hãng tin AFP dẫn lời công ty có trụ sở tại San Francisco cho biết.
OpenAI cho hay đang hợp tác với các đối tác Mỹ và quốc tế trong nhiều lĩnh vực như chính phủ, truyền thông, giải trí, giáo dục… để ghi nhận các phản hồi trong quá trình xây dựng công cụ giọng nói này.
Đến nay, một số công ty khởi nghiệp đã bán ra các công nghệ nhại giọng nói.
Tuy nhiên, các nhà nghiên cứu lo ngại những công nghệ này sẽ bị lạm dụng để truyền tải thông tin sai lệch trong năm bầu cử quan trọng, khi mà công cụ nhân bản giọng nói ngày càng phổ biến, rẻ tiền, dễ sử dụng và khó theo dõi.
Mới nhất, các cơ quan chức năng New Hampshire đang điều tra một loạt cuộc gọi tự động mạo danh Tổng thống Mỹ Joe Biden trong cuộc bầu cử sơ bộ vào tháng 1-2024. Vụ việc khiến các chuyên gia lo ngại về làn sóng thông tin giả deepfake dựa trên AI có thể bùng nổ trong cuộc đua vào Nhà Trắng năm 2024, cũng như trong các cuộc bầu cử quan trọng khác trên toàn cầu trong năm nay.
Thừa nhận những vấn đề này, OpenAI cho biết họ đang “thực hiện một cách tiếp cận thận trọng và sáng suốt” trước khi phát hành công cụ Voice Engine.
Theo công ty, các đối tác thử nghiệm Voice Engine đã đồng ý với các quy tắc bao gồm yêu cầu sự đồng ý rõ ràng và đầy đủ thông tin của tất cả những người bị nhại giọng. Ngoài ra, người nghe cũng được thông báo khi nào giọng nói họ nghe được là do AI tạo ra.
“Chúng tôi đã triển khai một loạt biện pháp an toàn, bao gồm đóng dấu mờ để theo dõi nguồn gốc của bất kỳ âm thanh nào do Voice Engine tạo ra, cũng như giám sát chủ động cách sử dụng nó”, OpenAI nhấn mạnh.
