OpenAI "ém nhẹm" công cụ phát hiện gian lận bằng ChatGPT

07-08-2024 09:00

Mặc dù sở hữu một công cụ có thể phát hiện nội dung được tạo bởi ChatGPT, nhưng OpenAI vẫn lưỡng lự phát hành.

Mặc dù đã phát triển thành công một công cụ có khả năng phát hiện văn bản do ChatGPT tạo ra với độ chính xác lên tới 99,9%, OpenAI vẫn chưa sẵn sàng công bố công cụ này vì lo ngại ảnh hưởng đến lượng người dùng.

Theo thông tin từ The Wall Street Journal, công cụ này đã được hoàn thiện từ năm ngoái và có thể dễ dàng sử dụng chỉ bằng một nút bấm. Tuy nhiên, một cuộc khảo sát nội bộ của OpenAI cho thấy 30% người dùng sẽ ngừng sử dụng ChatGPT nếu công cụ này được triển khai, do lo ngại về việc bị cáo buộc sử dụng AI để gian lận.

OpenAI "ém nhẹm" công cụ phát hiện gian lận bằng ChatGPT - 1

OpenAI cân nhắc việc phát hành công cụ phát hiện nội dung của AI.

Mặc dù vậy, OpenAI vẫn đang cân nhắc việc phát hành công cụ này cho một số đối tượng nhất định, chẳng hạn như các nhà giáo dục hoặc các công ty có thể giúp các trường học xác định nội dung do AI viết.

Tuy nhiên, việc này cũng đặt ra một thách thức lớn về việc kiểm soát quyền truy cập vào công cụ. Nếu quá nhiều người có thể sử dụng công cụ này, những kẻ xấu có thể tìm ra cách để vượt qua các biện pháp bảo vệ của nó. OpenAI cũng thừa nhận rằng công cụ này có thể ảnh hưởng đến một số nhóm người dùng, chẳng hạn như những người không nói tiếng Anh.

Trong khi đó, Google cũng đã phát triển một công cụ tương tự có tên là SynthID, nhưng chưa được phổ biến rộng rãi.

Các công ty công nghệ cho thấy họ vẫn đang nỗ lực tìm ra giải pháp cân bằng giữa việc bảo vệ tính toàn vẹn của nội dung và đảm bảo trải nghiệm tốt nhất cho người dùng. Việc phát hành công cụ phát hiện gian lận bằng ChatGPT của OpenAI có thể sẽ là một bước tiến quan trọng trong việc giải quyết vấn đề này.

Thanh Phong - BGR

Bình luận