OpenAI "ém nhẹm" công cụ phát hiện gian lận bằng ChatGPT

Mặc dù sở hữu một công cụ có thể phát hiện nội dung được tạo bởi ChatGPT, nhưng OpenAI vẫn lưỡng lự phát hành.

Mặc dù đã phát triển thành công một công cụ có khả năng phát hiện văn bản do ChatGPT tạo ra với độ chính xác lên tới 99,9%, OpenAI vẫn chưa sẵn sàng công bố công cụ này vì lo ngại ảnh hưởng đến lượng người dùng.

Theo thông tin từ The Wall Street Journal, công cụ này đã được hoàn thiện từ năm ngoái và có thể dễ dàng sử dụng chỉ bằng một nút bấm. Tuy nhiên, một cuộc khảo sát nội bộ của OpenAI cho thấy 30% người dùng sẽ ngừng sử dụng ChatGPT nếu công cụ này được triển khai, do lo ngại về việc bị cáo buộc sử dụng AI để gian lận.

OpenAI "ém nhẹm" công cụ phát hiện gian lận bằng ChatGPT - 1

OpenAI cân nhắc việc phát hành công cụ phát hiện nội dung của AI.

Mặc dù vậy, OpenAI vẫn đang cân nhắc việc phát hành công cụ này cho một số đối tượng nhất định, chẳng hạn như các nhà giáo dục hoặc các công ty có thể giúp các trường học xác định nội dung do AI viết.

Tuy nhiên, việc này cũng đặt ra một thách thức lớn về việc kiểm soát quyền truy cập vào công cụ. Nếu quá nhiều người có thể sử dụng công cụ này, những kẻ xấu có thể tìm ra cách để vượt qua các biện pháp bảo vệ của nó. OpenAI cũng thừa nhận rằng công cụ này có thể ảnh hưởng đến một số nhóm người dùng, chẳng hạn như những người không nói tiếng Anh.

Trong khi đó, Google cũng đã phát triển một công cụ tương tự có tên là SynthID, nhưng chưa được phổ biến rộng rãi.

Các công ty công nghệ cho thấy họ vẫn đang nỗ lực tìm ra giải pháp cân bằng giữa việc bảo vệ tính toàn vẹn của nội dung và đảm bảo trải nghiệm tốt nhất cho người dùng. Việc phát hành công cụ phát hiện gian lận bằng ChatGPT của OpenAI có thể sẽ là một bước tiến quan trọng trong việc giải quyết vấn đề này.

Thanh Phong - BGR

Tin liên quan

Tin mới nhất

Văn nghệ sĩ cả nước chung tay ủng hộ đồng bào bị bão lũ

Văn nghệ sĩ cả nước chung tay ủng hộ đồng bào bị bão lũ

Với tinh thần tương thân tương ái, chia sẻ những mất mát, khó khăn của đồng bào các địa phương bị ảnh hưởng báo, lũ; hiện nay các Hội Văn học nghệ thuật tỉnh, thành phố và cá nhân các văn nghệ sĩ đã tổ chức nhiều hoạt động nhân đạo trên quy mô lớn.

Bão số 3 (Yagi) và sự tàn khốc của biến đổi khí hậu

Bão số 3 (Yagi) và sự tàn khốc của biến đổi khí hậu

Cơn bão số 3 (siêu bão Yagi) xác lập nhiều kỷ lục mới trong những thập kỷ qua, để lại hậu quả vô cùng nặng nề, gây thiệt hại về người, tài sản. Đây là cơn bão tăng cấp độ nhanh nhất từ trước đến nay trong lịch sử khí tượng Việt Nam. Hàng trăm năm qua, khí tượng thuỷ văn nước ta mới có 3 lần mức độ rủi ro thiên tai cấp độ 3 thì đầu tháng 9/2024 lần đầu tiên trong lịch sử