CHATGPT SẼ BẮT ĐẦU ẨN MỘT DẤU HIỆU VÔ HÌNH VÀO TẤT CẢ NHỮNG GÌ NÓ VIẾT CHO BẠN OpenAI vừa xác nhận điều này. Nó được gọi là textGrain và sẽ được áp dụng lên ChatGPT và Codex tại EU trong vài tuần tới, vì Đạo luật AI của EU buộc họ phải làm như vậy. Bạn sẽ không nhìn thấy gì cả. Không có ký tự lạ, không có ký tự ẩn. Mô hình chỉ chọn từ ngữ theo một mẫu hơi có quy luật, và một công cụ phát hiện có thể đọc được mẫu đó sau này. Nó có thể xác định: “liệu văn bản này có khả năng được tạo bởi mô hình OpenAI không?” Nó không thể xác định: bạn là ai, tài khoản của bạn, prompt của bạn. Điều thú vị là chính OpenAI thừa nhận rằng dấu hiệu này gần như không hiệu quả: -> đoạn văn ngắn: phát hiện được khoảng 80% thời gian -> thay đổi 1 trong 10 từ: độ chính xác giảm từ 92% xuống 66% -> thay đổi 1 trong 4 từ: 17% -> dịch hoặc viết lại: dấu hiệu có thể biến mất hoàn toàn Điều đáng sợ nhất không phải là dấu nước. Đó là ai thực sự bị phát hiện. Bất kỳ ai chỉnh sửa một chút đều thoát khỏi việc bị phát hiện. Chỉ đứa trẻ sao chép nguyên cả bài luận mà không chạm vào một từ nào mới bị bắt. Và hiện tại, chỉ “nhà nghiên cứu được phê duyệt” mới có quyền truy cập vào công cụ phát hiện, nên bạn thậm chí không thể kiểm tra văn bản của chính mình. Để công bằng, OpenAI không giấu bất cứ điều gì. Họ đã công bố chính xác những con số yếu kém này, người dùng API ở bất kỳ đâu đều có thể bật tính năng này ngay hôm nay, và họ nói rằng sẽ mở nguồn mã. Cá nhân tôi nghĩ đây lớn hơn một dấu nước. Châu Âu có một ChatGPT đánh dấu văn bản của nó, trong khi Mỹ thì không. Cùng một AI, nhưng quy tắc khác nhau tùy nơi bạn mở nó. Và đây mới chỉ là đạo luật đầu tiên. Sẽ còn nhiều đạo luật nữa.