AI đã trở nên phổ biến hơn trong vài tháng qua, nhưng một số lĩnh vực, bao gồm giáo dục, vẫn gây ra những tranh cãi. Phần lớn sự lo ngại này được tập trung vào khả năng của học sinh sử dụng công cụ AI tạo ra, chẳng hạn như ChatGPT, để làm việc của họ, bao gồm viết một bài luận hoặc tạo mã.
Một số giáo sư cho phép công nghệ này trong lớp học của họ, một số cấm nó, và một số cho phép nó theo sự cho phép của họ, có thể bao gồm kiểm tra tất cả các bài làm của họ với các bộ dò tìm GPT. Một bài báo được xuất bản và được xét duyệt bởi bạn bè gần đây của Patterns cho thấy nhà nghiên cứu đã tìm thấy các chương trình được xây dựng để phát hiện xem văn bản được tạo bằng AI hay bởi con người sẽ thường bị nhầm lẫn là được tạo bằng AI khi được viết bởi những người không là người nói tiếng Anh gốc.
Trong nghiên cứu, nhà nghiên cứu đã kiểm tra hiệu suất của bảy bộ dò tìm GPT phổ biến, với 91 bài luận được viết cho Bài thi tiếng Anh nước ngoài (TOEFL) bởi người nói tiếng Trung Quốc và 88 bài luận được viết bởi học sinh lớp 8 Mỹ, được lấy từ Giải thưởng Đánh giá Học sinh Tự động của Hewlett Foundation (ASAP).
Các bộ dò tìm GPT chính xác phân loại tất cả các bài luận của học sinh Mỹ, nhưng đã nhầm lẫn đánh dấu trung bình 61% của các bài luận TOEFL là được tạo bằng AI. Một trong các bộ dò tìm đã nhầm lẫn sai 97,8% các bài luận TOEFL là được tạo bằng AI.
Nghiên cứu cũng cho thấy các bộ dò tìm GPT không hiệu quả như người sử dụng có thể tin rằng. Nhiều bộ dò tìm quảng cáo độ chính xác lên đến 99% mà không có bằng chứng để hỗ trợ các đề nghị này.
Nhà nghiên cứu đã tạo ra các bài luận bằng ChatGPT và 70% được nhận diện là được tạo bằng AI bởi các bộ dò tìm GPT. Nhưng các yêu cầu đơn giản, chẳng hạn như yêu cầu ChatGPT “nâng cao văn bản được cung cấp bằng cách sử dụng ngôn ngữ văn học”, đã cải thiện đủ để giảm số lượng này xuống 3%, điều này có nghĩa là các bộ dò tìm GPT sau đó đã nhầm lẫn sai rằng các bài luận được viết bởi con người 97% các lần.
“Đề nghị hiện tại của chúng tôi là chúng ta nên cẩn thận và cố gắng tránh sử dụng các bộ dò tìm này càng nhiều càng tốt”, nói tác giả cao cấp James Zou, từ Đại học Stanford.
Tác giả đã gán những lỗi này cho các bộ dò tìm GPT ưu tiên ngôn ngữ phức tạp và phạt các lựa chọn từ đơn giản hơn thường được sử dụng bởi những người không là người nói tiếng Anh gốc. Họ đã tìm thấy các bài luận TOEFL hiển thị độ bốc đồng văn bản thấp hơn, điều này “ngạc nhiên” một mô hình AI. Nếu từ tiếp theo trong một bài luận là khó để bộ dò tìm GPT dự đoán, thì nó có thể nghĩ rằng con người đã viết văn bản; nếu ngược lại, nó sẽ nghĩ rằng AI đã tạo ra nó.
“Nếu bạn sử dụng từ tiếng Anh thông thường, các bộ dò tìm sẽ cung cấp một điểm số bốc đồng thấp, có nghĩa là bài luận của tôi có thể bị đánh dấu là được tạo bằng AI. Nếu bạn sử dụng ngôn ngữ phức tạp và thú v
Để đạt được kết quả có thể trông giống nhau, ngày nay, AI đã được ứng dụng trong rất nhiều lĩnh vực khác nhau. Tuy nhiên, việc sử dụng AI còn có khả năng bị lừa dối hoặc được sử dụng để tạo ra những tố cáo hợp pháp. Vì vậy, có thể xác định được rằng ai có thể lừa dối bạn bằng cách tố cáo bạn sử dụng văn bản được tạo ra bởi AI không?
Câu trả lời cho câu hỏi này là có. Bằng cách sử dụng AI để tạo ra tố cáo hợp pháp, một người có thể lừa dối bạn. Người lừa dối bạn đã có thể vận dụng các mô hình apriori và phân tích cú pháp để tạo ra ý tưởng và văn bản mới mà vẫn tôn trọng pháp lý. Người lừa dối bạn có thể sử dụng các phương pháp lừa dối này để tạo ra tố cáo hợp pháp và gây ảnh hưởng âm mưu đến bạn và hành vi của bạn.
Bằng vậy, có thể nói rằng AI đã là lý do đối với việc người lừa dối có thể tạo ra tố cáo không hợp pháp và tấn công bạn. Do đó, bạn nên thận trọng với những tố cáo nhận được và luôn cẩn thận tự kiểm tra nếu có lời bảo đảm hoặc dấu hiệu giả mạo nào đó.