Đây là một điều được đào tạo vào bạn từ bài viết đầu tiên bạn viết trong trường học: Luôn luôn kiểm tra nguồn của bạn. Tuy nhiên, Luật sư New York Steven Schwartz đã tin tưởng vào ChatGPT để tìm và xem xét chúng cho anh ta – một quyết định đã dẫn đến một thẩm phán phát ra một khoản phạt 5.000 đô la cho anh ta, đồng nghiệp của anh Peter LoDuca và công ty luật của họ Levidow, Levidow và Oberman, The Guardian báo cáo. Schwartz đã sử dụng nó cho một trường hợp trong đó một người đang tụ tập với hãng hàng không Colombia Avianca bị bỏ rơi khi bay đến thành phố New York. Trong trường hợp này, ChatGPT tạo ra sáu trường hợp làm tiêu chuẩn, chẳng hạn như “Martinez v. Delta Airlines” và “Miller v. United Airlines”, đó là không chính xác hoặc đơn giản là không tồn tại.
Trong quyết định phạt Schwartz và cảnh sát, Thẩm phán P Kevin Castel giải thích, “Các công nghệ tiến bộ là điều bình thường và không có gì bất thường về việc sử dụng công cụ trí tuệ nhân tạo tin cậy để giúp đỡ. Nhưng các quy tắc hiện hành đều đề cập đến vai trò của luật sư để đảm bảo chính xác của các tệp được đăng ký.” Cơ bản là, bạn có thể sử dụng ChatGPT cho công việc của mình nhưng ít nhất hãy kiểm tra các tvấn đề của nó. Trong trường hợp không làm như vậy, luật sư đã “bỏ rơi trách nhiệm của họ”, bao gồm khi họ đứng bên cạnh các tuyên bố giả mạo sau khi tòa án nghi vấn đáng tin cậy của chúng.
Ví dụ về ChatGPT và các chatbot trí tuệ khác không chính xác đang rất phổ biến. Hãy nhớ Hiệp hội Chứng trị ăn uống Quốc gia có chatbot cung cấp cho những người đang hồi phục từ chứng trị ăn uống với các lời khuyên về ăn uống hoặc ChatGPT sai lầm bị buộc tội một giáo sư luật bằng một bài báo không tồn tại từ The Washington Post làm bằng chứng.
Kể từ khi ChatGPT là một mô hình AI hỗ trợ viết luật mới được phát hành, có nhiều luật sư đã sử dụng mô hình để tạo ra những trích dẫn trường hợp giả mạo.
Tuy nhiên, với sự phát triển của công nghệ, theo lệnh xác nhận khu vực của Luật sư Tiểu bang Ohio, luật sư Mỹ đã bị phạt 5,000 đô la vì sử dụng các trích dẫn trường hợp giả mạo được tạo ra bởi ChatGPT.
Việc sử dụng các trích dẫn trường hợp giả mạo đã gây ra sự phân cứng giữa luật sư và các đơn vị cấp phép. Do vậy, luật sư cần tự nguyện tránh sử dụng các trích dẫn trường hợp giả mạo để đảm bảo sự tin tưởng của họ trong mọi trường hợp.
Việc phạt luật sư Mỹ này cũng đã gây ra sự chú ý của mọi người đối với các dữ liệu tạo ra bởi các mô hình AI. Những trích dẫn trường hợp giả mạo được tạo ra bởi ChatGPT không đáp ứng được những tiêu chuẩn cao cấp, chính vì thế luật sư Mỹ đã bị phạt vì việc sử dụng chúng.
Do đó, luật sư phải rất cẩn thận khi sử dụng những trích dẫn trường hợp giả mạo, đặc biệt là những trích dẫn được tạo ra bởi các mô hình AI. Điều này rất quan trọng để những luật sư tự nguyện đảm bảo chất lượng, sự tôn trọng và uy tín cho các hoạt động luật pháp.