Tôi thấy bạn —
Khả năng nhận diện hình ảnh của GPT-4 có thể nhận diện được một số cá nhân cụ thể, theo báo New York Times.
Benj Edwards –
Witthaya Prasongsin (Getty Images)
OpenAI đã thử nghiệm phiên bản đa năng của GPT-4 với hỗ trợ nhận diện hình ảnh trước khi phát hành rộng rãi. Tuy nhiên, truy cập công khai đang bị hạn chế do những lo ngại về khả năng có thể nhận diện được các cá nhân cụ thể cụ thể, theo báo cáo của New York Times vào thứ hai.
Khi OpenAI giới thiệu GPT-4 vào năm nay, công ty nhấn mạnh khả năng đa năng của mô hình AI. Điều này có nghĩa là mô hình có thể không chỉ xử lý và tạo ra văn bản mà còn phân tích và giải thích hình ảnh, mở ra một chiều hướng mới để tương tác với mô hình AI.
Sau khi thông báo, OpenAI đã tiến hành nâng cao khả năng xử lý hình ảnh của mình hơn nữa trong sự hợp tác với một công ty startup tên là Be My Eyes, đang phát triển một ứng dụng để mô tả hình ảnh cho người mù, giúp họ giải thích môi trường xung quanh và tương tác với thế giới một cách độc lập hơn.
Báo cáo của New York Times nhấn mạnh kinh nghiệm của Jonathan Mosen, một người dùng mù của Be My Eyes từ New Zealand. Mosen đã thích sử dụng ứng dụng để nhận diện các mục trong phòng khách sạn, như bồn tắm, và để chính xác giải thích hình ảnh và trên mạng xã hội. Tuy nhiên, Mosen thể hiện sự thất vọng khi ứng dụng gần đây ngừng cung cấp thông tin về khuôn mặt, hiển thị một thông báo rằng khuôn mặt đã bị ẩn đi vì lý do riêng tư.
Sandhini Agarwal, một nhà nghiên cứu chính sách của OpenAI, xác nhận cho Times rằng vấn đề riêng tư là lý do tại sao tổ chức này đã hạn chế khả năng nhận diện khuôn mặt của GPT-4. Hệ thống của OpenAI hiện nay có thể nhận diện được các nhân vật công cộng, như những người có trang Wikipedia, nhưng OpenAI lo ngại rằng tính năng này có thể vi phạm luật riêng tư ở các vùng như Illinois và Châu Âu, nơi sử dụng thông tin biometrics cần được sự đồng ý rõ ràng từ công dân.
Ngoài ra, OpenAI biểu lộ sự lo lắng rằng Be My Eyes có thể hiểu lầm hoặc lạm dụng các yếu tố của khuôn mặt của cá nhân, như giới tính hoặc trạng thái cảm xúc, dẫn đến kết quả không phù hợp hoặc có hại. OpenAI nhằm điều hướng những vấn đề an toàn này và các vấn đề khác trước khi khả năng phân tích hình ảnh của GPT-4 trở nên rộng rãi truy cập được. Agarwal nói với Times, “Chúng tôi rất muốn điều này trở thành một cuộc trò chuyện hai chiều với công chúng. Nếu như chúng ta nghe được như, ‘Chúng ta thực sự không muốn bất cứ thứ gì cả’, đó là một điều mà chúng tôi rất đồng ý.”
Mặc dù có những biện pháp này, cũng có những trường hợp GPT-4 gây nhầm lẫn hoặc làm sai định danh, nhấn mạnh thách thức của việc tạo ra một công cụ hữu ích mà không làm cho người dùng mù nhận được thông tin sai lệch.
Trong khi đó, Microsoft, một nhà đầu tư lớn của OpenAI, đang thử nghiệm một phiên bản hạn chế của công cụ phân tích hình ảnh trong chatbot được điều khiển bởi AI của mình, Bing Chat,
Báo cáo: Công ty OpenAI đã quyết định giữ lại một số tính năng hình ảnh của mô hình GPT-4 bởi vì sợ vấn đề về quyền riêng tư.
OpenAI là một công ty tư vấn, nghiên cứu và cung cấp dịch vụ làm việc trên các mô hình trí tuệ nhân tạo đã được tự động hoá. Họ đã phát triển ra GPT-4, một mô hình trí tuệ nhân tạo có thể sử dụng trên internet, cho phép nhà phát triển tạo ra các ứng dụng tự động hoá căn bản, như đọc hiểu lời bài chim, định dạng văn bản tự động và trích từ dữ liệu.
Tuy nhiên, GPT-4 cũng có các tính năng cung cấp hình ảnh, như tương tác với ảnh, tự động điền các mối liên hệ giữa các hình ảnh và tự động dự đoán các vật thể trong hình ảnh. Nhưng OpenAI đã quyết định giữ lại các tính năng này bởi vì lo lắng về vấn đề quyền riêng tư.
Lo lắng của OpenAI về vấn đề quyền riêng tư được công nhận bởi một số giới chuyên môn, bao gồm cả Chad Hartell, giám đốc của công ty bảo mật CPOMS Inc. Ông Hartell nói rằng sự kiểm soát của trí tuệ nhân tạo như GPT-4 của OpenAI có thể dẫn đến vi phạm các quy tắc về quyền riêng tư của các trang web, do đó họ đang cố gắng giữ lại các chức năng hình ảnh của mô hình.
Tuy nhiên, lời nhắn của OpenAI về việc giữ lại các tính năng hình ảnh của GPT-4 đang bắt đầu được thảo luận và phê bình trên các cộng đồng mạng xã hội. Một số nghiên cứu viên cho rằng bằng cách cấm người dùng không có cấp phép của OpenAI sử dụng các tính năng hình ảnh của GPT-4, họ có thể vi phạm luật về đầu tư chứng khoán cũng như các luật bảo vệ quyền riêng tư.
Vậy là, công ty OpenAI đã quyết định giữ lại một số tính năng hình ảnh của mô hình GPT-4 do sợ vấn đề về quyền riêng tư. Sự kiểm soát hình ảnh sẽ giúp bảo vệ quyền riêng tư của các người dùng nhưng sẽ có lẽ cũng là một phần vết thương cho các nhà phát triển cộng đồng trong tương lai.