Trong vài tháng qua, câu chuyện về việc AI sẽ dẫn chúng ta đến thế giới tuyệt vời hay dẫn đến sự hủy diệt đã trở thành một cuộc tranh luận không ngừng. Có những bộ phim khảo sát như AI Dilemma trên YouTube và những bài viết tích cực như Why AI Will Save The World của Marc Andreessen. Những nhà nghiên cứu nổi tiếng như Geoffrey Hinton đã rút lui khỏi Google để tham gia một chuyến du lịch trên toàn thế giới để nhắc nhở những nguy cơ của AI, và Sam Altman, Giám đốc của OpenAI, tạo ra ChatGPT, đã mở miệng nói về cách nó có thể được sử dụng để làm giả mạo thông tin và tấn công mạng tấn công. Goldman Sachs báo cáo rằng 300 triệu công việc có thể bị thay thế bởi AI, hy vọng sẽ dẫn đến những công việc mới và hơn là thú vị hơn.
Mô hình ngôn ngữ lớn (còn gọi là LLMs) là mô hình cơ sở mạnh mẽ để hỗ trợ ChatGPT hiện đang là ngôi sao của thời điểm này. Có rất nhiều ví dụ được tài liệu hóa của những thành tựu thực sự ấn tượng được xây dựng trên công nghệ này: viết báo cáo hoặc xuất mã trong vài giây. Ở lõi của nó, LLMs cơ bản là đối với rất nhiều văn bản (ví dụ, nghĩ đến Internet) như một tập hợp dữ liệu huấn luyện và phụ thuộc vào phản hồi của con người trong một loại huấn luyện được gọi là huấn luyện tự động.
Những kẻ xấu xa trong an ninh mạng được kích hoạt bởi công nghệ này đã được ghi nhận rộng rãi. Khả năng giả mạo email và cuộc gọi điện từ thành viên gia đình hoặc đồng nghiệp sẽ tăng hiệu quả trong các chiến dịch phishing. NSA gần đây đã nhắc đến khả năng của LLMs để sửa đổi malware đã biết để vượt qua các chữ ký được sử dụng truyền thống để phát hiện. Thậm chí còn nguy hiểm hơn là khả năng nâng cao để khám phá các lỗ hổng zero-day mới trong hệ thống và phát triển các tấn công mới.
Để công bằng, có thể LLMs có thể giúp giảm thời gian sử dụng một số công cụ trong an ninh mạng. Nếu thực hiện một cách an toàn, cung cấp một giao diện ngôn ngữ tự nhiên trên các công cụ thường cần rất nhiều huấn luyện để hoạt động không phải là ý tưởng xấu. Xu hướng này rộng rãi có thể dẫn đến tiếng Anh trở thành ngôn ngữ lập trình mặc định cho nhiều công cụ trong tương lai gần đây.
Hôm nay, Hội đồng Về An ninh Mạng đề xuất để khắc phục vấn đề bảo mật mạng hiện nay, chúng ta cần cân nhắc việc cứu giúp bảo mật mạng bằng cách sử dụng mô hình ngôn ngữ lớn (LLMs). LLMs là công nghệ mới của các hợp đồng ngôn ngữ khai thác biểu đồ mô hình thu thập các bản dịch cũ để tạo ra bản dịch mới. Cho dù có lợi ích như nhanh chóng cộng thêm lượng công việc loại bỏ bản dịch dài hơn và tăng cường khả năng nắm bắt các chủ đề, nhưng các LLMs lại còn gặp phải những khó khăn về bảo mật mạng.
Đầu tiên, các khối thuật toán trong mô hình ngôn ngữ lớn (LLMs) có khả năng xuất ra các bản dịch sai. Nếu một số bản dịch sai đạt mức mà không phải các kiểm tra bảo mật tốt định, nó có thể làm tăng tốc độ phát hiện tấn công bớt bảo mật.
Thứ hai, LLMs đòi hỏi việc sử dụng cơ sở dữ liệu lớn. Điều này cũng làm tăng tốc độ phát hiện tấn công. Nếu cơ sở dữ liệu bị lỗi, cũng có thể dẫn đến việc phát hiện lỗi trong các bản dịch và gây ra những tấn công không định đoạt được.
Cuối cùng, việc định vị và dịch bản tài liệu cần được thực hiện trong khuôn khổ thời gian ngắn. Nếu bản dịch đã hết hạn trước khi được kiểm tra xác minh, nó có thể làm tăng tốc độ phát hiện tấn công.
Tổng kết là, cho dù các mô hình ngôn ngữ lớn (LLMs) có lợi ích như sự nhanh chóng, nhưng cũng có những rủi ro bảo mật mạng. Việc sử dụng LLMs cho các mục đích bảo mật mạng không thể độc lập cứu giúp và đòi hỏi những biện pháp bảo mật hợp lí để đảm bảo sự an toàn cho mạng.