Tấn Công Đảo Ngược Mô Hình Mạng Neural: Mối Đe Dọa Đến Thông Tin Cá Nhân

Hiểu Về Tấn Công Đảo Ngược Mô Hình Mạng Neural

Mạng neural là “bộ não” đằng sau các hệ thống AI hiện đại, chịu trách nhiệm cho các chức năng ấn tượng như nhận diện giọng nói, chatbot nhân tính hóa và AI tạo nội dung. Mạng neural là một tập hợp các thuật toán được thiết kế để nhận diện mẫu, suy nghĩ và thậm chí học hỏi như bộ não con người.

Bí Mật Của AI

Giống như bộ não con người, mạng neural có thể giữ bí mật. Những bí mật này là dữ liệu mà người dùng đã cung cấp. Trong một cuộc tấn công đảo ngược mô hình, tin tặc sử dụng đầu ra của mạng neural (như câu trả lời từ chatbot) để phản hồi lại đầu vào (thông tin bạn đã cung cấp).

Để thực hiện cuộc tấn công, tin tặc sử dụng mô hình học máy riêng của họ gọi là “mô hình đảo ngược”. Mô hình này được thiết kế như một hình ảnh phản chiếu, được huấn luyện không trên dữ liệu gốc mà trên đầu ra do mục tiêu tạo ra.

Mục đích của mô hình đảo ngược là dự đoán các đầu vào – dữ liệu gốc, thường là thông tin nhạy cảm mà bạn đã cung cấp cho chatbot.

Tạo Mô Hình Đảo Ngược

Việc tạo mô hình đảo ngược có thể được coi như việc tái tạo lại một tài liệu đã bị xé nhỏ. Nhưng thay vì ghép lại các mảnh giấy, đó là việc ghép lại câu chuyện từ các phản hồi của mô hình mục tiêu.

Mô hình đảo ngược học ngôn ngữ của các đầu ra mạng neural. Nó tìm kiếm các dấu hiệu đặc trưng, với thời gian, tiết lộ bản chất của các đầu vào. Với mỗi dữ liệu mới và mỗi phản hồi mà nó phân tích, nó dự đoán tốt hơn thông tin bạn cung cấp.

Quá trình này là một vòng lặp liên tục của giả thuyết và thử nghiệm. Với đủ đầu ra, mô hình đảo ngược có thể suy ra chính xác một hồ sơ chi tiết về bạn, ngay cả từ dữ liệu tưởng chừng như vô hại.

Quá trình của mô hình đảo ngược là một trò chơi kết nối các điểm. Mỗi dữ liệu bị rò rỉ qua tương tác cho phép mô hình hình thành một hồ sơ, và với đủ thời gian, hồ sơ mà nó tạo ra là chi tiết không ngờ.

Cuối cùng, các thông tin về hoạt động, sở thích và danh tính của người dùng được tiết lộ. Những thông tin này không được dự định để công khai hoặc tiết lộ.

Điều Gì Làm Cho Điều Này Trở Nên Khả Thi?

Trong các mạng neural, mỗi truy vấn và phản hồi là một điểm dữ liệu. Những kẻ tấn công có kỹ năng triển khai các phương pháp thống kê tiên tiến để phân tích các điểm dữ liệu này và tìm kiếm các mối tương quan và mẫu mà con người không thể nhận thấy.

Các kỹ thuật như phân tích hồi quy (kiểm tra mối quan hệ giữa hai biến) để dự đoán giá trị của đầu vào dựa trên đầu ra bạn nhận được.

Tin tặc sử dụng các thuật toán học máy trong mô hình đảo ngược của họ để tinh chỉnh dự đoán của mình. Họ lấy đầu ra từ chatbot và đưa vào các thuật toán của mình để huấn luyện chúng xấp xỉ hàm nghịch đảo của mạng neural mục tiêu.

Nói một cách đơn giản, “hàm nghịch đảo” đề cập đến cách mà tin tặc đảo ngược dòng dữ liệu từ đầu ra đến đầu vào. Mục tiêu của kẻ tấn công là huấn luyện các mô hình đảo ngược của họ để thực hiện nhiệm vụ ngược lại của mạng neural gốc.

Về cơ bản, đây là cách họ tạo ra một mô hình mà, chỉ với đầu ra, cố gắng tính toán đầu vào phải là gì.

Tấn Công Đảo Ngược Có Thể Được Sử Dụng Chống Lại Bạn Như Thế Nào

Một người phụ nữ chăm sóc con bệnh trong khi cầm điện thoại thông minh và ghi chú

Hãy tưởng tượng bạn đang sử dụng một công cụ đánh giá sức khỏe trực tuyến phổ biến. Bạn nhập vào các triệu chứng, tình trạng sức khỏe trước đây, thói quen ăn uống và thậm chí là sử dụng thuốc để có cái nhìn sâu hơn về sức khỏe của mình.

Đó là thông tin nhạy cảm và cá nhân.

Với một cuộc tấn công đảo ngược nhắm vào hệ thống AI bạn đang sử dụng, tin tặc có thể sử dụng lời khuyên chung mà chatbot đưa ra để suy ra lịch sử y tế cá nhân của bạn. Ví dụ, câu trả lời từ chatbot có thể như sau:

Kháng thể kháng nhân (ANA) có thể được sử dụng để chỉ ra sự hiện diện của các bệnh tự miễn như Lupus.

Mô hình đảo ngược có thể dự đoán rằng người dùng mục tiêu đang hỏi về một tình trạng tự miễn. Với nhiều thông tin và nhiều phản hồi hơn, tin tặc có thể suy ra rằng mục tiêu có một tình trạng sức khỏe nghiêm trọng. Đột nhiên, công cụ trực tuyến hữu ích trở thành một lỗ hổng kỹ thuật số vào sức khỏe cá nhân của bạn.

Làm Gì Để Bảo Vệ Chống Lại Các Tấn Công Đảo Ngược?

Có thể xây dựng một pháo đài xung quanh dữ liệu cá nhân của chúng ta? Điều này phức tạp. Những người phát triển mạng neural có thể làm cho việc thực hiện các cuộc tấn công đảo ngược mô hình trở nên khó khăn hơn bằng cách thêm các lớp bảo mật và che giấu cách thức hoạt động của chúng. Dưới đây là một số kỹ thuật được sử dụng để bảo vệ người dùng:

• Quyền riêng tư vi phân: Đảm bảo rằng đầu ra của AI đủ “nhiễu” để che giấu các điểm dữ liệu cá nhân. Điều này giống như thì thầm trong đám đông – lời nói của bạn bị mất trong tiếng ồn chung của những người xung quanh.
• Tính toán đa bên: Kỹ thuật này giống như một nhóm làm việc trên một dự án bí mật bằng cách chỉ chia sẻ kết quả của các nhiệm vụ cá nhân, không phải chi tiết nhạy cảm. Nó cho phép nhiều hệ thống xử lý dữ liệu cùng nhau mà không tiết lộ dữ liệu người dùng cá nhân cho mạng lưới hoặc lẫn nhau.
• Học liên kết: Liên quan đến việc huấn luyện AI trên nhiều thiết bị, trong khi vẫn giữ dữ liệu người dùng cá nhân tại địa phương. Điều này giống như một dàn hợp xướng cùng hát; bạn có thể nghe thấy mọi giọng nói, nhưng không thể cô lập hoặc xác định từng giọng nói riêng lẻ.

Mặc dù các giải pháp này nhìn chung hiệu quả, việc bảo vệ chống lại các cuộc tấn công đảo ngược là một trò chơi mèo vờn chuột. Khi các biện pháp phòng thủ được cải thiện, các kỹ thuật để vượt qua chúng cũng vậy. Trách nhiệm, do đó, rơi vào các công ty và nhà phát triển thu thập và lưu trữ dữ liệu của chúng ta, nhưng có những cách bạn có thể tự bảo vệ mình.

Làm Thế Nào Để Bảo Vệ Bản Thân Chống Lại Các Tấn Công Đảo Ngược

Mạng neural AI

Tương đối mà nói, mạng neural và công nghệ AI vẫn còn ở giai đoạn đầu. Cho đến khi các hệ thống này trở nên hoàn hảo, trách nhiệm bảo vệ dữ liệu thuộc về người dùng như một tuyến phòng thủ đầu tiên.

Dưới đây là một số mẹo để giảm nguy cơ trở thành nạn nhân của một cuộc tấn công đảo ngược:

• Chia Sẻ Chọn Lọc: Đối xử với thông tin cá nhân của bạn như một công thức gia đình bí mật. Hãy chọn lọc về việc chia sẻ nó với ai, đặc biệt khi điền vào các mẫu trực tuyến và tương tác với chatbot. Hãy đặt câu hỏi về tính cần thiết của từng mảnh dữ liệu được yêu cầu từ bạn. Nếu bạn không muốn chia sẻ thông tin đó với một người lạ, đừng chia sẻ với chatbot.
• Cập Nhật Phần Mềm: Các bản cập nhật cho phần mềm giao diện, trình duyệt và thậm chí hệ điều hành của bạn được thiết kế để giữ an toàn cho bạn. Trong khi các nhà phát triển đang bận rộn bảo vệ các mạng neural, bạn cũng có thể giảm nguy cơ bị đánh cắp dữ liệu bằng cách thường xuyên áp dụng các bản vá và cập nhật.
• Giữ Thông Tin Cá Nhân Riêng Tư: Bất cứ khi nào một ứng dụng hoặc chatbot yêu cầu chi tiết cá nhân, hãy dừng lại và xem xét ý định của họ. Nếu thông tin được yêu cầu dường như không liên quan đến dịch vụ được cung cấp, có lẽ nó thực sự không cần thiết.

Bạn sẽ không cung cấp thông tin nhạy cảm như sức khỏe, tài chính hoặc danh tính cho một người quen mới chỉ vì họ nói rằng họ cần nó. Tương tự, hãy đánh giá thông tin nào thực sự cần thiết cho một ứng dụng hoạt động và chọn không chia sẻ thêm.