Nghiên cứu do hai nhà khoa học Simon Lermen và Daniel Paleka thực hiện cho thấy, các mô hình ngôn ngữ lớn (LLM) - công nghệ đứng sau nhiều nền tảng AI hiện nay - có khả năng đối chiếu thông tin được chia sẻ trên mạng để lần ra danh tính thật của một người dùng trên các nền tảng khác.

Trong thí nghiệm, nhóm nghiên cứu đưa dữ liệu từ một tài khoản ẩn danh vào hệ thống AI và yêu cầu thu thập tất cả thông tin có thể tìm thấy. Từ đó, AI phân tích những chi tiết tưởng chừng nhỏ nhặt trong các bài đăng, như câu chuyện cá nhân, địa điểm quen thuộc hay các thói quen sinh hoạt, rồi tìm kiếm những dữ liệu tương tự trên Internet. Khi các mảnh dữ liệu được ghép lại, hệ thống có thể xác định danh tính thật với mức độ tin cậy khá cao.

Theo các nhà nghiên cứu, sự phát triển của AI đang làm giảm đáng kể chi phí và độ phức tạp của các cuộc tấn công xâm phạm quyền riêng tư. Những việc trước đây cần nhiều thời gian, công sức và kỹ năng phân tích dữ liệu thì giờ đây có thể được tự động hóa chỉ trong thời gian ngắn.

Không chỉ dừng ở việc “bóc danh tính”, AI còn có thể bị lợi dụng cho nhiều mục đích nguy hiểm hơn. Tin tặc có thể khai thác các thông tin thu thập được để thực hiện các cuộc tấn công cá nhân hóa, chẳng hạn giả danh người quen để gửi liên kết độc hại, từ đó đánh cắp dữ liệu hoặc chiếm quyền truy cập tài khoản.

Giáo sư Peter Bentley - chuyên gia khoa học máy tính tại Đại học University College London - cảnh báo rằng, việc thương mại hóa các công cụ AI có khả năng truy vết danh tính có thể tạo ra nhiều rủi ro mới cho người dùng Internet. Một trong những vấn đề đáng lo ngại là các mô hình AI đôi khi vẫn mắc sai sót khi liên kết dữ liệu, dẫn tới nguy cơ gán nhầm danh tính giữa các cá nhân.

Ngoài ra, AI có thể khai thác nhiều nguồn dữ liệu công khai khác ngoài mạng xã hội, như hồ sơ thống kê, dữ liệu y tế hoặc các kho dữ liệu mở. Khi những nguồn thông tin này được kết hợp lại, các phương pháp ẩn danh truyền thống có thể trở nên kém hiệu quả trong thời đại AI.

Tuy vậy, các chuyên gia cũng lưu ý rằng, AI không phải lúc nào cũng có thể xác định chính xác danh tính người dùng. Trong nhiều trường hợp, lượng thông tin trên Internet không đủ để đưa ra kết luận chắc chắn hoặc có quá nhiều dữ liệu trùng khớp khiến việc xác định trở nên khó khăn.

Dù vậy, nghiên cứu này vẫn gióng lên hồi chuông cảnh báo về những thách thức mới đối với quyền riêng tư trong kỷ nguyên AI. Các nhà khoa học cho rằng, các nền tảng trực tuyến cần tăng cường biện pháp bảo vệ dữ liệu, đồng thời người dùng cũng nên thận trọng hơn khi chia sẻ thông tin cá nhân trên mạng xã hội, kể cả khi đang sử dụng tài khoản ẩn danh.