Cách Trí Tuệ Nhân Tạo Bảo Vệ (và Tấn Công) Hộp Thư Đến Của Bạn năm 2025

Khi Aparna Pappu, phó chủ tịch và quản lý chung của Google Workspace, phát biểu tại sự kiện Google I/O vào ngày 10 tháng 5, cô đề xuất một tầm nhìn về trí tuệ nhân tạo giúp người dùng lướt qua hộp thư đến của họ. Pappu chỉ ra cách trí tuệ nhân tạo có thể tóm tắt những chuỗi email dài bằng cách nói nhỏ vào tai bạn, rút gọn dữ liệu liên quan từ các tệp cục bộ khi bạn đi qua những thông báo chưa đọc, và đưa bạn thấp xuống đất khi nó gợi ý văn bản có thể chèn vào. Chào mừng bạn đến với hộp thư của tương lai.

Trong khi các chi tiết về cách nó sẽ xuất hiện vẫn mơ hồ, trí tuệ nhân tạo sáng tạo đang sẵn sàng thay đổi cách mọi người giao tiếp qua email. Một phần mở rộng của trí tuệ nhân tạo, gọi là học máy, đã thực hiện một loại vũ điệu an toàn ngay sau khi bạn đã đăng xuất. “Học máy đã là một phần quan trọng của những gì chúng tôi đã sử dụng để bảo vệ Gmail,” Pappu nói với blog.mytour.vn.

Một vài cú nhấp nhầm vào một email đáng nghi có thể gây hậu quả lớn cho bảo mật của bạn, vì vậy học máy làm thế nào để tránh những cuộc tấn công lừa đảo? Neil Kumaran, một chuyên viên sản phẩm tại Google chuyên về an ninh, giải thích rằng học máy có thể xem xét cách diễn đạt của các email đến và so sánh nó với những cuộc tấn công trước đây. Nó cũng có thể đánh dấu các mô hình thông điệp bất thường và phát hiện ra bất kỳ điều gì kỳ lạ phát ra từ siêu dữ liệu.

Học máy có thể làm nhiều hơn chỉ đánh dấu các thông điệp nguy hiểm khi chúng xuất hiện. Kumaran chỉ ra rằng nó cũng có thể được sử dụng để theo dõi những người chịu trách nhiệm về các cuộc tấn công lừa đảo. Anh nói, “Khi tạo tài khoản, chúng tôi thực hiện đánh giá. Chúng tôi cố gắng xác định, ‘Có vẻ như tài khoản này sẽ được sử dụng cho mục đích độc hại không?’” Trong trường hợp tấn công lừa đảo thành công vào tài khoản Google của bạn, trí tuệ nhân tạo tham gia vào quá trình khôi phục cũng. Công ty sử dụng học máy để quyết định cái nào là các nỗ lực đăng nhập chính xác.

“Làm thế nào chúng ta rút ra thông tin từ báo cáo của người dùng để xác định các cuộc tấn công mà chúng ta có thể không biết, hoặc ít nhất là bắt đầu mô hình hóa tác động đối với người dùng của chúng ta?” hỏi Kumaran. Câu trả lời từ Google, giống như câu trả lời cho nhiều câu hỏi vào năm 2023, là thêm nhiều AI hơn. Trường hợp này của trí tuệ nhân tạo không phải là một chatbot giỡn chọc bạn với những cuộc trò chuyện dài vào buổi tối; đó là một tay săn sóc mạnh mẽ đuổi ra khỏi đám đông gian tráng với đôi tay theo thuật toán chéo.

Ngược lại, điều gì đang khích lệ thêm nhiều cuộc tấn công lừa đảo hơn trong hộp thư đến của bạn? Tôi sẽ cho bạn một đoán. Chữ cái đầu tiên “A,” chữ cái cuối cùng “I.” Trong nhiều năm, các chuyên gia an ninh đã cảnh báo về khả năng tấn công lừa đảo được tạo ra bởi trí tuệ nhân tạo có thể làm cho hộp thư đến của bạn quá tải. “Rất, rất khó để phát hiện trí tuệ nhân tạo bằng mắt thường, thông qua cách diễn đạt hoặc qua URL,” Patrick Harr, CEO của SlashNext, một công ty bảo mật tin nhắn nói. Giống như khi người ta sử dụng hình ảnh và video được tạo ra bởi trí tuệ nhân tạo để tạo ra deepfakes khá thuyết phục, kẻ tấn công có thể sử dụng văn bản được tạo ra bởi trí tuệ nhân tạo để cá nhân hóa các cuộc tấn công lừa đảo một cách khó dễ phát hiện đối với người dùng.

Nhiều công ty tập trung vào an ninh email đang làm việc trên các mô hình và sử dụng các kỹ thuật học máy trong nỗ lực để bảo vệ hộp thư đến của bạn thêm nữa. “Chúng tôi lấy dữ liệu đang đến và thực hiện điều gọi là học máy giám sát,” Hatem Naguib, CEO của Barracuda Networks, một công ty an ninh IT nói. Trong học máy giám sát, ai đó thêm nhãn vào một phần của dữ liệu email. Những thông điệp nào có khả năng an toàn? Những cái nào đáng ngờ? Dữ liệu này được suy luận để giúp một công ty đánh dấu các cuộc tấn công lừa đảo bằng học máy.

Đây là một khía cạnh quý báu của việc phát hiện lừa đảo, nhưng kẻ tấn công vẫn tiếp tục tìm cách để vượt qua các biện pháp bảo vệ. Một chiêu lừa đảo kiên trì về việc tặng quà Yeti Cooler giả mạo đã né tránh bộ lọc năm ngoái với một loại HTML neo đặc biệt. 

Những tên tội phạm mạng sẽ tiếp tục cố gắng đánh hack vào tài khoản trực tuyến của bạn, đặc biệt là email doanh nghiệp của bạn. Những người sử dụng trí tuệ nhân tạo sáng tạo có thể có khả năng dịch tốt hơn các cuộc tấn công lừa đảo của họ thành nhiều ngôn ngữ, và các ứng dụng kiểu chatbot có thể tự động hóa một số phần của các cuộc trò chuyện với các nạn nhân tiềm năng.

Mặc dù có tất cả các cuộc tấn công lừa đảo có thể được kích hoạt bởi trí tuệ nhân tạo, Aparna Pappu vẫn lạc quan về việc phát triển tiếp tục của các biện pháp bảo mật tốt hơn, tinh tế hơn. “Bạn đã giảm chi phí cần thiết để có thể lôi kéo ai đó,” cô nói. “Nhưng, ngược lại, chúng ta đã xây dựng lên khả năng phát hiện lớn hơn nhờ vào những công nghệ này.”