Sức Mạnh Của AI Trong An Ninh Mạng: Tiềm Năng Và Thách Thức

Công Cụ Tạo Ảnh AI Là Gì? Chúng Hoạt Động Như Thế Nào?

Nếu bạn đã từng sử dụng công cụ tạo ảnh AI, bạn sẽ hiểu rõ chúng hoạt động như thế nào. Ngay cả khi chưa từng sử dụng, bạn có thể đã gặp những hình ảnh do AI tạo ra trên mạng xã hội. Các phần mềm phổ biến hiện nay hoạt động dựa trên nguyên tắc đơn giản: người dùng nhập văn bản, và AI sẽ tạo ra hình ảnh dựa trên văn bản đó.

Dưới bề mặt, quá trình này phức tạp hơn nhiều. Trong những năm gần đây, AI đã trở nên tinh vi hơn, và hầu hết các công cụ tạo ảnh từ văn bản hiện nay là các mô hình khuếch tán. Điều này có nghĩa là chúng được “đào tạo” trong thời gian dài trên một lượng lớn văn bản và hình ảnh, giúp các sáng tạo của chúng trở nên ấn tượng và chân thực.

Điều đáng chú ý là các công cụ AI này không chỉ chỉnh sửa hình ảnh hiện có hay kết hợp hàng ngàn hình ảnh vào một, mà còn tạo ra các hình ảnh mới, nguyên bản từ đầu. Càng nhiều người sử dụng các công cụ này, chúng càng nhận được nhiều thông tin và tạo ra những sản phẩm tốt hơn.

Một số công cụ tạo ảnh AI nổi tiếng nhất bao gồm Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor, và Craiyon. Các công cụ mới liên tục xuất hiện, và các gã khổng lồ công nghệ như Google cũng đang phát hành các công cụ của riêng mình, khiến chúng ta không thể dự đoán được tương lai sẽ mang lại điều gì.

4 Cách Tội Phạm Mạng Lợi Dụng Công Cụ Tạo Ảnh AI

Hình ảnh minh họa về màn hình đại diện cho trí tuệ nhân tạo

Giống như hầu hết các công nghệ, công cụ tạo ảnh AI có thể bị lạm dụng bởi các tác nhân xấu. Thực tế, chúng đã và đang được sử dụng cho nhiều mục đích xấu. Nhưng cụ thể, tội phạm có thể thực hiện những loại lừa đảo và tấn công mạng nào với sự hỗ trợ của công cụ tạo ảnh AI?

1. Kỹ Thuật Xã Hội

Một trong những cách rõ ràng mà tội phạm mạng có thể sử dụng công cụ tạo ảnh AI là thực hiện các kỹ thuật xã hội, chẳng hạn như tạo ra các hồ sơ giả mạo trên mạng xã hội. Một số chương trình có thể tạo ra những hình ảnh cực kỳ chân thực, trông giống như những bức ảnh thật của người thật, và kẻ lừa đảo có thể sử dụng những hồ sơ giả mạo này để thực hiện hành vi lừa đảo tình cảm.

Không giống như ảnh của người thật, ảnh do AI tạo ra không thể bị phát hiện qua tìm kiếm ngược hình ảnh, và kẻ tội phạm không cần phải làm việc với số lượng ảnh hạn chế để lừa đảo mục tiêu của mình – sử dụng AI, chúng có thể tạo ra bao nhiêu ảnh tùy thích, xây dựng một danh tính trực tuyến thuyết phục từ đầu.

Có những ví dụ thực tế về việc tội phạm mạng sử dụng công cụ tạo ảnh AI để lừa đảo. Vào tháng 4 năm 2022, blogger Ben Dickinson của TechTalks nhận được email từ một công ty luật tuyên bố rằng anh đã sử dụng hình ảnh mà không có sự cho phép. Các luật sư đã gửi Thông báo Vi phạm Bản quyền DMCA, yêu cầu Dickinson liên kết lại với một khách hàng của họ hoặc gỡ bỏ hình ảnh.

Dickinson đã tìm kiếm công ty luật trên Google và tìm thấy trang web chính thức. Tất cả đều có vẻ hoàn toàn hợp pháp; trang web thậm chí còn có ảnh của 18 luật sư, kèm theo tiểu sử và thông tin chuyên môn của họ. Nhưng không có gì là thật cả. Các bức ảnh đều do AI tạo ra, và các thông báo vi phạm bản quyền giả mạo được gửi đi bởi một kẻ tìm cách moi backlink từ các blogger không nghi ngờ, như một phần của chiến lược SEO (Tối ưu hóa Công cụ Tìm kiếm) không đạo đức, mũ đen.

2. Lừa Đảo Từ Thiện

Khi động đất tàn phá Thổ Nhĩ Kỳ và Syria vào tháng 2 năm 2023, hàng triệu người trên toàn thế giới đã bày tỏ sự đồng cảm với nạn nhân bằng cách quyên góp quần áo, thực phẩm và tiền bạc.

Theo báo cáo từ BBC, các kẻ lừa đảo đã lợi dụng điều này, sử dụng AI để tạo ra những hình ảnh chân thực và kêu gọi quyên góp. Một kẻ lừa đảo đã hiển thị hình ảnh do AI tạo ra về cảnh đổ nát trên TikTok Live, yêu cầu người xem quyên góp. Một kẻ khác đã đăng một hình ảnh do AI tạo ra về một lính cứu hỏa Hy Lạp cứu một đứa trẻ bị thương từ đống đổ nát, và yêu cầu người theo dõi quyên góp bằng Bitcoin.

Chúng ta chỉ có thể tưởng tượng những loại lừa đảo từ thiện mà tội phạm sẽ thực hiện với sự hỗ trợ của AI trong tương lai, nhưng có thể chắc chắn rằng chúng sẽ ngày càng lạm dụng phần mềm này tốt hơn.

3. Deepfakes và Thông Tin Sai Lệch

Các chính phủ, nhóm hoạt động và viện nghiên cứu đã từ lâu cảnh báo về nguy cơ của deepfakes. Các công cụ tạo ảnh AI thêm một yếu tố mới vào vấn đề này, vì các sáng tạo của chúng rất chân thực. Thực tế, ở Anh, thậm chí còn có một chương trình hài kịch có tên Deep Fake Neighbour Wars tìm thấy sự hài hước trong việc ghép đôi các nhân vật nổi tiếng không thể xảy ra. Điều gì ngăn cản một đặc vụ thông tin sai lệch tạo ra một hình ảnh giả mạo và quảng bá nó trên mạng xã hội với sự hỗ trợ của các bot?

Điều này có thể gây ra hậu quả thực tế, như suýt xảy ra vào tháng 3 năm 2022, khi một video giả mạo miêu tả Tổng thống Ukraine Volodymyr Zelensky yêu cầu người dân Ukraine đầu hàng lan truyền trên mạng, theo NPR. Nhưng đó chỉ là một ví dụ, vì khả năng là vô hạn, và có vô số cách mà một tác nhân đe dọa có thể làm hỏng danh tiếng của ai đó, thúc đẩy một câu chuyện giả mạo hoặc lan truyền tin giả với sự hỗ trợ của AI.

4. Gian Lận Quảng Cáo

Các nhà nghiên cứu của TrendMicro đã phát hiện vào năm 2022 rằng các kẻ lừa đảo đang sử dụng nội dung do AI tạo ra để tạo ra các quảng cáo gây hiểu lầm và quảng bá các sản phẩm mờ ám. Chúng tạo ra các hình ảnh gợi ý rằng các ngôi sao nổi tiếng sử dụng một số sản phẩm cụ thể, và chạy các chiến dịch quảng cáo dựa trên những hình ảnh đó.

Ví dụ, một quảng cáo cho một “cơ hội tư vấn tài chính” đã sử dụng hình ảnh của tỷ phú Elon Musk, người sáng lập và CEO của Tesla. Tất nhiên, Musk chưa bao giờ ủng hộ sản phẩm đó, nhưng đoạn phim do AI tạo ra đã khiến nó có vẻ như vậy, có lẽ là để dụ dỗ những người xem không nghi ngờ nhấp vào quảng cáo.