Dù muốn hay không, trí tuệ nhân tạo (AI) đang chủ động định hình lại thế giới của chúng ta. Tuy nhiên, không phải lúc nào cũng chỉ có những mặt tiêu cực. AI mang lại những lợi ích hữu hình với tiềm năng cải thiện nhiều khía cạnh trong cuộc sống hàng ngày. Các công ty đang sử dụng AI để giảm thiểu tắc nghẽn giao thông tại các điểm giao cắt đông đúc, trong khi công nghệ này cũng cho thấy nhiều hứa hẹn trong việc chẩn đoán bệnh trước khi các triệu chứng xuất hiện.
Ở cấp độ cá nhân, AI có thể được sử dụng để dịch thuật theo thời gian thực, viết mã, tự động hóa các tác vụ lặp đi lặp lại, tìm hiểu các chủ đề phức tạp và cho các ứng dụng sáng tạo như tạo video và hình ảnh. Tuy nhiên, lĩnh vực tạo ảnh và video bằng AI lại là một con dao hai lưỡi.
Ứng dụng AI trên điện thoại minh họa sự đơn giản hóa cuộc sống
Trong khi AI tạo video và hình ảnh mang lại một kênh sáng tạo mới, nguy cơ công nghệ này bị lạm dụng cũng đặt ra một thách thức đáng kể – thách thức mà Meta dường như đang đối mặt hiện tại.
Để hiểu rõ hơn, hầu hết các ứng dụng tạo ảnh và video AI lớn đều có các biện pháp ngăn chặn việc tạo deepfake, đánh cắp tác phẩm của các nghệ sĩ khác, tạo nội dung sai lệch… kèm theo các công cụ đóng dấu bản quyền để phân biệt đâu là thật và đâu là nội dung do AI tạo ra.
Tuy nhiên, ở một khía cạnh khác của bức tranh này, có những ứng dụng lại chủ động cung cấp công cụ để tạo ra hình ảnh khỏa thân và/hoặc nội dung khiêu dâm bằng AI từ hình ảnh của người khác mà không có sự đồng ý của họ. Meta hiện đang mạnh tay xử lý một nền tảng nổi bật như vậy.
Công ty áp dụng các biện pháp phòng vệ mới
Meta đã đệ đơn kiện một công ty có trụ sở tại Hồng Kông (Joy Timeline HK Limited) đứng sau ứng dụng Crush AI và các ứng dụng “nudify” (biến ảnh thường thành ảnh khỏa thân) tương tự. Nhà sản xuất ứng dụng này thường xuyên tìm cách lách quy trình xét duyệt quảng cáo của gã khổng lồ công nghệ. Đáp lại, Meta đang thực hiện các bước bổ sung để đảm bảo các quảng cáo như vậy không còn hiển thị trên các nền tảng như Instagram và Facebook.
Hình ảnh con hổ neon làm từ mì ramen, minh họa cho hình ảnh được tạo bởi AI
Theo thông cáo báo chí mới của Meta, vụ kiện “diễn ra sau nhiều lần Joy Timeline HK Limited cố gắng lách quy trình xét duyệt quảng cáo của Meta và tiếp tục chạy các quảng cáo này, sau khi chúng liên tục bị gỡ bỏ vì vi phạm quy định của chúng tôi.” Vì vậy, mặc dù vụ việc liên quan đến việc công ty này cho phép người dùng tạo nội dung nhạy cảm từ ảnh của người khác, đây về cơ bản là một vụ kiện nhắm vào việc Joy Timeline HK Limited lặp đi lặp lại và cố tình né tránh các chính sách quảng cáo của Meta.
Meta nói thêm rằng trong thời gian tới, khi phát hiện và gỡ bỏ quảng cáo, tài khoản hoặc nội dung quảng bá loại nội dung này, họ sẽ chia sẻ thông tin – bắt đầu bằng URL của các ứng dụng và trang web vi phạm – với các công ty công nghệ khác thông qua chương trình Lantern của Tech Coalition, để họ có thể điều tra và hành động tương tự. Meta cũng đang triển khai các biện pháp phòng vệ bổ sung được thiết kế để phát hiện loại quảng cáo này, ngay cả khi nội dung quảng cáo không chứa hình ảnh khỏa thân.
Động thái này diễn ra không lâu sau khi Oversight Board, một cơ quan độc lập giám sát các quyết định kiểm duyệt nội dung trên các nền tảng như Facebook và Instagram, chỉ trích Meta vì đã không đủ quyết liệt trong việc thực thi các quy tắc của chính mình.
Biển quảng cáo lớn minh họa sự hiện diện rộng rãi của AI trong cuộc sống
Kết luận
Vụ kiện của Meta chống lại Joy Timeline HK Limited là một bước đi đáng chú ý trong nỗ lực kiểm soát mặt tối của AI tạo sinh, đặc biệt là các ứng dụng tạo nội dung nhạy cảm. Mặc dù lý do pháp lý trực tiếp là do né tránh chính sách quảng cáo, hành động này cho thấy Meta đang siết chặt hơn với các bên lạm dụng công nghệ AI để tạo ra nội dung độc hại và bất hợp pháp.
Tài liệu tham khảo
- Thông cáo báo chí của Meta: https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/
- Bài viết của Engadget: https://www.engadget.com/social-media/meta-is-cracking-down-on-ai-nudify-apps-100034964.html?src=rss
