Các mạng xã hội và nền tảng trực tuyến đang đẩy mạnh việc kiểm soát và loại bỏ sản phẩm thông tin cũng như hình ảnh được tạo ra bởi trí tuệ nhân tạo (AI) với mục đích bảo vệ người dùng khỏi những lừa đảo trực tuyến. Đại diện của các nhà mạng và hãng công nghệ cho rằng đã đến lúc phải nhận thức rõ về giá trị của thông tin xác thực do con người tạo ra và những sản phẩm giả lập được tạo ra bởi AI.
Sự phát triển nhanh chóng của AI trong thời gian gần đây đã đặt ra nguy cơ nhầm lẫn giữa thực và giả, vi phạm bản quyền sáng tạo và tạo ra môi trường nguy hiểm cho người dùng. Lực lượng an ninh mạng châu Âu đã chỉ ra rằng sản phẩm thông tin từ AI lan truyền trên mạng đã tạo ra sự nhầm lẫn ở người dùng, đặc biệt là thế hệ trẻ.
Các dạng thông tin như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp, lệnh tìm kiếm đang được sử dụng nhiều hơn, biến công cụ AI thành thông minh hơn. Tuy nhiên, hệ lụy là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng một cách máy móc, gây ra nhầm lẫn và sai lệch.
Một số nhà nghiên cứu đã thử dùng AI vào việc chẩn đoán bệnh tật, sử dụng phác đồ y tế, chọn mua thuốc và thu được kết quả tổng hợp thông tin đáng tin cậy. Tuy nhiên, nếu không có sự tham vấn và kiểm chứng lại từ người có chuyên môn, sẽ có nhiều người nhầm lẫn và gặp nguy hiểm.
Các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị, lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày khéo léo và trôi chảy, dễ đánh lừa người dùng.
Điều này dễ dẫn đến nghi ngờ của người dùng AI khi tiếp cận vấn đề thời sự, xã hội và kiểm chứng lịch sử. Tất cả cho thấy dữ liệu tổng hợp là nguồn khai thác chính của AI, nhưng không phải dữ liệu nào cũng chính xác.
Nếu có công cụ AI được nhiều nhóm người dùng cố tình đưa dữ liệu sai lệch, tương tác nhiều lần, sẽ tích hợp thông tin không chính xác và gây hệ lụy. Các tổ chức nghiên cứu, ứng dụng đã kiến nghị mạng xã hội, môi trường chia sẻ thông tin, công nghệ phải kiểm tra sản phẩm từ AI.
Trường học, viện nghiên cứu, thư viện số, nhà xuất bản đã vào cuộc ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế. Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích, sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc.
Cảnh báo của cơ quan an ninh mạng về nguy cơ người dùng bị lừa đảo, tấn công mạng, gây nhầm lẫn thông tin và hiểu sai sự việc khi sử dụng dữ liệu, sản phẩm do AI tạo ra. Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng, tỉnh táo trước dữ liệu mơ hồ, nhất là có dấu hiệu do công cụ AI soạn.
Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin, cảm xúc người dùng. Theo cơ quan chức năng, thanh lọc thông tin tạo ra từ AI, bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn, lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng.