Vào thứ Ba vừa qua, Elon Musk đã giới thiệu một công cụ mới mang tên Grok, thuộc công ty xAI của mình, cho phép người dùng tạo ra các hình ảnh do AI tạo ra từ các lời nhắc bằng văn bản và đăng chúng lên mạng xã hội X. Ngay lập tức, công cụ này đã bị lạm dụng để tạo ra hàng loạt hình ảnh giả mạo của các nhân vật chính trị nổi tiếng như cựu Tổng thống Donald Trump, Phó Tổng thống Kamala Harris và chính Musk – một số hình ảnh thậm chí còn đặt các nhân vật này vào những tình huống giả mạo và gây sốc, chẳng hạn như tham gia vào vụ tấn công ngày 11/9.
Không giống như các công cụ tạo ảnh AI khác đang phổ biến, Grok dường như có rất ít rào cản ngăn chặn việc sử dụng sai mục đích. Trong quá trình thử nghiệm công cụ này, CNN đã dễ dàng tạo ra những hình ảnh giả mạo, chân thực của các chính trị gia và ứng cử viên chính trị mà nếu không được đặt trong bối cảnh chính xác, có thể gây hiểu lầm cho cử tri. Các hình ảnh này cũng bao gồm những cảnh bình dị nhưng thuyết phục, chẳng hạn như Musk đang ăn bít tết trong công viên.
Elon Musk (hình ảnh minh họa được tạo bởi AI)
Một số người dùng trên X đã đăng tải các hình ảnh do họ tạo ra bằng Grok, cho thấy những nhân vật nổi tiếng đang tiêu thụ ma túy, các nhân vật hoạt hình thực hiện các vụ giết người bạo lực và những hình ảnh gợi cảm của phụ nữ mặc bikini. Trong một bài đăng được xem gần 400.000 lần, một người dùng đã chia sẻ hình ảnh Trump ngồi trên nóc một chiếc xe tải, bắn súng trường. CNN đã xác nhận rằng công cụ này có khả năng tạo ra những hình ảnh như vậy.
Việc này đã dấy lên lo ngại về khả năng AI sẽ gây ra một làn sóng thông tin sai lệch hoặc lừa đảo trên Internet, đặc biệt là trước cuộc bầu cử tổng thống Hoa Kỳ. Các nhà lập pháp, các nhóm xã hội dân sự và thậm chí cả các nhà lãnh đạo công nghệ đều đã bày tỏ sự lo ngại rằng việc lạm dụng các công cụ như vậy có thể gây nhầm lẫn và hỗn loạn cho cử tri.
Elon Musk đã đáp lại những lo ngại này bằng một bài đăng trên X vào thứ Tư, ca ngợi Grok là “AI vui nhộn nhất thế giới” sau khi một người dùng khen ngợi công cụ này vì không bị kiểm duyệt.
Nhiều công ty AI hàng đầu khác đã thực hiện các biện pháp để ngăn chặn việc sử dụng công cụ tạo ảnh AI của họ cho mục đích chính trị sai trái, mặc dù các nhà nghiên cứu đã phát hiện rằng người dùng đôi khi vẫn có thể tìm cách vượt qua các biện pháp kiểm soát này. Một số công ty, bao gồm OpenAI, Meta và Microsoft, cũng đã tích hợp công nghệ hoặc nhãn để giúp người xem nhận biết được những hình ảnh được tạo ra bởi AI. Các nền tảng mạng xã hội khác như YouTube, TikTok, Instagram và Facebook cũng đã áp dụng biện pháp gắn nhãn cho nội dung do AI tạo ra trong luồng thông tin của người dùng.
X hiện chưa phản hồi yêu cầu bình luận về việc liệu có chính sách nào ngăn chặn Grok tạo ra các hình ảnh gây hiểu lầm về các ứng cử viên chính trị hay không.
Tuy nhiên, vào thứ Sáu, xAI dường như đã bắt đầu áp dụng một số hạn chế đối với Grok, nhằm phản ứng lại các báo cáo chỉ trích và các hình ảnh gây sốc mà người dùng đã tạo ra và đăng tải. Công cụ này hiện từ chối tạo ra hình ảnh của các ứng cử viên chính trị hoặc các nhân vật hoạt hình nổi tiếng (sở hữu bởi các công ty khác) khi liên quan đến hành vi bạo lực hoặc đi kèm với các biểu tượng ngôn từ kích động thù hận, mặc dù người dùng đã lưu ý rằng các hạn chế này dường như chỉ áp dụng đối với một số thuật ngữ và chủ đề hình ảnh nhất định.
Mặc dù X có chính sách chống lại việc chia sẻ “nội dung giả mạo, bị thao túng, hoặc không đúng ngữ cảnh có thể lừa dối hoặc gây nhầm lẫn cho người khác và dẫn đến hậu quả nguy hiểm,” nhưng vẫn chưa rõ chính sách này được thực thi như thế nào. Chính Musk đã chia sẻ một video trên X vào tháng trước sử dụng AI để làm cho Harris dường như đã nói những điều mà bà thực tế không hề nói – một sự vi phạm rõ ràng của chính sách này và chỉ đính kèm một biểu tượng cảm xúc cười để ám chỉ rằng nó là giả.
Việc ra mắt Grok cũng diễn ra trong bối cảnh Musk đang đối mặt với chỉ trích vì liên tục lan truyền các tuyên bố sai lệch và gây hiểu lầm trên X liên quan đến cuộc bầu cử tổng thống, bao gồm một bài đăng đặt câu hỏi về độ an toàn của các máy bỏ phiếu.
Các công cụ tạo hình ảnh AI khác cũng đã vấp phải phản ứng dữ dội vì nhiều vấn đề khác nhau. Google đã phải tạm dừng khả năng tạo hình ảnh của chatbot AI Gemini sau khi bị chỉ trích vì tạo ra các hình ảnh không chính xác về chủng tộc của con người; công cụ tạo ảnh AI của Meta cũng bị lên án vì gặp khó khăn trong việc tạo ra hình ảnh của các cặp đôi hoặc nhóm bạn bè từ các nền văn hóa khác nhau. TikTok cũng buộc phải gỡ bỏ một công cụ video AI sau khi CNN phát hiện ra rằng bất kỳ người dùng nào cũng có thể tạo ra các video trông giống thật của người khác nói bất cứ điều gì, bao gồm cả thông tin sai lệch về vaccine, mà không có nhãn cảnh báo.
Grok dường như có một số hạn chế; chẳng hạn, khi được yêu cầu tạo ra hình ảnh khiêu dâm, công cụ đã trả lời: “rất tiếc, tôi không thể tạo ra loại hình ảnh đó.” Trong một thử nghiệm khác, công cụ này cho biết cũng có “hạn chế trong việc tạo ra nội dung quảng bá hoặc có thể được coi là ủng hộ các định kiến gây hại, ngôn từ kích động thù hận hoặc thông tin sai lệch.”
Tuy nhiên, trong một yêu cầu khác, công cụ này vẫn tạo ra một hình ảnh của một nhân vật chính trị đứng cạnh biểu tượng ngôn từ kích động thù hận – một dấu hiệu cho thấy bất kỳ hạn chế nào mà Grok có, chúng dường như không được thực thi nhất quán.
