OpenAI cho biết vào thứ Năm 8 tháng 10 rằng hãng đã cấm các tài khoản ChatGPT thuộc một chiến dịch ảnh hưởng có nguồn gốc từ Iran, trong đó các đối tượng dùng mô hình của hãng cùng bảy nhân vật nhà báo giả để đưa khoảng 100 bài viết chỉ trích cuộc chiến của Mỹ chống Iran lên khoảng một chục ấn phẩm trực tuyến trên thế giới. Chiến dịch có tên Bogus Bylines, và các tài khoản bị cấm đã dùng ChatGPT bằng tiếng Ba Tư để chỉnh sửa bài viết, soạn thư chào bài và tạo hàng loạt bình luận cho mạng xã hội.
Theo OpenAI, bảy nhân vật này được dùng để chào những bài dài tới các ấn phẩm trực tuyến cỡ nhỏ và vừa, trong đó có những nhân vật được dựng thành cây viết tự do người Mỹ, dù các đối tượng dùng mạng riêng ảo để che vị trí và cài đặt minh bạch vẫn định vị các tài khoản ở Iran. Một số bài mang tiêu đề gây tranh cãi, như “Liệu chính sách Iran của Mỹ có đang bị tư nhân hóa? Câu hỏi về Jared Kushner” và “Cuộc chiến Iran và sự sụp đổ uy tín đạo đức của phương Tây”.
Bài về ông Kushner được xuất bản trên LA Progressive, ấn phẩm tự mô tả là độc lập vì công lý có trụ sở tại Los Angeles, còn Middle East Monitor, ấn phẩm có trụ sở tại London và gần hai triệu người theo dõi trên Facebook, đã xuất bản ít nhất 21 bài của bốn tác giả giả và sau đó gỡ các trang tác giả này. Trên Daily Kos, một nhân vật giả cũng đăng bài ở mục cộng đồng, nơi bất kỳ ai đăng ký đều có thể đăng mà không qua biên tập viên duyệt trước.
Sau khi bài lên mạng, các đối tượng yêu cầu ChatGPT tạo bình luận để đăng lên mạng xã hội như thể do người đọc thật phản ứng với bài viết. OpenAI nêu rằng các yêu cầu này xoay quanh tên lửa, ngừng bắn và thương lượng ngoại giao, với chỉ dẫn mô tả Mỹ là bên gây hấn, Israel là đồng minh không đáng tin của Mỹ và Iran là nạn nhân ngoan cường nhưng không khuất phục, và các bình luận được tạo bằng cả tiếng Anh lẫn tiếng Ba Tư.
OpenAI cho rằng toàn bộ hoạt động phù hợp với một bên thương mại thực hiện chiến dịch ảnh hưởng thuê, song hãng không thể xác định đối tượng cụ thể, và chưa rõ họ có liên hệ với chính phủ Iran hay không. Hãng xếp chiến dịch này ở cấp 4 trên Breakout Scale, thang đo 6 bậc về mức độ lan tỏa, và nói thêm rằng cùng đợt đó hãng cấm một chiến dịch có nguồn gốc từ Nga ở cấp 5, cấp cao nhất hãng từng ghi nhận.
Bà Jessica Brandt, người điều hành Trung tâm Ảnh hưởng Ác ý Nước ngoài của Văn phòng Giám đốc Tình báo Quốc gia từ năm 2023 đến 2025, nhận xét rằng việc đưa được nội dung lên các tờ báo thật làm tăng khả năng tiếp cận của chiến dịch.
Bà nói AI giúp các đối thủ nước ngoài che giấu bàn tay của mình tốt hơn, dựng những bình phong tinh vi hơn để đưa nội dung qua các kênh có thật và tận dụng sức lan tỏa của chúng.
Giáo sư Darren Linvill, đồng giám đốc Trung tâm Pháp y Truyền thông tại Đại học Clemson, cho rằng AI giúp các đối tượng tạo ra thứ ngôn ngữ trông và đọc như thật đến mức được các ấn phẩm hợp pháp xuất bản, điều mà theo ông vài năm trước một chiến dịch kiểu này của Iran khó làm được. OpenAI so sánh các nhân vật nhà báo giả với “Alice Donovan”, nhân vật bình phong của tình báo quân sự Nga có bài được nhiều ấn phẩm phương Tây xuất bản năm 2016 và 2017, và với “PeaceData”, ấn phẩm tin giả năm 2020 lôi kéo các nhà báo không hay biết viết bài.
Hãng cho biết trong 30 chiến dịch ảnh hưởng bí mật đã bị vạch trần trong hai năm rưỡi qua, những chiến dịch cố đưa nội dung vào ấn phẩm thật thay vì dựa vào mạng xã hội giả thường có khả năng lan tỏa và tác động cao nhất. Trước đó, vào tháng 8 năm 2024, OpenAI cấm các tài khoản gắn với nhóm Storm-2035 của Iran, nhóm đã lập năm trang web giả danh báo chí cấp tiến và bảo thủ, và khi ấy hãng nhận định phần lớn bài đăng mạng xã hội của nhóm này nhận rất ít lượt thích hay chia sẻ.
Ông Daud Abdullah, giám đốc Middle East Monitor, cho biết ông sẽ xem xét các bài OpenAI nêu và có hành động phù hợp, còn LA Progressive chưa trả lời yêu cầu bình luận. Daily Kos nói mục cộng đồng của họ tách biệt với bài của ban biên tập, và các bài đăng của nhân vật giả vẫn còn trên trang.