Indonesians swindled by scams using President Prabowo deepfakes

"Who hasn't received aid from me? What are your needs right now?" Prabowo appears to ask viewers in the clip posted in November.

• "Ai chưa nhận được sự hỗ trợ từ tôi? Nhu cầu của bạn hiện tại là gì?" Prabowo dường như hỏi người xem trong đoạn clip được đăng tải vào tháng Mười Một.

But while the Indonesian leader's mouth moves and his eyes blink, the words he utters are part of a fraudulent deepfake scam uncovered by police last month that has swindled Indonesians across 20 provinces.

• Nhưng trong khi miệng của lãnh đạo Indonesia di chuyển và mắt chớp, những lời ông nói là một phần của một trò lừa đảo deepfake bị cảnh sát phát hiện tháng trước đã lừa đảo người Indonesia trên khắp 20 tỉnh.

Those ensnared by the message were asked to contact a WhatsApp number and hand over between 250,000 and one million rupiah ($15-$60) as an "administrative fee" to get aid that never materialized.

• Những người bị mắc bẫy thông điệp này được yêu cầu liên hệ với một số WhatsApp và nộp từ 250.000 đến một triệu rupiah (15-60 đô la) như một "phí hành chính" để nhận sự hỗ trợ mà không bao giờ có.

Since last year's Indonesian election, experts have warned of a tidal wave of deepfakes -- audio, images and video appearing to come from a known person but which are in fact the work of scammers using artificial intelligence tools.

• Kể từ sau cuộc bầu cử Indonesia năm ngoái, các chuyên gia đã cảnh báo về làn sóng deepfake — âm thanh, hình ảnh và video xuất hiện như đến từ một người quen thuộc nhưng thực tế là tác phẩm của những kẻ lừa đảo sử dụng công cụ trí tuệ nhân tạo.

And victims say the hoaxes are so sophisticated they leave others vulnerable to being conned too.

• Và các nạn nhân nói rằng các trò lừa đảo này tinh vi đến mức làm cho người khác dễ dàng bị lừa.

"People should be more careful. Don't be easily fooled by the lure of prizes," said Aryani, 56, who handed over 200,000 rupiah to fraudsters after seeing a deepfake video of a prominent Indonesian businessman.

• "Mọi người nên cẩn thận hơn. Đừng dễ dàng bị lừa bởi sự hấp dẫn của giải thưởng," Aryani, 56 tuổi, người đã nộp 200.000 rupiah cho những kẻ lừa đảo sau khi xem một video deepfake của một doanh nhân nổi tiếng Indonesia nói.

"I need money, but instead I'm asked to send money. They even made video calls with me, as if I were talking directly to them."

• "Tôi cần tiền, nhưng thay vào đó tôi lại được yêu cầu gửi tiền. Họ thậm chí còn gọi video với tôi, như thể tôi đang nói chuyện trực tiếp với họ."

During the Southeast Asian country's presidential campaign, deepfakes became a prominent tool to spread misinformation both harmful and helpful to candidates.

• Trong chiến dịch tranh cử tổng thống của quốc gia Đông Nam Á, deepfake đã trở thành một công cụ nổi bật để lan truyền thông tin sai lệch có hại và có lợi cho các ứng viên.

But now that technology has fallen into the hands of criminals looking to make cold, hard cash.

• Nhưng giờ đây công nghệ đó đã rơi vào tay những kẻ tội phạm tìm kiếm tiền mặt lạnh lẽo.

Wide circulation

• Lưu hành rộng rãi

AFP's fact-checkers found the account behind the Prabowo clip has posted dozens of similar videos appearing to show various high-profile figures, including Indonesian Vice President Gibran Rakabuming Raka.

• Các nhà kiểm chứng thực tế của AFP đã tìm thấy tài khoản đứng sau đoạn clip của Prabowo đã đăng hàng chục video tương tự xuất hiện để hiển thị các nhân vật nổi tiếng khác, bao gồm Phó Tổng thống Indonesia Gibran Rakabuming Raka.

Those videos also promote the bogus financial aid.

• Những video đó cũng quảng bá hỗ trợ tài chính giả mạo.

Police arrested a suspect who pocketed 65 million rupiah ($4,000) from the scam, Himawan Bayu Aji, director of the Indonesian National Cyber Crime Unit told reporters in February.

• Cảnh sát đã bắt giữ một nghi phạm đã bỏ túi 65 triệu rupiah (4.000 đô la) từ trò lừa đảo, Himawan Bayu Aji, giám đốc Đơn vị Tội phạm Mạng Quốc gia Indonesia nói với các phóng viên vào tháng Hai.

He said officers detained a second person involved in another scam that also used deepfake technology, without disclosing the amount raised.

• Ông cho biết các sĩ quan đã bắt giữ một người khác liên quan đến một trò lừa đảo khác cũng sử dụng công nghệ deepfake, mà không tiết lộ số tiền thu được.

AFP Fact Check's investigation found the spread of such videos had a much wider reach than the two accounts that police announced.

• Cuộc điều tra của AFP Fact Check đã phát hiện ra sự lan truyền của các video như vậy có phạm vi rộng hơn nhiều so với hai tài khoản mà cảnh sát đã công bố.

Deepfake videos of the president, a popular ex-general, were still circulating on social media after the arrests, including dozens on TikTok with the hashtag "Prabowo shares blessings".

• Các video deepfake của tổng thống, một cựu tướng nổi tiếng, vẫn đang lưu hành trên mạng xã hội sau các vụ bắt giữ, bao gồm hàng chục trên TikTok với hashtag "Prabowo chia sẻ phúc lợi".

At least 22 TikTok accounts were touting the same fraudulent scheme since Prabowo took office in October, AFP journalists found, with some appearing to take advantage of his recent rise to the presidency.

• Ít nhất 22 tài khoản TikTok đã lăng xê cùng một trò lừa đảo kể từ khi Prabowo nhậm chức vào tháng Mười, các nhà báo của AFP phát hiện, với một số tài khoản dường như lợi dụng sự thăng tiến gần đây của ông lên vị trí tổng thống.

One account with more than 77,000 followers racked up 7.5 million views on a fabricated video of Prabowo apparently doling out financial assistance.

• Một tài khoản với hơn 77.000 người theo dõi đã thu về 7,5 triệu lượt xem trên một video giả mạo của Prabowo dường như phân phát hỗ trợ tài chính.

Another account with thousands of followers has shared 100 videos since January alone, the majority featuring deepfake videos of the president offering cash.

• Một tài khoản khác với hàng nghìn người theo dõi đã chia sẻ 100 video chỉ tính riêng từ tháng Giêng, phần lớn là các video deepfake của tổng thống cung cấp tiền mặt.

TikTok said it had removed one of the deepfake scam videos and the associated account, adding it would continue to remove any that violated the platform's community guidelines, which prohibit misleading posts.

• TikTok cho biết họ đã xóa một trong những video lừa đảo deepfake và tài khoản liên quan, thêm rằng họ sẽ tiếp tục xóa bất kỳ video nào vi phạm nguyên tắc cộng đồng của nền tảng này, cấm các bài đăng gây hiểu lầm.

Facebook parent Meta did not respond to AFP's request for comment.

• Công ty mẹ của Facebook, Meta, không trả lời yêu cầu bình luận của AFP.

AFP, along with more than 100 other fact-checking organizations, is paid by TikTok and Meta to verify social media posts that potentially contain false information.

• AFP, cùng với hơn 100 tổ chức kiểm chứng thực tế khác, được TikTok và Meta trả tiền để xác minh các bài đăng trên mạng xã hội có thể chứa thông tin sai sự thật.

More accessible

• Dễ tiếp cận hơn

Aribowo Sasmito, a co-founder of Indonesian fact-checking organization Mafindo, said his team were finding new deepfake scams every week because of their prolific spread online.

• Aribowo Sasmito, đồng sáng lập tổ chức kiểm chứng thực tế Indonesia Mafindo, cho biết nhóm của ông đang phát hiện các trò lừa đảo deepfake mới mỗi tuần vì sự lan truyền của chúng trên mạng.

"We have started to see deepfake videos since last year as AI tools have become more accessible and affordable," he told AFP.

• "Chúng tôi đã bắt đầu thấy các video deepfake từ năm ngoái khi các công cụ AI trở nên dễ tiếp cận và giá cả phải chăng hơn," ông nói với AFP.

Schemes using deepfakes of prominent figures appear to be on the rise.

• Các trò lừa đảo sử dụng deepfake của các nhân vật nổi tiếng dường như đang gia tăng.

Tech billionaire Elon Musk and Canada's Prime Minister Justin Trudeau are among a string of celebrities targeted in recent years by sophisticated impersonations to push cash scams.

• Tỷ phú công nghệ Elon Musk và Thủ tướng Canada Justin Trudeau nằm trong số những người nổi tiếng bị nhắm đến trong những năm gần đây bởi các giả mạo tinh vi để thúc đẩy các trò lừa đảo tiền mặt.

Aribowo said his team of fact-checkers was working harder than ever to debunk these scams using the latest technology available to criminals.

• Aribowo cho biết nhóm kiểm chứng thực tế của ông đang làm việc chăm chỉ hơn bao giờ hết để bác bỏ các trò lừa đảo này bằng cách sử dụng công nghệ mới nhất có sẵn cho tội phạm.

"We noticed the quality of these videos has improved over time. It has become more difficult to distinguish between fake and real videos," he added.

• "Chúng tôi nhận thấy chất lượng của các video này đã được cải thiện theo thời gian. Việc phân biệt giữa video giả và video thật trở nên khó khăn hơn," ông nói thêm.

"The challenge is the volume of these scams."

• "Thách thức là số lượng các trò lừa đảo này."