ChatGPT was used 'to help scammers do their thing' in Asia fraud scheme

Okindo, 26, says he was struggling to find a job as the breadwinner for his family in his native Kenya when a local recruitment agency promised him work in Bangkok. The flight was his first trip overseas. On landing, he says, he was abducted at the airport and spirited across the border, into the notorious KK Park complex, guarded by heavily armed men and fortified "like it was meant for war."

• Okindo, 26 tuổi, nói rằng anh đã gặp khó khăn trong việc tìm kiếm việc làm để làm trụ cột gia đình tại quê hương Kenya khi một cơ quan tuyển dụng địa phương hứa hẹn cho anh công việc ở Bangkok. Chuyến bay này là lần đầu tiên anh ra nước ngoài. Khi hạ cánh, anh nói rằng mình đã bị bắt cóc tại sân bay và bị đưa qua biên giới, vào khu phức hợp KK nổi tiếng, được bảo vệ bởi những người đàn ông vũ trang nặng và củng cố "như chuẩn bị cho chiến tranh."

The facility where Okindo was held was typical of the region's scam compounds – complexes largely run by Chinese-led gangs and designed for fraud, where criminals target victims across the globe. He says he worked in a large room with hundreds of other forced laborers, all logged into desktop computers. Many used a free version of ChatGPT to craft messages designed to trick Americans into making bogus cryptocurrency investments, he told Reuters. Such schemes are known as pig-butchering, in which scammers meticulously cultivate victims' trust before stealing their money.

• Cơ sở nơi Okindo bị giữ là điển hình của các khu tổ hợp lừa đảo trong khu vực – các khu phức hợp chủ yếu do các băng nhóm do người Trung Quốc dẫn đầu và được thiết kế để lừa đảo, nơi tội phạm nhắm mục tiêu vào nạn nhân trên toàn cầu. Anh nói rằng mình đã làm việc trong một căn phòng lớn với hàng trăm lao động cưỡng bức khác, tất cả đều đăng nhập vào máy tính để bàn. Nhiều người sử dụng phiên bản miễn phí của ChatGPT để tạo ra các thông điệp được thiết kế để lừa người Mỹ đầu tư vào tiền điện tử giả, anh nói với Reuters. Các kế hoạch như vậy được biết đến với tên gọi "lừa đảo thịt lợn," trong đó kẻ lừa đảo tỉ mỉ xây dựng lòng tin của nạn nhân trước khi chiếm đoạt tiền của họ.

Reuters couldn't independently verify the full details of Okindo's account. But a representative of HAART Kenya, an anti-trafficking group involved in his rescue, confirmed he was among several Kenyans freed from scam compounds earlier this year. The outlines of Okindo's story also conformed with those of about a dozen other forced laborers Reuters has interviewed.

• Reuters không thể xác minh độc lập chi tiết đầy đủ của câu chuyện của Okindo. Nhưng một đại diện của HAART Kenya, một nhóm chống buôn người tham gia vào việc giải cứu anh, xác nhận anh là một trong số nhiều người Kenya được giải thoát khỏi các khu tổ hợp lừa đảo vào đầu năm nay. Các nét chính của câu chuyện của Okindo cũng phù hợp với những câu chuyện của khoảng một tá lao động cưỡng bức khác mà Reuters đã phỏng vấn.

Scam targeted U.S. real estate agents

• Lừa đảo nhắm vào các đại lý bất động sản Mỹ

The scam on which Okindo worked involved targeting U.S. real estate agents. He said he trawled property websites where agents run ads offering their services, including Zillow.com, to find potential victims – referred to as "clients." He would reach out in the guise of a wealthy investor, approaching dozens each week.

• Kế hoạch lừa đảo mà Okindo đã làm việc nhắm vào các đại lý bất động sản Mỹ. Anh nói rằng mình đã truy tìm các trang web bất động sản nơi các đại lý đăng quảng cáo dịch vụ của họ, bao gồm Zillow.com, để tìm các nạn nhân tiềm năng – được gọi là "khách hàng." Anh sẽ tiếp cận dưới vỏ bọc của một nhà đầu tư giàu có, tiếp cận hàng chục người mỗi tuần.

Zillow declined to comment.

• Zillow từ chối bình luận.

ChatGPT owner OpenAI said it "actively works to identify and disrupt scam-related misuse of ChatGPT." The AI's underlying model refuses requests that break OpenAI's anti-fraud rules, it added, and company investigators watch for abuses and cut off violators. OpenAI declined to comment further on Okindo's account.

• Chủ sở hữu ChatGPT, OpenAI, cho biết họ "tích cực làm việc để xác định và phá vỡ việc lạm dụng ChatGPT liên quan đến lừa đảo." Mô hình cơ bản của AI từ chối các yêu cầu vi phạm quy tắc chống lừa đảo của OpenAI, và các nhà điều tra của công ty giám sát các lạm dụng và cắt đứt những người vi phạm. OpenAI từ chối bình luận thêm về câu chuyện của Okindo.

The goal, set by the bosses, was to convince at least two real estate agents a day to deposit money for non-existent investments, while always communicating with at least 10 "clients." The deposits ultimately were stolen by the scam operation.

• Mục tiêu, được đặt ra bởi các ông chủ, là thuyết phục ít nhất hai đại lý bất động sản mỗi ngày gửi tiền cho các khoản đầu tư không tồn tại, trong khi luôn giao tiếp với ít nhất 10 "khách hàng." Các khoản tiền gửi cuối cùng đã bị tổ chức lừa đảo chiếm đoạt.

Okindo said ChatGPT was "the most-used AI tool to help scammers do their thing," enabling him and other workers to pose naturally as Americans, including using local expressions, he said. He impersonated cattle ranchers from Texas and soybean producers from Alabama who, he told his marks, had made big money by investing in cryptocurrency.

• Okindo nói rằng ChatGPT là "công cụ AI được sử dụng nhiều nhất để giúp kẻ lừa đảo thực hiện hành vi," cho phép anh và các công nhân khác đóng vai người Mỹ một cách tự nhiên, bao gồm cả việc sử dụng các biểu đạt địa phương, anh nói. Anh đã giả làm các chủ trang trại gia súc từ Texas và các nhà sản xuất đậu nành từ Alabama, những người mà anh nói với các nạn nhân rằng đã kiếm được nhiều tiền bằng cách đầu tư vào tiền điện tử.

"You need to feel familiar," he said. "If you miss any point, the realtor will know that you are a scam."

• "Bạn cần phải cảm thấy quen thuộc," anh nói. "Nếu bạn bỏ lỡ bất kỳ điểm nào, đại lý bất động sản sẽ biết rằng bạn là kẻ lừa đảo."

Scam center victims wait at the Myanmar border to enter Thailand, Feb. 12, 2025. Photo by AFP

• Nạn nhân của trung tâm lừa đảo chờ đợi tại biên giới Myanmar để vào Thái Lan, ngày 12 tháng 2 năm 2025. Ảnh của AFP

Okindo said he also used ChatGPT to do research on the fly. When his realtor targets quizzed him on crypto or asked about the housing market in various U.S. communities, he copied their questions into the chatbot to generate credible responses.

• Okindo nói rằng anh cũng sử dụng ChatGPT để nghiên cứu ngay lập tức. Khi các mục tiêu đại lý bất động sản của anh hỏi về tiền điện tử hoặc hỏi về thị trường nhà ở tại các cộng đồng khác nhau của Mỹ, anh sao chép các câu hỏi của họ vào chatbot để tạo ra các câu trả lời đáng tin cậy.

The bosses provided scripts outlining day-by-day how the scam should unfold over a week – including when to discuss properties or bring up crypto. The digital currency is the preferred medium of the region's scam artists, as it's easy to move around and cash out through dodgy crypto exchanges.

• Các ông chủ cung cấp các kịch bản hướng dẫn chi tiết từng ngày về cách lừa đảo diễn ra trong một tuần – bao gồm cả khi nào thảo luận về bất động sản hoặc đưa ra vấn đề tiền điện tử. Tiền điện tử là phương tiện ưa thích của các nghệ sĩ lừa đảo trong khu vực, vì dễ dàng di chuyển và rút tiền qua các sàn giao dịch tiền điện tử bất hợp pháp.

Chat GPT used in 'romance scam'

• ChatGPT được sử dụng trong 'lừa đảo tình cảm'

The basic tactic: get the victim to open a crypto account, then have them deposit hard currency into what appeared to be a trading platform – but was actually an account belonging to the scammers. Okindo said he used ChatGPT to improvise new approaches that were sometimes so effective, they could even lure past fraud victims into losing more money.

• Chiến thuật cơ bản: khiến nạn nhân mở tài khoản tiền điện tử, sau đó yêu cầu họ gửi tiền mặt vào một nền tảng giao dịch – nhưng thực tế là một tài khoản thuộc về kẻ lừa đảo. Okindo nói rằng anh sử dụng ChatGPT để ứng biến các phương pháp tiếp cận mới đôi khi hiệu quả đến mức có thể lừa những nạn nhân lừa đảo trước đó tiếp tục mất tiền.

The bosses punished workers who didn't meet the targets, Okindo said, humiliating them, beating them and shocking them with electric batons. When there was a big win, he said, the bosses ordered workers to pound drums in celebration.

• Các ông chủ trừng phạt các công nhân không đạt chỉ tiêu, Okindo nói, làm nhục họ, đánh đập và sốc điện họ bằng dùi cui điện. Khi có một chiến thắng lớn, anh nói, các ông chủ ra lệnh cho công nhân đánh trống ăn mừng.

Okindo said his dignity was reduced "to ashes." He managed to leave the compound in April after Thailand cut off electricity to KK Park and other scam compounds and forced his captors to release some of the workers. Since returning to Kenya, he said, he has faced stigma and financial difficulties. He is fearful of local people he believes are affiliated with the Southeast Asia-based cartels and says he has received threatening phone calls.

• Okindo nói rằng phẩm giá của anh đã bị "giảm xuống tro tàn." Anh đã rời khỏi khu tổ hợp vào tháng Tư sau khi Thái Lan cắt điện đến KK Park và các khu tổ hợp lừa đảo khác và buộc những kẻ bắt giữ anh phải thả một số công nhân. Kể từ khi trở về Kenya, anh nói, anh phải đối mặt với sự kỳ thị và khó khăn tài chính. Anh sợ những người địa phương mà anh tin là liên quan đến các băng nhóm dựa trên Đông Nam Á và nói rằng anh đã nhận được các cuộc gọi đe dọa.

Reuters also spoke to two Burmese men who described using ChatGPT in other scam compounds. Both requested anonymity.

• Reuters cũng đã nói chuyện với hai người đàn ông Myanmar mô tả việc sử dụng ChatGPT trong các khu tổ hợp lừa đảo khác. Cả hai yêu cầu giấu tên.

One was forced to work as a scammer in 2022. He said the public release of the first model of ChatGPT that year transformed his job.

• Một người bị buộc phải làm việc như một kẻ lừa đảo vào năm 2022. Anh nói rằng việc phát hành công khai mô hình đầu tiên của ChatGPT vào năm đó đã thay đổi công việc của anh.

He specialized in so-called romance scams, in which he charmed victims into losing their money. With ChatGPT, he said, he could woo dozens of targets simultaneously with AI-generated poems and flirtatious messages. The bot's persuasive writing lent his patter a credibility that made the victims "trust more in us."

• Anh chuyên về các vụ lừa đảo tình cảm, trong đó anh quyến rũ các nạn nhân để họ mất tiền. Với ChatGPT, anh nói, anh có thể quyến rũ hàng chục mục tiêu cùng một lúc với các bài thơ và thông điệp tán tỉnh do AI tạo ra. Văn phong thuyết phục của bot đã làm cho các nạn nhân "tin tưởng hơn vào chúng tôi."

"It was really efficient, working with the AI," the man said.

• "Thật sự hiệu quả khi làm việc với AI," người đàn ông nói.