Hãng tin AFP dẫn lời các nhà chức trách Trung Quốc ngày 24-5 cho biết một kẻ lừa đảo tại nước này đã sử dụng AI để giả danh bạn thân của một doanh nhân, và thuyết phục người này chuyển hàng triệu nhân dân tệ cho mình.
Tên lừa đảo nói với nạn nhân rằng một người bạn khác của ông đang cần một số tiền từ tài khoản ngân hàng của công ty để trả tiền bảo lãnh cho một cuộc đấu thầu công khai. Người này yêu cầu ôn Guo chuyển cho hắn 4,3 triệu nhân dân tệ (khoảng 609.000 USD) để hắn chuyển sang cho người bạn kia.
Sau đó, ông Guo đã vội gửi hai khoản thanh toán từ chính tài khoản công ty của mình với tổng số tiền được yêu cầu và chỉ nhận ra sai lầm sau khi nhắn tin cho người bạn thân bị đánh cắp danh tính, biết được người bạn này không hề nhận được khoản tiền nào.
Theo một kênh truyền thông địa phương của thành phố Phúc Châu, tên này đã sử dụng công nghệ AI để thay đổi khuôn mặt và giọng nói nhằm thực hiện hành vi lừa đảo.
Kẻ lừa đảo này đã hỏi số tài khoản của ông Guo, sau đó gửi một bức ảnh chụp màn hình giao dịch về việc chuyển một số tiền tương ứng vào một tài khoản giả.
Qua trường hợp kể trên có thể thấy những cạm bẫy tiềm ẩn của công nghệ AI, đặc biệt là kể từ sau khi Công ty OpenAI có trụ sở tại Mỹ cho ra mắt ChatGPT, một phần mềm chatbot có khả năng bắt chước giọng nói của con người.
Ngay sau khi ChatGPT ra đời, Trung Quốc cũng công bố kế hoạch trở thành một nước dẫn đầu về công nghệ AI vào năm 2030.
Theo tuyên bố của Trung Quốc, hàng loạt công ty công nghệ gồm Alibaba, JD.com, NetEase và ByteDance, công ty của TikTok đã gấp rút phát triển các sản phẩm chatbot tương tự như ChatGPT.
Hiện nay, phần mềm ChatGPT không khả dụng ở Trung Quốc nhưng người dùng nước này vẫn có thể truy cập thông qua mạng cá nhân ảo (VPN), nhằm mục đích viết bài luận và ôn thi. Tuy nhiên, phần mềm này cũng đang được sử dụng với những mục đích bất chính khác.
Cụ thể, trong tháng 5-2023, cảnh sát tỉnh Cam Túc, phía tây bắc Trung Quốc đã sử dụng các biện pháp cưỡng chế đối với một người sử dụng ChatGPT tạo bài báo giả mạo tin về vụ tai nạn xe buýt và lan truyền rộng rãi trên mạng xã hội.
Nhằm hạn chế những tiêu cực như trên, Trung Quốc đã ban hành một luật cấm sử dụng công nghệ này để xuất bản và truyền tải những tin tức sai lệch, chính thức có hiệu lực từ tháng 1-2023.
