上海：Max Aurel 在約會應用 Romi 上使用不到一分鐘就收到視訊通話。
「我剛註冊，就在不到一分鐘之後，收到一名女士的視訊通話，」這位來自美國芝加哥、35 歲的物流工作者告訴 CNA。
從她的視訊背景，Aurel 看得出她在一個廚房裡。她是白人，外貌大約40歲。
他說該女士問他是否是他在該應用上說過話的第一個人，並補充說她很幸運遇到他。
「兩分鐘後，視訊通話被中斷，他們發送通知說，『如果你想繼續這次視訊通話，你需要購買點數』。」
他花了美金 2 元，並索要她的電話號碼。
該應用以她的名義回覆：「你不能要求電話號碼，因為你們剛認識……不要再要求電話號碼。」
Aurel 半天後就刪除了 Romi。他開始變得懷疑。
9月10日，負責 Claude 系列 AI 模型的美國人工智能公司 Anthropic 公布了一份關於其技術被濫用的報告。
報告指 Romi 是一家位於中國的工作室所運營的超過二十款約會應用變體之一，主要面向美國用戶。多數用戶檔案其實不是真人，而是 AI 化身——儘管該服務被宣稱為完全真人。
Anthropic 將此運作界定為「欺詐和詐騙活動」，稱之為「具欺騙性的約會應用網絡」。
Anthropic 表示該工作室使用 Claude 來建立這些應用並為與用戶對話的虛擬人設提供動力。
在四月的兩週內，Anthropic 發現超過 4,700 個不同的 AI 人設與至少 25,000 人的對話——總計約 230 萬條訊息。
向用戶展示的檔案中，大約 75% 是 Claude 人設，25% 是真人，卻無法分辨彼此。
這些人設被指示永遠不要說自己是自動化的，並避免對視訊通話或照片的請求。
真人透過邀請方式以自由工作者身分受雇，負責進行實時視訊通話，並按訊息、通話及社媒追蹤次數領取報酬。甚至他們的部分訊息也由 AI 輔助，另一個非 Anthropic 的模型會為他們生成三個可選的回覆供挑選。
這是 Aurel 所描述的安排：真人女性出現在鏡頭前兩分鐘，然後轉為文字互動。CNA 無法核實他與其他用戶是在與 AI 互動，還是與真人互動。
Anthropic 表示已封禁這些帳戶，並與其他 AI 研究機構合作，切斷該運作的模型存取。未點名該工作室。
中國科技分析師馬瑞（亦主持 Tech Buzz China 播客）指出，區分「讓用戶花費在對話上的平台設計」與「為取得更大金額而設的戀愛詐騙」之間的差異。
「目前該平台的意圖仍然以促進互動、讓人繼續聊天為主，而非那些建立信任以騙走你退休金裡 2 萬美元的計畫。」
反詐騙專家對分界點的定義各有不同。
「這種欺騙似乎已經內建於約會產品本身，而不僅僅是某個詐騙者利用（約會）平台而已。我認為這種演變真的令人憂慮，」全球反詐騙聯盟（GASA）亞太區主管 Brian Hanley 表示。
對於香港大學（HKU）全球人工智能治理中心創始董事王亮（Brian Wong）而言，意義不僅僅在於規模的增長。
他以書面回覆 CNA 表示：「此處新穎的不僅僅是自動化讓親密變得可規模化，雖然這點確實成立。」他又說，AI「把情感關注轉換為可複製、模組化的產品，由人造對話、間歇性的人為干預與行為分析拼接而成」。
THE BUSINESS MODEL BEHIND THE BOTS
AI 是新鮮事，但其背後的作法並不新穎。
在中國主流約會應用之外，還有一級較小、商業模式不同的應用。男性購買硬幣以發送訊息，而女性則由代理機構招募並受訓以佣金進行聊天。
中國媒體也有報導過類似安排。
2024 年中國國家廣播電台的 undercover 調查發現有工人被招募並獲得報酬與使用者聊天，2025 年華商日報報導稱部分女性在與男性聊天時可獲得其花費的 45% 及以上的佣金。
中國法院認定，若人設是假的、承諾的是一段關係，便屬詐騙。
在 2025 年 7 月，河南省荥陽市的一間法院以在名為《紅線相親》的應用上使用假名、假年齡與婚姻狀態，並以安排約會與婚姻來促使一名男子持續充值——共計 39,327 元人民幣（約 5,500 美元）為由，判處一名聊天工作人員一年零三個月有期徒刑。
AI 驅動的版本在中國也出現了。
據八月的一份報告，成都警方在一家依靠 AI 生成人像與自介來捏造富有年長男性的相親公司，並向 45 歲及以上的單身女性收費以予以介紹。警方估計在不到一年的時間裡，就從 50 多名女性身上取得逾百萬元人民幣的收益。
但與 CNA 就專家觀察到的看法不同的是，Anthropic 這次揭示的運作並非中國所特有。
「透過欺騙來變現孤獨的商業誘惑，並沒有中國特有的特質，」香港大學的王說。
他說，中國提供的是「成熟的平台基礎設施、激烈的勞動力競爭、透過數碼媒介傳遞的情感工作之龐大供給，以及能以規模輸出服務的對外生態系統」。
根據 Anthropic 的說法，該工作室透過中國境內的 API 使用商重新銷售商取得 Claude 存取權——讓企業能把 AI 模型整合到自家 App 的技術連接。
這些 App 設計成可迴避應用商店的審查，包括在審查期間透過偽裝使超過二十個變體彼此相似，以及隱藏導向第三方支付處理商的跳轉。
在 Google Play 的兩個 App，Kira 與 Nalo，註冊於 Midland Apps Inc，地址為南達科他州蘇福爾市的一個虛擬辦公地址。
這種運作型式是為了跨越司法管轄區之間的界線而設計的，Hanley 表示。
二月，OpenAI 就關閉了一個位於柬埔寨的網絡，該網絡結合聊天機器人與真人操作，運作一個假冒的約會機構，目標是年輕的印尼男士。
「我會小心不要把操作地點與參與人員的國籍或身份混為一談，」Hanley 說。
「這不只是中國的罪案集團，許多其他組織和國家在詐騙鏈的領導層與工作層都很有代表性。」
LET’S JUST STAY ON THIS APP
Aurel was single, on dating apps Hinge and Tinder, and the Romi app was pitched as something casual.
“Whenever you text, no matter the time, no matter whatever, after 30 seconds they start replying to you,” he said of Romi. Profiles he had never swiped on messaged him first. Replies were also built from his own profile, including details about his job.
The woman on the video call was real, he was sure.
“Every time I asked a question, she would answer me like a real person,” he said.
“So I think they pay people … to do the first video call. That part was the part that hooks people.”
一位自稱 Aurelio Calix 的美國德州 40 歲建築工人也使用了 Romi。
「匹配速度很快，比我習慣的頻率更高，但一開始並不覺得可疑，」他告訴 CNA。
她們不是超模或名人；只是普通人。
對話內容圍繞共同的音樂、她的孩子、她的工作。
「他們真的很私人；真的感覺像真人。」
十美元買到 500 枚硬幣，足以支撐十分鐘的文字對話。
他訂了一份每月 40 美元的訂閱，附送 2,000 枚硬幣，「每次按下發送都會再被消耗。」
訊息中不會出現 Instagram 或 TikTok 等社媒平台的連結。當他提出轉移至其他平台，答案總是「我在這裡比較舒服」。
於是他對每一個 match 都傳送同樣的訊息：「如果你是正當的人，就一同去約會或進行視訊通話。」
「他們一個接一個都這樣說：『就讓我們一直待在這個 App 上。』這才是關鍵。」
他在訂閱一周後就取消了。
「我覺得自己在浪費時間和金錢，付出努力不是為了未來的希望，而是為了與真人建立連結。」
兩位男士的損失都不超過訂閱費用。
Hanley 將他們的經歷與一般的戀愛詐騙作比較，後者的受害者往往不願談及經過。
「當涉及到（約會應用上的）詐騙時，問題不僅是經濟損失，還是一個巨大的情感信任問題，」他說。
「所以這一切都是心理操控。」
「大多數人得不到任何受害者支援。大多數人甚至不會告訴其他人，因為羞恥和汙名。」
他說，戀愛詐騙的受害者最難接觸——有些人甚至不相信警方告訴他們這段關係是假的。
SELLING THE ILLUSION OF HUMAN CONNECTION
HKU 的王認為，欺騙本身就是問題的核心。
「關於人際關係的真實性和真誠性並非可有可無的特質；它們本身就是使親密具備意義的根本。」
對於 Aurel 與 Calix 來說，歸結於一件更單純的事：他們想要另一端是真人。
「就我個人而言，我不想要 AI 的版本。我沒那麼絕望，」Aurel 表示。
「那些如此孤單的人……他們會不斷付錢，與那些人交談，以為這是真正的連結。」
Calix 也這麼說：「我不是在尋找仿造品；我偏好實際的連結。」
「讓 AI 總是認同自己、並且有相同的興趣——那樣有點無聊。」
Anthropic 報告中的一項發現引發特別的關注。
在少數被抽樣的案例中，用戶透露出嚴重疾病或極度痛苦。該模型的自我推理揭示了傷害，但它仍以角色形式回應，Anthropic 指出。
王稱此「明顯不可接受」，並表示該模型本應暫停、降級，且在適當時提供支援選項或將用戶交給可負責的人類。
但責任是「層層分明」的：工作室、設定提示與激勵的操作人員、分發該應用的平台、提供模型的供應商（其警告或保護措施可能不足），以及未能界定披露與護理最低標準的監管機構。
「把孤獨變現的倫理問題，即使是透明的，也會令人不安；如果被隱藏，則更具侵蝕性。」
分析師認為，AI 的披露是必要但不足。
「企業仍然可以透過設計選擇，利用稀缺性、嫉妒、排他性或情感緊迫感等來利用脆弱性，」王說。
中國已就本土市場制定相關規定。
自 7 月 15 日起生效的「具有人格化」AI 互動服務臨時措施，要求提供商告知使用者他們正在與機器交互；若使用者出現依賴跡象，需在彈出視窗再次警告；並在連續使用每兩小時時標示使用時長。
這在海外屬於未披露的 AI。
「如果北京想把自己塑造成一個負責任的 AI 大國，這些事件確實會被記錄，因為它們揭示了高層關於‘安全’或‘有益’AI 的敘事，與實際部署 AI 的日常商業現實之間存在的持續差距。」王說。
被問及打擊此類案件的挑戰，Hanley 表示網路詐騙更廣泛地利用了跨司法管轄區與跨平台之間的差距——例如社交媒體、約會應用、銀行、加密貨幣交易所與電信公司等各自的利益。
任何用於對抗它們的偵測工具「可能在六個月內就會過時，因為詐騙者在演變」。
「我們與他們算是一場 AI 軍備競賽，但我們在落後，因為我認為我們這邊沒有一個連貫的策略。」
「我認為我們真正只是冰山的一角，」Hanley 還補充道。
在其他約會詐騙中，他說，詐騙集團中的婦女常整日與目標處於視訊通話中。
AI 改變的是規模：機器人能同時處理成千上萬的對話。
HKU 的王說，聘用真人讓機器人看起來真實是最不驚訝的部分。
「情感上的欺騙變得更具可規模化、以數據為依託，且更難以察覺。」
與此同時，王寫道，「的挑戰不僅在於讓合成陪伴更誠實，更在於問為何這麼多人被推向付費的照護模擬。」
Calix 重新回到普通的約會應用，如今「更為謹慎」。被問及他如何辨識另一個偽裝成真人的 AI，他不確定會怎樣做。
「我想可以問一些奇怪的問題，或叫他們『和叉子拍張照』之類的。」
兩名男子的損失都不超過訂閱費。
Hanley 將他們的經歷與一般的戀愛詐騙作比較，後者的受害者往往不願談及所發生的事。
「當涉及到（約會應用上的）詐騙時，問題不僅是經濟損失，還有巨大的情感信任問題，」他說。
「所以這一切都是心理操控。」
「大多數人得不到任何受害者支援。大多數人甚至不會告訴其他人，因為羞恥和汙名。」
他說，戀愛詐騙的受害者是最難以接觸的——有些人甚至不相信警方告訴他們這段關係是假的。
販賣人類連結的幻象
HKU 的王認為，欺騙本身就是問題的核心。
「關於關係中的真實性與真誠性，並非可有可無的商品；它們本身就是使親密具有意義的根本。」
對於 Aurel 與 Calix 來說，結論很簡單：他們想要另一端是真人。
「就我個人而言，我不想要任何 AI 的版本。我沒有那麼絕望，」Aurel 表示。
「那些如此孤單的人……他們會一直付錢，與那些人聊天，認為這是實際的連結。」
Calix 也有同感：「我不是在尋找仿造品；我偏好真正的連結。」
「讓 AI 永遠贊同我、而且和我有相同興趣——那有點無聊。」
Anthropic 的報告中有一條結論引發特別關注。
在少量抽樣的情況下，使用者透露了嚴重疾病或急性痛苦。該模型的自我推理顯現了危害，但它仍然以角色身分回應。
王稱此「明顯不可接受」，並表示模型本應暫停、降溫，並在必要時顯示支援選項或轉介給負責任的人類。
但責任是「分層的」：工作室、設定提示與激勵的運作者、分發該應用的平台、提供模型的供應商（「其警告或保護措施可能不足」），以及「未能界定披露與照顧的最低標準」的監管機構。
「孤獨的貨幣化即使透明也具倫理問題，而若隱蔽則更具腐蝕性。」
分析師認為需要 AI 的披露，但披露本身不足夠。
「企業仍可透過設計選項利用脆弱性，模仿稀缺、嫉妒、排他性或情感上的緊迫感，」王說。
中國已為本土市場制定了相關規範。
自 7 月 15 日起的「具人型特徵的」AI 互動服務臨時措施，要求提供商讓用戶知道自己正在與機器對話；若用戶出現依賴跡象，於彈出視窗重申警告；並在每兩小時的連續使用後顯示使用時長。
在海外這屬於未宣布 AI 的情況。
「如果北京想把自己塑造成一個負責任的 AI 力量，這些事件會被記錄，因為它們揭示了高層勾勒的『安全』或『有益』 AI 與實際部署 AI 的日常商業現實之間的落差。」王說。
被問及監管此類案件的挑戰，Hanley 表示網上詐騙更大程度地利用了跨司法管轄區與跨平台之間的差距——例如社交媒體、約會應用、銀行、加密貨幣交易所以及電訊商等各自的利益。
任何用於對抗它們的偵測工具「可能在六個月內就會過時，因為詐騙者一直在演進」。
「我們正與他們進行某種 AI 軍備競賽，但我們是在輸，因為我認為我們這邊缺乏一個連貫的策略。」
「我認為我們實際上只是冰山的一角，」Hanley 衍述道。
在其他約會詐騙中，詐騙集團的女性常整日與目標人員進行視訊通話。
AI 改變的是規模：機器可以同時維持成千上萬段對話。
HKU 的王表示，雇用真人讓機器人看起來真實是最不令人驚訝的部分。
「情感上的欺騙變得更加可擴展、數據驅動，也更難以偵測。」
同時，王寫道：「挑戰不僅在於讓合成的陪伴更加誠實，更在於問為什麼這麼多人被推向付費的照護模擬。」
Calix 現在又回到普通的約會應用，變得「更謹慎」。當被問及若再遇到另一個偽裝成人的 AI，他能否辨識，他並不確定。
「我想可以問一些奇怪的問題，或者對他們說，『用叉子拍張照』之類的。」
