近日，一起由AI大模型引發的烏龍付款事件在網絡上引發關注。
有網友在某技術交流社區發帖爆料，自己從未從事過保險業務，卻收到一位陌生人的消息，對方稱在他這裡購買了保險並轉賬1618元，但始終查詢不到保單記錄，這讓發帖人一頭霧水。
隨著事件細節逐步曝光，這起烏龍的來龍去脈也逐漸清晰。
據悉，事發時，當事人（買保險的用戶）通過AI客戶端諮詢併購買保險，AI根據其需求，不僅提供了具體的保險鏈接，還生成了一張支付寶收款二維碼，並明確提示當事人，掃碼付款即可完成投保。
當事人沒有多想，按照AI的提示掃碼支付了1618元保費，但付款後，他遲遲未能查詢到相關保單信息。
於是，當事人再次諮詢該AI客戶端，得到的回覆卻是需等到當日24點後才能出單，暫時無法查看保單屬於正常情況，這讓當事人暫時放下了疑慮。
直到遲遲未等到保單，當事人才意識到不對勁，通過收款二維碼對應的商家入口，聯繫到了收款賬戶的主人——也就是發帖的網友，告知對方自己已經報警，並希望對方能儘快退還這筆1618元的保費。
對於自己的收款碼為何會被當成保險付款碼，發帖人給出了推測：他表示，自己此前曾在開源代碼庫、個人博客等公開平臺上發佈過自己的收款二維碼，懷疑是AI客戶端的語料庫抓取到了這些公開信息，誤將其當作保險官方收款碼推送給了買保險的當事人。
針對這起烏龍事件，涉事AI平臺的負責人作出迴應。負責人表示，經平臺核實，該案例是由於用戶與AI進行多輪對話後，模型出現幻覺，錯誤調用了網上公開的個人收款信息，才導致了這一烏龍的發生。
平臺同時透露，該案例中的問題已第一時間修復。目前，當用戶詢問個人付款地址、付款二維碼時，模型不會再給出個人公開信息的二維碼。
在此提醒廣大網友：通過AI辦理金融、保險等涉及資金交易的業務時，務必提高警惕，仔細核實收款方的身份，切勿直接按照AI提示的二維碼或賬戶轉賬，避免造成財產損失。
