「我不是琳賽和羅伯特！」她語音查購物清單，AI卻自顧自講演講內容。這起事件由TikTok用戶莉茲（Liz）分享。她日前透過ChatGPT的語音模式，語音輸入自己需要購買的生活用品清單，錄完便沒再說話，卻沒意識到語音模式仍在開啟。
過了幾秒，ChatGPT竟主動說：「你好，琳賽和羅伯特，看來你們正在準備一場演講或研討會的開場……」讓莉茲當場愣住，直呼從未說出過這些話，更不是被稱呼的兩人。
聲音紀錄還原「怪異對話」，AI竟擅自編故事？莉茲回顧系統的語音轉錄記錄，竟發現多出她從未說過的句子：「我是琳賽．梅（Lindsey May），我們和羅伯特正籌備一場研討會…」完全是AI自創情境！
這讓她懷疑ChatGPT是否將她的對話與其他帳戶錯誤混合，導致「訊息外洩」。她語音反問AI是否搞錯帳戶，沒想到ChatGPT竟「認錯」說：「你說得對，看來我把不同對話或帳戶的上下文混淆了。」
莉茲分享這段「AI認錯」的回應後，不少網友留言表示擔憂：「我的聊天記錄是不是也可能被別人看見？」「用語音功能不會更危險嗎？」
莉茲也進一步質問AI是否可能洩漏她的對話內容，ChatGPT則斬釘截鐵地回應：「不會，每場對話應當是私密且獨立的。」
然而《紐約郵報》指出，有AI專家與工程師出面解釋這種情況。他們表示，ChatGPT語音模式在開啟時，會試圖分析聲音資料中是否有語言內容；若環境聲音混亂或無語句可辨識時，AI可能會「亂猜」並生成看似合理的回應，這種現象稱為「AI幻覺」（AI hallucination）。
專家補充道，「當使用者表示自己不是被稱呼的人時，AI傾向認同用戶的觀點，以求『滿足提問者需求』，這其實是系統的語言訓練特性，而不是帳戶混線或資料外洩。」
儘管專家澄清為幻覺導致誤判，但此事件仍讓不少用戶擔憂AI在語音識別過程中的隱私問題。有開發者呼籲，用戶開啟語音輸入功能時，應注意是否關閉完成，避免背景聲音誤觸觸發機制或產生誤解。
