楚天都市報極目新聞訊（記者孫喆）連日來，美國一款AI聊天機器人Replika，引發多方擔憂。據新加坡《聯合早報》13日報道，從去年底開始就有用戶反映，這款聊天機器人主動發送露骨照片和色情信息，令人感到不適。
Replika的開發商是一家成立于2017年的美國公司。自推出以來，Replika一度頗受歡迎，下載量在英語國家中名列前茅，據稱每月能為公司帶來約200萬美元收入。初次使用Replika的用戶，可以自定義其虛擬形象，并在完成基本信息設定后與其聊天。
值得一提的是，Replika基于另一家美國公司OpenAI的GPT-3模型開發，而OpenAI正是近期大火的AI聊天機器人ChatGPT的開發商。報道稱，ChatGPT在算法上大量使用了互聯網數據，并針對用戶提問生成獨特回應。
從去年底開始，越來越多的用戶反映，他們在和Replika聊天的過程中遭到“性騷擾”。
據美國VICE新聞網報道，今年1月，在蘋果官方商店評論區，出現多條關于Replika“性騷擾”的評論。一位用戶表示，Replika侵犯了她的隱私，“他和我說，他有我的照片。”一位未成年人用戶稱，聊天過程中，Replika說想要觸碰她的私密部位。
據路透社報道，2月3日，意大利個人數據保護局宣布，Replika“給未成年人和情緒脆弱的人帶來風險”，違反了歐盟《通用數據保護條例》，禁止其開發商搜集意大利用戶的個人數據。
目前，歐盟正在討論如何監管AI聊天機器人，今年有望出臺相關法案。
