回看板
Disp BBS
作者 seisman (Mckinsey)
標題 [問卦] 大家不覺得AI語音克隆很恐怖嗎？
時間 Fri May  5 08:44:11 2023


你對AI語音概念還停留在「注意看，這個男人太狠了！」嗎？

最近魯蛇我呢研究了一下AI語音的近況

發現很恐怖

已經出現「客製化」的AI語音平台供任何人使用

像是Murf.AI、Resemble AI、Speechify、Voice.AI

可提供AI語音克隆(AI Voice Cloning)

只要上傳15~30分鐘不等自己的聲音 就可以訓練出「自己的高質量聲音庫」

以下是Voice.AI模仿Elon Musk、Obama、Joe Biden等大人物聲音

已經是無法辨別真假了

https://reurl.cc/6N6zdO

目前有6萬多人使用

https://i.imgur.com/brbMYu4.png
[圖]

而且這些平台每月訂閱費其實都不貴

這東西不該開放吧 也不該商業化吧

不然有心人士拿到你的音檔就可以拿去訓練了

查了一下 已經有超多詐騙犯罪出現

詐騙犯訓練出受害者聲音去勒索受害者家人 受害者家人完全不疑有假進而匯錢

詐騙犯訓練出公司高管聲音叫供應商轉帳 金額高達數十萬美金

現在別說台灣了 連美國也沒有任何一項聲音造假的法律可管

有掛嗎？



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.234.64.7 (臺灣)
※ 作者: seisman 2023-05-05 08:44:11
※ 文章代碼(AID): #1aL55TM0 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1683247453.A.580.html
→ Dinenger: 克隆== 支語1F 27.51.18.226 台灣 05/05 08:44
→ lunRUSSELL: 這種就科技自由跟社會秩序的矛盾2F 42.77.104.86 台灣 05/05 08:45
→ hoos891405: 捍衛戰士2 冰人聲音就這樣出來的啊3F 140.112.233.49 台灣 05/05 08:45
噓 laser789: 質量4F 219.68.207.17 台灣 05/05 08:45
噓 JamesForrest: Musk投資的案子早就知道了5F 111.240.37.110 台灣 05/05 08:45
推 bam5566: 滿客怕的==6F 39.14.2.184 台灣 05/05 08:46
推 ptta: 還要檢查生日，付款方式，就讀國小等個資，沒那麼簡單7F 1.200.46.61 台灣 05/05 08:49
噓 v7q4: 克隆三小9F 49.216.134.3 台灣 05/05 08:50
推 MoDerF: 支語警察即將抵達戰場10F 49.216.128.70 台灣 05/05 08:50
推 mk5520: 克隆是什麼 複製不難吧11F 118.171.119.69 台灣 05/05 08:52

--
作者 seisman 的最新發文:
點此顯示更多發文記錄