親耳聽到的就是真的嗎？未必。網(wǎng)絡(luò)平臺(tái)上，AI聲音隨處可見。

從“張文宏醫(yī)生”推銷蛋白棒視頻“走紅”網(wǎng)絡(luò)，后被本人“打假”，到多位配音演員稱聲音被AI“偷走”，公開維權(quán)……記者調(diào)查發(fā)現(xiàn)，隨著人工智能技術(shù)和語音大模型應(yīng)用的發(fā)展，AI合成聲音App大量出現(xiàn)，最快只需十幾秒便可“克隆”出來。與此同時(shí)，AI聲音濫用現(xiàn)象愈發(fā)突出，不時(shí)引發(fā)爭議。

AI聲音濫用不時(shí)發(fā)生

記者在某短視頻平臺(tái)以“AI克隆聲音”為關(guān)鍵詞檢索發(fā)現(xiàn)，明星翻唱、新聞播報(bào)、吐槽點(diǎn)評等大量視頻涉及AI聲音，有些甚至出現(xiàn)不雅詞匯，不少視頻點(diǎn)贊和評論量過千。

而AI聲音濫用事件也不時(shí)發(fā)生，引發(fā)關(guān)注和討論。

在社交平臺(tái)上，通過AI模仿惡搞各領(lǐng)域名人的音視頻不在少數(shù)。此前，短視頻平臺(tái)涌現(xiàn)了大量AI模仿某知名企業(yè)家聲音吐槽堵車、調(diào)休、游戲等熱門話題的視頻，個(gè)別視頻甚至還有臟話出現(xiàn)，一度登上熱搜。該企業(yè)家隨后發(fā)視頻回應(yīng)稱：“相關(guān)事件的確讓自己挺困擾，也挺不舒服，希望大家都不要‘玩’了?！?/span>

一些商家在短視頻平臺(tái)帶貨時(shí)，通過AI模仿聲音技術(shù)將主播“變”為知名女明星、知名醫(yī)生，銷售服裝、保健品等相關(guān)產(chǎn)品，對消費(fèi)者造成了嚴(yán)重誤導(dǎo)。國家傳染病醫(yī)學(xué)中心主任、復(fù)旦大學(xué)附屬華山醫(yī)院感染科主任張文宏接受媒體采訪時(shí)表示，通過語音合成來模仿他的聲音進(jìn)行直播帶貨，這樣的賬號(hào)“不止一個(gè)，且一直在變”，他多次向平臺(tái)投訴但屢禁不絕。

胖東來創(chuàng)始人于東來的聲音也曾頻遭AI模仿，相關(guān)平臺(tái)出現(xiàn)了大量與事實(shí)不符的合成視頻。胖東來商貿(mào)集團(tuán)為此發(fā)布聲明稱，多個(gè)賬號(hào)未經(jīng)授權(quán)擅自利用AI技術(shù)手段生成于東來的聲音，加入誤導(dǎo)性文案，對公眾造成誤導(dǎo)和混淆。

記者了解到，有不法分子通過“AI換聲”仿冒一位老人的孫子，以“打人須賠償，否則要坐牢”為由，詐騙老人2萬元。類似的詐騙案件在全國已發(fā)生多起，有的詐騙金額達(dá)到上百萬元。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，在未經(jīng)過授權(quán)、未進(jìn)行標(biāo)注的情況下，用他人聲音制作AI語音產(chǎn)品，尤其是“借用”公眾人物的聲音，很容易引起誤解，不僅會(huì)侵害個(gè)人信息安全，還可能擾亂網(wǎng)絡(luò)空間生態(tài)和秩序。

聲音是如何被“偷”走的？

AI如何生成以假亂真的聲音？受訪專家介紹，AI能夠“克隆”聲音，主要是依靠深度學(xué)習(xí)算法，即短時(shí)間內(nèi)從采集的聲音樣本中提取關(guān)鍵特征，包括頻率、音色、聲調(diào)、語速、情感等，將這些特征記錄為數(shù)學(xué)模型，再通過算法合成。

中國科學(xué)院自動(dòng)化研究所模式識(shí)別實(shí)驗(yàn)室工程師牛少東說，隨著算法越來越先進(jìn)，在高性能設(shè)備和高精度模型的加持下，AI生成的語音內(nèi)容從兩年前的“一眼假”升級到如今的“真假難辨”。