音頻處理之回聲消除及調(diào)試經(jīng)驗(yàn)
本文講的回聲(Echo)是指語音通信時(shí)產(chǎn)生的回聲,即打電話時(shí)自己講的話又從對方傳回來被自己聽到。回聲在固話和手機(jī)上都有,小時(shí)還可以忍受,大時(shí)嚴(yán)重影響溝通交流,它是影響語音質(zhì)量的重要因素之一。可能有的朋友要問了,為什么我打電話時(shí)沒有聽見自己的回聲,那是因?yàn)槭忻嫔系某墒飚a(chǎn)品回聲都被消除掉了。
回聲分為線路回聲(line echo)和聲學(xué)回聲(acoustic echo),線路回聲主要存在于固話中,是由于2-4線轉(zhuǎn)換引入的回聲,聲學(xué)回聲是由于空間聲學(xué)反射產(chǎn)生的回聲 。回聲消除(Echo canceller, EC)是語音前處理的重要環(huán)節(jié),下面主要講其基本原理和調(diào)試中的一些經(jīng)驗(yàn)。
1、基本原理
1)自適應(yīng)濾波器和自適應(yīng)算法
一般濾波器的系數(shù)是固定的,而自適應(yīng)濾波器的系數(shù)是變化的,是依據(jù)自適應(yīng)算法來調(diào)整濾波器系數(shù)的。自適應(yīng)濾波器的結(jié)構(gòu)采用FIR或IIR均可,由于IIR存在穩(wěn)定性問題,因此一般采用FIR。
下圖是自適應(yīng)濾波器的一般結(jié)構(gòu):
上圖中,x(k)為輸入信號,y(k)為輸出信號,d(k)為期望信號,e(k)是d(k)和y(k)的誤差信號。自適應(yīng)濾波器的濾波器系數(shù)受誤差信號e(k)控制,根據(jù)e(k)的值和自適應(yīng)算法自動調(diào)整。
自適應(yīng)算法一般采用LMS(least mean square,最小均方)算法及其變種(如NLMS算法)。LMS算法是隨機(jī)梯度算法族中的一員。具體可以看相關(guān)的文章。
2)回聲消除基本原理。
下圖是回聲消除基本原理的框圖:
處理過程如下:
a) 算近端遠(yuǎn)端語音數(shù)據(jù)的energy,確定雙方是silent還是talk。
b) 遠(yuǎn)端輸入經(jīng)過自適應(yīng)FIR濾波器后就得到了近似于近端輸入的數(shù)據(jù),并與近端輸入相減后得到了誤差e。誤差e作為自適應(yīng)LMS算法的輸入在需要的時(shí)候去更新自適應(yīng)FIR濾波器的系數(shù)給后面遠(yuǎn)端數(shù)據(jù)處理用。在需要的時(shí)候是指遠(yuǎn)端talk近端silent的情況,其他情況(比如double silent / double talk)下不需要更新FIR濾波器的系數(shù)。
c) 誤差e同時(shí)也會經(jīng)過NLP(非線性處理)后產(chǎn)生舒適噪聲送給對方。
2、調(diào)試
EC相對較難,要做的很好很不容易。在webRTC開源前主要是大公司和專業(yè)的算法公司有好的實(shí)現(xiàn)方案,一般公司要想產(chǎn)品里有EC就去買算法庫。webRTC開源后一些核心的算法(包括AEC/ANS/AGC等)也隨之開源,這樣眾公司開始用webRTC里的算法,尤其是互聯(lián)網(wǎng)公司,AEC等算法基本都是用的webRTC的。
本人有兩次EC的調(diào)試經(jīng)歷。第一次是在芯片公司,做語音解決方案。從公司的算法部門拿來了回聲消除實(shí)現(xiàn),把它用到解決方案中。另一次是在移動互聯(lián)網(wǎng)公司,做實(shí)時(shí)語音通信類APP,要把webRTC的AEC用到APP中。第一次花的時(shí)間較多,要學(xué)習(xí)原理,看算法代碼,做應(yīng)用程序驗(yàn)證算法并且要修改系數(shù),在產(chǎn)品上調(diào)試等。第二次有了第一次的基礎(chǔ)再加上webRTC封裝的較好從而花的時(shí)間較短。個(gè)人覺得對EC零基礎(chǔ)但已有EC算法代碼的基礎(chǔ)上去調(diào)試主要有如下幾步:
1)學(xué)習(xí)回聲消除的基本原理,涉及信號處理知識(從固定系數(shù)濾波器到系數(shù)自適應(yīng)濾波器)和高等數(shù)學(xué)知識(梯度)等。因?yàn)椴皇亲鏊惴ǎ莆栈镜木涂梢粤恕H绻A(chǔ)扎實(shí),當(dāng)然搞得越明白越好了。
2)看算法代碼。如果有實(shí)現(xiàn)的設(shè)計(jì)文檔那是最好了,好多算法實(shí)現(xiàn)有技巧,有設(shè)計(jì)文檔的話能更好的幫助理解代碼。沒有只能硬著頭皮啃了。剛開始可能有些看不懂,多看幾遍,也許每一次都會多懂一些。
3)做個(gè)應(yīng)用程序驗(yàn)證算法。這個(gè)應(yīng)用程序輸入是近端和遠(yuǎn)端的PCM文件,把EC的輸出寫進(jìn)一個(gè)PCM文件里,看處理效果如何。這里面也可以分幾小步:
a) 設(shè)latency為零,近端和遠(yuǎn)端的PCM文件相同,理論上輸出是全零數(shù)據(jù)。如果是這樣,恭喜你選擇的算法有一個(gè)好的base。如果不是那就需要去調(diào)算法里的一些系數(shù)了,這也許要調(diào)好多次,最終調(diào)試結(jié)果要是算法輸出基本聽不見回聲。
b) 設(shè)一定的latency,近端的PCM和遠(yuǎn)端的數(shù)據(jù)一樣,但是近端的PCM數(shù)據(jù)相對遠(yuǎn)端的有一定的delay,這個(gè)值跟設(shè)定的latency值是一樣的,這時(shí)理論上輸出還是全零數(shù)據(jù)。
c) 獲取實(shí)際產(chǎn)品上的近端和遠(yuǎn)端PCM數(shù)據(jù),可以近似得到近端和遠(yuǎn)端的latency。把這幾個(gè)作為輸入,看算法輸出,也要基本聽不見回聲。這步調(diào)好后算法基本上就可以用了。
4)在具體硬件平臺上去調(diào)。每個(gè)硬件平臺上的latency都是不一樣的。在芯片公司時(shí)有demo板,每個(gè)客戶也有他們的電路板,硬件平臺相對不多一個(gè)個(gè)獲取近遠(yuǎn)端PCM數(shù)據(jù)調(diào)好latency就可以了。在移動互聯(lián)網(wǎng)公司做APP時(shí),手機(jī)類型眾多,用上面方法太累,于是在UI上做了一個(gè)滑動條去配置latency,讓測試人員去測試找到一個(gè)相對較好的latency,然后放在配置文件里保存下來,以后這款手機(jī)就用這個(gè)latency值了。
經(jīng)過上面幾步后在真正產(chǎn)品上的EC調(diào)試就算結(jié)束了。
責(zé)任編輯:售電衡衡
-
權(quán)威發(fā)布 | 新能源汽車產(chǎn)業(yè)頂層設(shè)計(jì)落地:鼓勵(lì)“光儲充放”,有序推進(jìn)氫燃料供給體系建設(shè)
2020-11-03新能源,汽車,產(chǎn)業(yè),設(shè)計(jì) -
中國自主研制的“人造太陽”重力支撐設(shè)備正式啟運(yùn)
2020-09-14核聚變,ITER,核電 -
探索 | 既耗能又可供能的數(shù)據(jù)中心 打造融合型綜合能源系統(tǒng)
2020-06-16綜合能源服務(wù),新能源消納,能源互聯(lián)網(wǎng)
-
新基建助推 數(shù)據(jù)中心建設(shè)將迎爆發(fā)期
2020-06-16數(shù)據(jù)中心,能源互聯(lián)網(wǎng),電力新基建 -
泛在電力物聯(lián)網(wǎng)建設(shè)下看電網(wǎng)企業(yè)數(shù)據(jù)變現(xiàn)之路
2019-11-12泛在電力物聯(lián)網(wǎng) -
泛在電力物聯(lián)網(wǎng)建設(shè)典型實(shí)踐案例
2019-10-15泛在電力物聯(lián)網(wǎng)案例
-
新基建之充電樁“火”了 想進(jìn)這個(gè)行業(yè)要“心里有底”
2020-06-16充電樁,充電基礎(chǔ)設(shè)施,電力新基建 -
燃料電池汽車駛?cè)雽こ0傩占疫€要多久?
-
備戰(zhàn)全面電動化 多部委及央企“定調(diào)”充電樁配套節(jié)奏
-
權(quán)威發(fā)布 | 新能源汽車產(chǎn)業(yè)頂層設(shè)計(jì)落地:鼓勵(lì)“光儲充放”,有序推進(jìn)氫燃料供給體系建設(shè)
2020-11-03新能源,汽車,產(chǎn)業(yè),設(shè)計(jì) -
中國自主研制的“人造太陽”重力支撐設(shè)備正式啟運(yùn)
2020-09-14核聚變,ITER,核電 -
能源革命和電改政策紅利將長期助力儲能行業(yè)發(fā)展
-
探索 | 既耗能又可供能的數(shù)據(jù)中心 打造融合型綜合能源系統(tǒng)
2020-06-16綜合能源服務(wù),新能源消納,能源互聯(lián)網(wǎng) -
5G新基建助力智能電網(wǎng)發(fā)展
2020-06-125G,智能電網(wǎng),配電網(wǎng) -
從智能電網(wǎng)到智能城市