HTML5實(shí)時(shí)語(yǔ)音通話聊天MP3壓縮傳輸3KB每秒

自從Recorder H5 GitHub開源庫(kù)優(yōu)化后,對(duì)邊錄邊轉(zhuǎn)碼成小語(yǔ)音片段文件實(shí)時(shí)上傳服務(wù)器這種操作支持非常良好,因此以前不太好支持的H5語(yǔ)音通話已經(jīng)有了更好的突破空間。因此花了兩晚時(shí)間打造了一個(gè)H5語(yǔ)音通話聊天的demo。
歡迎在線把玩: https://xiangyuecn.github.io/Recorder/
一、把玩方法
- 準(zhǔn)備局域網(wǎng)內(nèi)兩臺(tái)設(shè)備(Peer A、Peer B)用最新版本瀏覽器(demo未適配低版本)分別打開demo頁(yè)面 (也可以是同一瀏覽器打開兩個(gè)標(biāo)簽)
- 勾選頁(yè)面中的H5版語(yǔ)音通話聊天,在Peer A中點(diǎn)擊新建連接
- 把Peer A的本機(jī)信手動(dòng)復(fù)制傳輸給Peer B,粘貼到遠(yuǎn)程信息中,并點(diǎn)擊確定連接
- 把Peer B自動(dòng)生成的本機(jī)信息手動(dòng)復(fù)制傳輸給Peer A,粘貼到遠(yuǎn)程信息中,并點(diǎn)擊確定連接 雙方P2P連接已建立,使用頁(yè)面上方的錄音功能,隨時(shí)開啟錄音,音頻數(shù)據(jù)會(huì)實(shí)時(shí)發(fā)送給對(duì)方
局域網(wǎng)H5版對(duì)講機(jī):joy:
二、技術(shù)特性
(1)數(shù)據(jù)傳輸
github demo中考慮到減少對(duì)服務(wù)器的依賴,因此采用了WebRTC P2P傳輸功能,無需任何服務(wù)器支持即可實(shí)現(xiàn)局域網(wǎng)內(nèi)的兩個(gè)設(shè)備之間互相連接,連接代碼也算簡(jiǎn)單。有服務(wù)器支持可能就要逆天了,不過代碼也會(huì)更復(fù)雜。
如果正式使用,可能不太會(huì)考慮使用WebRTC,用WebSocket通過服務(wù)器進(jìn)行轉(zhuǎn)發(fā)可能是最佳的選擇。
WebRTC局域網(wǎng)P2P連接要點(diǎn)( 實(shí)際代碼 其實(shí)差不多,只不過多做了點(diǎn)兼容):
/******Peer A(本機(jī))******/ var peerA=new RTCPeerConnection(null,null) //開啟會(huì)話,等待遠(yuǎn)程連接 peerA.createOffer().then(function(offer){ peerA.setLocalDescription(offer); peerAOffer=offer; }); var peerAICEList=[......] //通過peerA.onicecandidate監(jiān)聽獲得所有的ICE連接信息候選項(xiàng),如果有多個(gè)網(wǎng)絡(luò)適配器,就會(huì)有多個(gè)候選 //創(chuàng)建連接通道對(duì)象,A端通過這個(gè)來進(jìn)行數(shù)據(jù)發(fā)送 var peerAChannel=peerA.createDataChannel("RTC Test"); /******Peer B(遠(yuǎn)程)******/ var peerB=new RTCPeerConnection(null,null) //連接到Peer A peerB.setRemoteDescription(peerAOffer); //開啟應(yīng)答會(huì)話,等待Peer A確認(rèn)連接 peerB.createAnswer().then(function(answer){ peerB.setLocalDescription(answer); peerBAnswer=answer; }); //把Peer A的連接點(diǎn)都添加進(jìn)去 peerB.addIceCandidate(......peerAICEList) var peerBICEList=[......] //通過peerB.onicecandidate監(jiān)聽獲得所有的ICE連接信息候選項(xiàng),如果有多個(gè)網(wǎng)絡(luò)適配器,就會(huì)有多個(gè)候選 var peerBChannel=... //通過peerB.ondatachannel得到連接通道對(duì)象,B端通過這個(gè)來進(jìn)行數(shù)據(jù)發(fā)送 /*******最終完成連接********/ //連接到Peer B peerA.setRemoteDescription(peerBAnswer); //把Peer B的連接點(diǎn)都添加進(jìn)去 peerA.addIceCandidate(......peerBICEList) /* peerA peerB分別等待peerA/BChannel.onopen回調(diào)即完成P2P連接 ,然后通過監(jiān)聽peerA/BChannel.onmessage獲得對(duì)方發(fā)送的信息 ,通過peerA/BChannel.send(data) 發(fā)送數(shù)據(jù)。 */
(2)音頻采集和編碼
由于是在我的 Recorder庫(kù) 中新加的demo,因此音頻采集和編碼都是現(xiàn)成的,Recorder庫(kù)有好的兼容性和穩(wěn)定性,因此節(jié)省了最大頭的工作量。
編碼最佳使用MP3格式,因?yàn)榇烁袷揭褍?yōu)化了實(shí)時(shí)編碼性能,可做到邊錄邊轉(zhuǎn)碼,16kbps 16khz的情況下可做到2kb每秒的文件大小,音質(zhì)還可以,實(shí)時(shí)傳輸時(shí)為3kb每秒,15分鐘大概3M的流量。
用wav格式也可以,不過此格式編碼出來的數(shù)據(jù)量太大,16位 16khz接近50kb每秒的實(shí)時(shí)傳輸數(shù)據(jù),15分鐘要37M多流量。其他格式由于暫未對(duì)實(shí)時(shí)編碼進(jìn)行優(yōu)化,使用中會(huì)導(dǎo)致明顯卡頓。
降噪、靜音檢測(cè)等高級(jí)功能是沒有的,畢竟是非專業(yè)人員:joy: 要求高點(diǎn)可以,但不要超出范圍太多啦。
(3)音頻實(shí)時(shí)接收和播放
接收到一個(gè)音頻片段后,本應(yīng)該是立即播放的,但由于編碼、網(wǎng)絡(luò)傳輸導(dǎo)致的延遲,可能上個(gè)片段還未播放完(甚至未開始播放),因此需要緩沖處理。
因?yàn)榇嬖诰彌_,就需要進(jìn)行實(shí)時(shí)同步處理,如果緩沖內(nèi)積壓了過多的音頻片段,會(huì)導(dǎo)致語(yǔ)音播放滯后太多,因此需要適當(dāng)進(jìn)行對(duì)數(shù)據(jù)進(jìn)行丟棄,實(shí)測(cè)發(fā)現(xiàn)網(wǎng)絡(luò)正常、設(shè)備性能靠譜的情況下基本沒有丟棄的數(shù)據(jù)。
然后就是播放了,本應(yīng)是播完一個(gè)就播下一個(gè),測(cè)試發(fā)現(xiàn)這是不靠譜的。因?yàn)榻Y(jié)束一個(gè)片段后再開始播放下一個(gè)發(fā)出聲音,這個(gè)過程會(huì)中斷比較長(zhǎng)時(shí)間,明顯感覺得出來中間存在短暫停頓。因此必須在片段未播完時(shí)準(zhǔn)備好下一個(gè)片段的播放,并且提前開始播放,達(dá)到抹掉中間的停頓。
我寫了兩個(gè)播放方式:
- 實(shí)時(shí)解碼播放
- 雙Audio輪換播放
最開始用一個(gè)Audio停頓感太明顯,因此用兩個(gè)Audio輪換抹掉中間的停頓,但發(fā)現(xiàn)不同格式Auido播放差異巨大,播放wav非常流暢,但播放mp3還是存在停頓(后面用解碼的發(fā)現(xiàn)是得到的PCM時(shí)長(zhǎng)變長(zhǎng)了,導(dǎo)致事件觸發(fā)會(huì)出現(xiàn)誤差,為什么會(huì)變長(zhǎng)?怪異)。
因此后面寫了一個(gè)解碼然后再播放,mp3這次終于能正常連續(xù)播放了,wav格式和雙Audio的播放差異不大。實(shí)時(shí)解碼里面也用到了雙Audio中的技巧,其實(shí)也是用到了兩個(gè)BufferSource進(jìn)行類似的輪換操作,以抹掉兩個(gè)片段間的停頓。
不過最終播放效果還是不夠好,音質(zhì)變差了點(diǎn),并且多了點(diǎn)噪音。如果有現(xiàn)成的播放代碼拿過來用就就好了。
三、應(yīng)用場(chǎng)景
- 數(shù)據(jù)傳輸改成WebSocket,做個(gè)仿微信語(yǔ)音通話H5版還是可以的(受限于Recorder瀏覽器支持)
- 局域網(wǎng)H5版對(duì)講機(jī)(前端玩具)
- ......沒有想到 完。
總結(jié)
以上所述是小編給大家介紹的HTML5實(shí)時(shí)語(yǔ)音通話聊天MP3壓縮傳輸3KB每秒,希望對(duì)大家有所幫助,如果大家有任何疑問請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
如果你覺得本文對(duì)你有幫助,歡迎轉(zhuǎn)載,煩請(qǐng)注明出處,謝謝!
相關(guān)文章
- 這篇文章主要介紹了HTML5自定義mp3播放器源碼,非常不錯(cuò),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-01-06
- 最初有個(gè)開源項(xiàng)目libmp3lame-js,直接將 lame 源碼編譯為 js版本,后來有人基于libmp3lame使用 js 進(jìn)行了重寫,就是如今的lamejs 項(xiàng)目。相比libmp3lame ,自身體積更小,而2021-07-12