一、前言

用ffmpeg來(lái)做音視頻同步，個(gè)人認(rèn)為這個(gè)是ffmpeg基礎(chǔ)處理中最難的一個(gè)，無(wú)數(shù)人就卡在這里，怎么也不準(zhǔn)，本人也是嘗試過(guò)網(wǎng)上各種demo，基本上都是渣渣，要么僅僅支持極其少量的視頻文件比如收到的數(shù)據(jù)包是一幀視頻一幀音頻的，要么根本沒(méi)法同步歪七八糟的，要么進(jìn)度跳過(guò)去直接蹦蹦蹦崩潰的，其實(shí)最完美的音視頻同步處理demo就是ffplay，我親測(cè)過(guò)幾十種各種各樣的音視頻本地文件，數(shù)十種視頻流文件，都是非常完美，當(dāng)然啦這是親生的啦，不完美還玩?zhèn)€屁。

如果僅僅是播放視頻流（不帶音頻流），可能不需要音視頻同步，所以最開(kāi)始只做rtsp視頻流播放的時(shí)候根本沒(méi)有考慮同步的問(wèn)題，因?yàn)闆](méi)遇到也不需要，等到后期發(fā)現(xiàn)各種rtmp、http、m3u8這種視頻流的時(shí)候，問(wèn)題大了去了，他是hls格式的視頻流文件一次性過(guò)來(lái)的，一個(gè)個(gè)小視頻文件過(guò)來(lái)的，如果沒(méi)有同步的話(huà)，意味著突然之間刷刷刷的圖片過(guò)去很多，下一次來(lái)的又是刷刷的，這就需要自己計(jì)算同步了，上次接收到的數(shù)據(jù)包放入隊(duì)列，到了需要顯示的時(shí)候就顯示。

常用的音視頻同步方法：

通過(guò)fps來(lái)控制，fps表示一秒鐘播放多少幀，比如25幀，可以自行計(jì)算一幀解碼用掉的時(shí)間，一幀占用（1000/25=40毫秒），通過(guò)延時(shí)來(lái)處理，這其實(shí)是最渣渣的辦法。 記住開(kāi)始解碼的時(shí)間startTime，通過(guò)av_rescale_q計(jì)算pts時(shí)間，兩者的差值就是需要延時(shí)的時(shí)間，調(diào)用av_usleep來(lái)延時(shí)，這種只有部分文件正常，很多時(shí)候不正常。 音頻同步到視頻，視頻時(shí)鐘作為主時(shí)鐘，沒(méi)試過(guò)，網(wǎng)上很多人說(shuō)這個(gè)辦法不好。 視頻同步到音頻，音頻時(shí)鐘作為主時(shí)鐘，沒(méi)試過(guò)，據(jù)說(shuō)大部分人采用的此辦法。 音視頻同步到外部時(shí)鐘，外部時(shí)鐘作為主時(shí)鐘，最終采用的辦法，容易理解互不干擾，各自按照外部時(shí)鐘去同步自己。 ffplay自身內(nèi)置了三種同步策略，可以通過(guò)參數(shù)來(lái)控制采用何種策略，默認(rèn)是視頻同步到音頻。

二、效果圖

三、體驗(yàn)地址

國(guó)內(nèi)站點(diǎn)：https://gitee.com/feiyangqingyun

國(guó)際站點(diǎn)：https://github.com/feiyangqingyun

體驗(yàn)地址：https://pan.baidu.com/s/1YOVD8nkoOSYwX9KgSauLeQ 提取碼：kcgz 文件名：bin_video_demo/bin_linux_video。

四、相關(guān)代碼

#include "ffmpegsync.h"
#include "ffmpeghelper.h"
#include "ffmpegthread.h"

FFmpegSync::FFmpegSync(quint8 type, QObject *parent) : QThread(parent)
{
    this->stopped = false;
    this->type = type;
    this->thread = (FFmpegThread *)parent;
}

FFmpegSync::~FFmpegSync()
{

}

void FFmpegSync::run()
{
    if (!thread) {
        return;
    }

    this->reset();
    while (!stopped) {
        //暫停狀態(tài)或者切換進(jìn)度中或者隊(duì)列中沒(méi)有幀則不處理
        if (!thread->isPause && !thread->changePosition && packets.size() > 0) {
            mutex.lock();
            AVPacket *packet = packets.first();
            mutex.unlock();

            //h264的裸流文件同步有問(wèn)題因?yàn)楂@取不到pts和dts(暫時(shí)用最蠢的延時(shí)辦法解決)
            if (thread->formatName == "h264") {
                int sleepTime = (1000 / thread->frameRate) - 5;
                msleep(sleepTime);
            }

            //計(jì)算當(dāng)前幀顯示時(shí)間(外部時(shí)鐘同步)
            ptsTime = FFmpegHelper::getPtsTime(thread->formatCtx, packet);
            if (!this->checkPtsTime()) {
                msleep(1);
                continue;
            }

            //顯示當(dāng)前的播放進(jìn)度
            this->checkShowTime();

            //如果解碼線(xiàn)程停止了則不用處理
            if (!thread->stopped) {
                //0-表示音頻 1-表示視頻
                if (type == 0) {
                    thread->decodeAudio1(packet);
                } else if (type == 1) {
                    thread->decodeVideo1(packet);
                }
            }

            //釋放資源并移除
            mutex.lock();
            FFmpegHelper::freePacket(packet);
            packets.removeFirst();
            mutex.unlock();
        }

        msleep(1);
    }

    this->reset();
    this->clear();
    stopped = false;
}

void FFmpegSync::stop()
{
    if (this->isRunning()) {
        stopped = true;
        this->wait();
    }
}

void FFmpegSync::clear()
{
    mutex.lock();
    //釋放還沒(méi)有來(lái)得及處理的剩余的幀
    foreach (AVPacket *packet, packets) {
        FFmpegHelper::freePacket(packet);
    }
    packets.clear();
    mutex.unlock();
}

void FFmpegSync::reset()
{
    //復(fù)位音頻外部時(shí)鐘
    showTime = 0;
    bufferTime = 0;
    offsetTime = -1;
    startTime = av_gettime();
}

void FFmpegSync::append(AVPacket *packet)
{
    mutex.lock();
    packets << packet;
    mutex.unlock();
}

int FFmpegSync::getPacketCount()
{
    return this->packets.size();
}

bool FFmpegSync::checkPtsTime()
{
    //下面這幾個(gè)時(shí)間值是參考的別人的
    bool ok = false;
    if (ptsTime > 0) {
        if (ptsTime > offsetTime + 100000) {
            bufferTime = ptsTime - offsetTime + 100000;
        }

        int offset = (type == 0 ? 1000 : 5000);
        //做夢(mèng)都想不到倍速播放就這里控制個(gè)系數(shù)就行
        offsetTime = (av_gettime() - startTime) * thread->speed + bufferTime;
        if ((offsetTime <= ptsTime && ptsTime - offsetTime <= offset) || (offsetTime > ptsTime)) {
            ok = true;
        }
    } else {
        ok = true;
    }

    return ok;
}

void FFmpegSync::checkShowTime()
{
    //必須是文件(本地文件或網(wǎng)絡(luò)文件)才有播放進(jìn)度
    if (!thread->getIsFile()) {
        return;
    }

    //過(guò)濾重復(fù)發(fā)送播放時(shí)間
    bool showPosition = false;
    bool existVideo = (thread->videoIndex >= 0);
    if (type == 0) {
        //音頻同步線(xiàn)程不能存在視頻
        if (!existVideo) {
            showPosition = true;
        }
    } else if (type == 1) {
        //視頻同步線(xiàn)程必須存在視頻
        if (existVideo) {
            showPosition = true;
        }
    }

    //需要顯示時(shí)間的時(shí)候發(fā)送對(duì)應(yīng)進(jìn)度(限定差值大于200毫秒沒(méi)必要頻繁發(fā)送)
    if (showPosition && (offsetTime - showTime > 200000)) {
        showTime = offsetTime;
        thread->position = showTime / 1000;
        emit receivePosition(thread->position);
    }
}

五、功能特點(diǎn)

5.1 基礎(chǔ)功能

• 支持各種音頻視頻文件格式，比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
• 支持本地?cái)z像頭設(shè)備，可指定分辨率、幀率。
• 支持各種視頻流格式，比如rtp、rtsp、rtmp、http等。
• 本地音視頻文件和網(wǎng)絡(luò)音視頻文件，自動(dòng)識(shí)別文件長(zhǎng)度、播放進(jìn)度、音量大小、靜音狀態(tài)等。
• 文件可以指定播放位置、調(diào)節(jié)音量大小、設(shè)置靜音狀態(tài)等。
• 支持倍速播放文件，可選0.5倍、1.0倍、2.5倍、5.0倍等速度，相當(dāng)于慢放和快放。
• 支持開(kāi)始播放、停止播放、暫停播放、繼續(xù)播放。
• 支持抓拍截圖，可指定文件路徑，可選抓拍完成是否自動(dòng)顯示預(yù)覽。
• 支持錄像存儲(chǔ)，手動(dòng)開(kāi)始錄像、停止錄像，部分內(nèi)核支持暫停錄像后繼續(xù)錄像，跳過(guò)不需要錄像的部分。
• 支持無(wú)感知切換循環(huán)播放、自動(dòng)重連等機(jī)制。
• 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態(tài)變化等信號(hào)。
• 多線(xiàn)程處理，一個(gè)解碼一個(gè)線(xiàn)程，不卡主界面。

5.2 特色功能

• 同時(shí)支持多種解碼內(nèi)核，包括qmedia內(nèi)核（Qt4/Qt5/Qt6）、ffmpeg內(nèi)核（ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5）、vlc內(nèi)核（vlc2/vlc3）、mpv內(nèi)核（mpv1/mp2）、?？祍dk、easyplayer內(nèi)核等。
• 非常完善的多重基類(lèi)設(shè)計(jì)，新增一種解碼內(nèi)核只需要實(shí)現(xiàn)極少的代碼量，就可以應(yīng)用整套機(jī)制。
• 同時(shí)支持多種畫(huà)面顯示策略，自動(dòng)調(diào)整（原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示，否則等比例縮放）、等比例縮放（永遠(yuǎn)等比例縮放）、拉伸填充（永遠(yuǎn)拉伸填充）。所有內(nèi)核和所有視頻顯示模式下都支持三種畫(huà)面顯示策略。
• 同時(shí)支持多種視頻顯示模式，句柄模式（傳入控件句柄交給對(duì)方繪制控制）、繪制模式（回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成QImage用QPainter繪制）、GPU模式（回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成yuv用QOpenglWidget繪制）。
• 支持多種硬件加速類(lèi)型，ffmpeg可選dxva2、d3d11va等，mpv可選auto、dxva2、d3d11va，vlc可選any、dxva2、d3d11va。不同的系統(tǒng)環(huán)境有不同的類(lèi)型選擇，比如linux系統(tǒng)有vaapi、vdpau，macos系統(tǒng)有videotoolbox。
• 解碼線(xiàn)程和顯示窗體分離，可指定任意解碼內(nèi)核掛載到任意顯示窗體，動(dòng)態(tài)切換。
• 支持共享解碼線(xiàn)程，默認(rèn)開(kāi)啟并且自動(dòng)處理，當(dāng)識(shí)別到相同的視頻地址，共享一個(gè)解碼線(xiàn)程，在網(wǎng)絡(luò)視頻環(huán)境中可以大大節(jié)約網(wǎng)絡(luò)流量以及對(duì)方設(shè)備的推流壓力。國(guó)內(nèi)頂尖視頻廠(chǎng)商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個(gè)幾百個(gè)通道展示。
• 自動(dòng)識(shí)別視頻旋轉(zhuǎn)角度并繪制，比如手機(jī)上拍攝的視頻一般是旋轉(zhuǎn)了90度的，播放的時(shí)候要自動(dòng)旋轉(zhuǎn)處理，不然默認(rèn)是倒著的。
• 自動(dòng)識(shí)別視頻流播放過(guò)程中分辨率的變化，在視頻控件上自動(dòng)調(diào)整尺寸。比如攝像機(jī)可以在使用過(guò)程中動(dòng)態(tài)配置分辨率，當(dāng)分辨率改動(dòng)后對(duì)應(yīng)視頻控件也要做出同步反應(yīng)。
• 音視頻文件無(wú)感知自動(dòng)切換循環(huán)播放，不會(huì)出現(xiàn)切換期間黑屏等肉眼可見(jiàn)的切換痕跡。
• 視頻控件同時(shí)支持任意解碼內(nèi)核、任意畫(huà)面顯示策略、任意視頻顯示模式。
• 視頻控件懸浮條同時(shí)支持句柄、繪制、GPU三種模式，非絕對(duì)坐標(biāo)移來(lái)移去。
• 本地?cái)z像頭設(shè)備支持指定設(shè)備名稱(chēng)、分辨率、幀率進(jìn)行播放。
• 錄像文件同時(shí)支持打開(kāi)的視頻文件、本地?cái)z像頭、網(wǎng)絡(luò)視頻流等。
• 瞬間響應(yīng)打開(kāi)和關(guān)閉，無(wú)論是打開(kāi)不存在的視頻或者網(wǎng)絡(luò)流，探測(cè)設(shè)備是否存在，讀取中的超時(shí)等待，收到關(guān)閉指令立即中斷之前的操作并響應(yīng)。
• 支持打開(kāi)各種圖片文件，支持本地音視頻文件拖曳播放。
• 視頻控件懸浮條自帶開(kāi)始和停止錄像切換、聲音靜音切換、抓拍截圖、關(guān)閉視頻等功能。
• 音頻組件支持聲音波形值數(shù)據(jù)解析，可以根據(jù)該值繪制波形曲線(xiàn)和柱狀聲音條，默認(rèn)提供了聲音振幅信號(hào)。
• 各組件中極其詳細(xì)的打印信息提示，尤其是報(bào)錯(cuò)信息提示，封裝的統(tǒng)一打印格式。針對(duì)現(xiàn)場(chǎng)復(fù)雜的設(shè)備環(huán)境測(cè)試極其方便有用，相當(dāng)于精確定位到具體哪個(gè)通道哪個(gè)步驟出錯(cuò)。
• 代碼框架和結(jié)構(gòu)優(yōu)化到最優(yōu)，性能強(qiáng)悍，持續(xù)迭代更新升級(jí)。
• 源碼支持Qt4、Qt5、Qt6，兼容所有版本。

5.3 視頻控件

• 可動(dòng)態(tài)添加任意多個(gè)osd標(biāo)簽信息，標(biāo)簽信息包括名字、是否可見(jiàn)、字號(hào)大小、文本文字、文本顏色、標(biāo)簽圖片、標(biāo)簽坐標(biāo)、標(biāo)簽格式（文本、日期、時(shí)間、日期時(shí)間、圖片）、標(biāo)簽位置（左上角、左下角、右上角、右下角、居中、自定義坐標(biāo)）。
• 可動(dòng)態(tài)添加任意多個(gè)圖形信息，這個(gè)非常有用，比如人工智能算法解析后的圖形區(qū)域信息直接發(fā)給視頻控件即可。圖形信息支持任意形狀，直接繪制在原始圖片上，采用絕對(duì)坐標(biāo)。
• 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區(qū)域、路徑集合、點(diǎn)坐標(biāo)集合等。
• 每個(gè)圖形信息都可指定三種區(qū)域中的一種或者多種，指定了的都會(huì)繪制。
• 內(nèi)置懸浮條控件，懸浮條位置支持頂部、底部、左側(cè)、右側(cè)。
• 懸浮條控件參數(shù)包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標(biāo)代碼集合、按鈕名稱(chēng)標(biāo)識(shí)集合、按鈕提示信息集合。
• 懸浮條控件一排工具按鈕可自定義，通過(guò)結(jié)構(gòu)體參數(shù)設(shè)置，圖標(biāo)可選圖形字體還是自定義圖片。
• 懸浮條按鈕內(nèi)部實(shí)現(xiàn)了錄像切換、抓拍截圖、靜音切換、關(guān)閉視頻等功能，也可以自行在源碼中增加自己對(duì)應(yīng)的功能。
• 懸浮條按鈕對(duì)應(yīng)實(shí)現(xiàn)了功能的按鈕，有對(duì)應(yīng)圖標(biāo)切換處理，比如錄像按鈕按下后會(huì)切換到正在錄像中的圖標(biāo)，聲音按鈕切換后變成靜音圖標(biāo)，再次切換還原。
• 懸浮條按鈕單擊后都用名稱(chēng)唯一標(biāo)識(shí)作為信號(hào)發(fā)出，可以自行關(guān)聯(lián)響應(yīng)處理。
• 懸浮條空白區(qū)域可以顯示提示信息，默認(rèn)顯示當(dāng)前視頻分辨率大小，可以增加幀率、碼流大小等信息。
• 視頻控件參數(shù)包括邊框大小、邊框顏色、焦點(diǎn)顏色、背景顏色（默認(rèn)透明）、文字顏色（默認(rèn)全局文字顏色）、填充顏色（視頻外的空白處填充黑色）、背景文字、背景圖片（如果設(shè)置了圖片優(yōu)先取圖片）、是否拷貝圖片、縮放顯示模式（自動(dòng)調(diào)整、等比例縮放、拉伸填充）、視頻顯示模式（句柄、繪制、GPU）、啟用懸浮條、懸浮條尺寸（橫向?yàn)楦叨?、縱向?yàn)閷挾龋腋l位置（頂部、底部、左側(cè)、右側(cè)）。

5.4 內(nèi)核ffmpeg

• 支持各種音視頻文件、本地?cái)z像頭設(shè)備，各種視頻流網(wǎng)絡(luò)流。
• 支持開(kāi)始播放、暫停播放、繼續(xù)播放、停止播放、設(shè)置播放進(jìn)度、倍速播放。
• 可設(shè)置音量、靜音切換、抓拍圖片、錄像存儲(chǔ)。
• 自動(dòng)提取專(zhuān)輯信息比如標(biāo)題、藝術(shù)家、專(zhuān)輯、專(zhuān)輯封面，自動(dòng)顯示專(zhuān)輯封面。
• 完美支持音視頻同步和倍速播放。
• 解碼策略支持速度優(yōu)先、質(zhì)量?jī)?yōu)先、均衡處理、最快速度。
• 支持手機(jī)視頻旋轉(zhuǎn)角度顯示，比如一般手機(jī)拍攝的視頻是旋轉(zhuǎn)了90度的，解碼顯示的時(shí)候需要重新旋轉(zhuǎn)90度才是正的。
• 自動(dòng)轉(zhuǎn)換yuv420格式，比如本地?cái)z像頭是yuyv422格式，有些視頻文件是xx格式，統(tǒng)一將非yuv420格式轉(zhuǎn)換，然后再進(jìn)行處理。
• 支持硬解碼dxva2、d3d11va等，性能極高尤其是大分辨率比如4K視頻。
• 視頻響應(yīng)極低延遲0.2s左右，極速響應(yīng)打開(kāi)視頻流0.5s左右，專(zhuān)門(mén)做了優(yōu)化處理。
• 硬解碼和GPU繪制組合，極低CPU占用，比?？荡笕A等客戶(hù)端更優(yōu)。
• 支持視頻流中的各種音頻格式，AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持，推薦選擇AAC兼容性跨平臺(tái)性最好。
• 視頻存儲(chǔ)支持yuv、h264、mp4多種格式，音頻存儲(chǔ)支持pcm、wav、aac多種格式。默認(rèn)視頻mp4格式、音頻aac格式。
• 支持分開(kāi)存儲(chǔ)音頻視頻文件，也支持合并到一個(gè)mp4文件，默認(rèn)策略是無(wú)論何種音視頻文件格式存儲(chǔ)，最終都轉(zhuǎn)成mp4及aac格式，然后合并成音視頻一起的mp4文件。
• 支持本地?cái)z像頭實(shí)時(shí)視頻顯示帶音頻輸入輸出，音視頻錄制合并到一個(gè)mp4文件。
• 支持H264/H265編碼（現(xiàn)在越來(lái)越多的監(jiān)控?cái)z像頭是H265視頻流格式）生成視頻文件，內(nèi)部自動(dòng)識(shí)別切換編碼格式。
• 自動(dòng)識(shí)別視頻流動(dòng)態(tài)分辨率改動(dòng)，重新打開(kāi)視頻流。
• 支持用戶(hù)信息中包含特殊字符（比如用戶(hù)信息中包含+#@等字符）的視頻流播放，內(nèi)置解析轉(zhuǎn)義處理。
• 純qt+ffmpeg解碼，非sdl等第三方繪制播放依賴(lài)，gpu繪制采用qopenglwidget，音頻播放采用qaudiooutput。
• 同時(shí)支持ffmpeg2、ffmpeg3、ffmpeg4、ffmpeg5版本，全部做了兼容處理。如果需要支持xp需要選用ffmpeg3及以下。

到此這篇關(guān)于Qt利用ffmpeg實(shí)現(xiàn)音視頻同步的文章就介紹到這了,更多相關(guān)Qt ffmpeg音視頻同步內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評(píng)論