Qt音視頻開(kāi)發(fā)之利用ffmpeg實(shí)現(xiàn)解碼本地?cái)z像頭
一、前言
一開(kāi)始用ffmpeg做的是視頻流的解析,后面增加了本地視頻文件的支持,到后面發(fā)現(xiàn)ffmpeg也是支持本地?cái)z像頭設(shè)備的,只要是原則上打通的比如win系統(tǒng)上相機(jī)程序、linux上茄子程序可以正常打開(kāi)就表示打通,整個(gè)解碼顯示過(guò)程完全一樣,就是打開(kāi)的時(shí)候要傳入設(shè)備信息,而且參數(shù)那邊可以指定分辨率和幀率等,本地?cái)z像機(jī)一般會(huì)支持多個(gè)分辨率,用戶需要哪種分辨率都可以指定該分辨率進(jìn)行采集。
這里要說(shuō)的一個(gè)小插曲就是在linux上測(cè)試這個(gè)功能的時(shí)候,發(fā)現(xiàn)編譯期間就失敗了,這就奇怪了,后面發(fā)現(xiàn)是靜態(tài)庫(kù)的原因,為了偷懶,一開(kāi)始編譯的ffmpeg靜態(tài)庫(kù),當(dāng)換成動(dòng)態(tài)庫(kù)的方式以后,一步跑通不要太完美,完美使用,所以如果有加載本地?cái)z像頭設(shè)備的需求的時(shí)候,盡量用動(dòng)態(tài)庫(kù)的方式。一鼓作氣將代碼移植到嵌入式linux板子上,完美,居然也可以,而且實(shí)時(shí)性挺好,可能內(nèi)置了部分緩存的原因,比自己用v4l2的方式更流暢一些。
由于本地?cái)z像頭設(shè)備采集回來(lái)的數(shù)據(jù)默認(rèn)的yuv422格式,顯示數(shù)據(jù)那邊默認(rèn)是yuv420格式,當(dāng)然改成繪制yuv422也是可以的,但是有需要更改繪制代碼,而且存儲(chǔ)那邊也要做特殊處理,所以考慮再三決定從源頭做轉(zhuǎn)換,用sws_scale轉(zhuǎn)換各種格式都非常方便,本來(lái)ffmpeg采集這邊就需要將非yuv420格式轉(zhuǎn)到y(tǒng)uv420格式。
二、效果圖

三、體驗(yàn)地址
國(guó)內(nèi)站點(diǎn):https://gitee.com/feiyangqingyun
國(guó)際站點(diǎn):https://github.com/feiyangqingyun
體驗(yàn)地址:https://pan.baidu.com/s/1YOVD8nkoOSYwX9KgSauLeQ 提取碼:kcgz 文件名:bin_video_demo/bin_linux_video。
四、相關(guān)代碼
void CameraThreadFFmpeg::initCamera()
{
//https://blog.csdn.net/weixin_37921201/article/details/120357826
//命令行打開(kāi) ffplay -f dshow -i video="USB Video Device" -s 1280x720 -framerate 30
//啟動(dòng)計(jì)時(shí)
timer.restart();
//參數(shù)字典
AVDictionary *options = NULL;
//設(shè)置分辨率
QString size = QString("%1x%2").arg(videoWidth).arg(videoHeight);
av_dict_set(&options, "video_size", size.toUtf8().constData(), 0);
//設(shè)置幀率
if (frameRate > 0) {
av_dict_set(&options, "framerate", QString::number(frameRate).toUtf8().constData(), 0);
}
//設(shè)置輸入格式(前提是要對(duì)應(yīng)設(shè)備對(duì)應(yīng)平臺(tái)支持)
//av_dict_set(&options, "input_format", "mjpeg", 0);
//設(shè)置圖像格式(有些設(shè)備設(shè)置了格式后幀率上不去)
//av_dict_set(&options, "pixel_format", "yuyv422", 0);
//打印設(shè)備列表
//FFmpegHelper::showDevice();
//打印設(shè)備參數(shù)
//FFmpegHelper::showOption(cameraName);
//實(shí)例化格式處理上下文
formatCtx = avformat_alloc_context();
AVInputFormatx *ifmt = NULL;
QByteArray url = cameraName.toUtf8();
#if defined(Q_OS_WIN)
//ifmt = av_find_input_format("vfwcap");
ifmt = av_find_input_format("dshow");
url = QString("video=%1").arg(cameraName).toUtf8();
#elif defined(Q_OS_LINUX)
//ifmt = av_find_input_format("v4l2");
ifmt = av_find_input_format("video4linux2");
#elif defined(Q_OS_MAC)
ifmt = av_find_input_format("avfoundation");
#endif
int result = avformat_open_input(&formatCtx, url.data(), ifmt, &options);
av_dict_free(&options);
if (result < 0) {
debug("打開(kāi)地址", "錯(cuò)誤: 打開(kāi)出錯(cuò) " + FFmpegHelper::getError(result));
return;
}
//獲取流信息
result = avformat_find_stream_info(formatCtx, NULL);
if (result < 0) {
debug("打開(kāi)地址", "錯(cuò)誤: 找流失敗 " + FFmpegHelper::getError(result));
return;
}
//獲取最佳流索引
AVCodecx *videoCodec;
videoIndex = av_find_best_stream(formatCtx, AVMEDIA_TYPE_VIDEO, -1, -1, NULL, 0);
if (videoIndex < 0) {
debug("打開(kāi)地址", "錯(cuò)誤: 未找到視頻流");
return;
}
//獲取視頻流
AVStream *videoStream = formatCtx->streams[videoIndex];
//查找視頻解碼器(如果上面av_find_best_stream第五個(gè)參數(shù)傳了則這里不需要)
AVCodecID codecID = FFmpegHelper::getCodecID(videoStream);
videoCodec = avcodec_find_decoder(codecID);
//videoCodec = avcodec_find_decoder_by_name("h264");
if (!videoCodec) {
debug("打開(kāi)地址", "錯(cuò)誤: 查找視頻解碼器失敗");
return;
}
//創(chuàng)建視頻流解碼器上下文
videoCodecCtx = avcodec_alloc_context3(videoCodec);
if (!videoCodecCtx) {
debug("打開(kāi)地址", "錯(cuò)誤: 創(chuàng)建視頻解碼器上下文失敗");
return;
}
result = FFmpegHelper::copyContext(videoCodecCtx, videoStream, false);
if (result < 0) {
debug("打開(kāi)地址", "錯(cuò)誤: 設(shè)置視頻解碼器參數(shù)失敗");
return;
}
//設(shè)置解碼器參數(shù)
videoCodecCtx->flags |= AV_CODEC_FLAG_LOW_DELAY;
videoCodecCtx->flags |= AV_CODEC_FLAG_GLOBAL_HEADER;
videoCodecCtx->flags2 |= AV_CODEC_FLAG2_FAST;
//打開(kāi)視頻解碼器
result = avcodec_open2(videoCodecCtx, videoCodec, NULL);
if (result < 0) {
debug("打開(kāi)地址", "錯(cuò)誤: 打開(kāi)視頻解碼器失敗 " + FFmpegHelper::getError(result));
return;
}
//獲取實(shí)際分辨率大小
FFmpegHelper::getResolution(videoStream, videoWidth, videoHeight);
//如果沒(méi)有獲取到寬高則返回
if (videoWidth <= 0 || videoHeight <= 0) {
debug("打開(kāi)地址", "錯(cuò)誤: 獲取寬度高度失敗");
return;
}
//獲取最終真實(shí)的幀率
frameRate = av_q2d(videoStream->r_frame_rate);
QString msg = QString("索引: %1 解碼: %2 幀率: %3 寬高: %4x%5").arg(videoIndex).arg(videoCodec->name).arg(frameRate).arg(videoWidth).arg(videoHeight);
debug("視頻信息", msg);
openCamera();
}
bool CameraThreadFFmpeg::openCamera()
{
//分配內(nèi)存
packet = FFmpegHelper::creatPacket(NULL);
videoFrame = av_frame_alloc();
yuvFrame = av_frame_alloc();
imageFrame = av_frame_alloc();
//設(shè)置屬性以便該幀對(duì)象正常
yuvFrame->format = AV_PIX_FMT_YUV420P;
yuvFrame->width = videoWidth;
yuvFrame->height = videoHeight;
//定義及獲取像素格式
AVPixelFormat srcFormat = AV_PIX_FMT_YUYV422;
//通過(guò)解碼器獲取解碼格式
srcFormat = videoCodecCtx->pix_fmt;
//各種轉(zhuǎn)換速度比對(duì) https://www.cnblogs.com/xumaojun/p/8541634.html
int flags = SWS_FAST_BILINEAR;
//分配視頻幀數(shù)據(jù)(轉(zhuǎn)yuv420)
int yuvSize = av_image_get_buffer_size(AV_PIX_FMT_YUV420P, videoWidth, videoHeight, 1);
yuvData = (quint8 *)av_malloc(yuvSize * sizeof(quint8));
av_image_fill_arrays(yuvFrame->data, yuvFrame->linesize, yuvData, AV_PIX_FMT_YUV420P, videoWidth, videoHeight, 1);
//視頻圖像轉(zhuǎn)換(轉(zhuǎn)yuv420)
yuvSwsCtx = sws_getContext(videoWidth, videoHeight, srcFormat, videoWidth, videoHeight, AV_PIX_FMT_YUV420P, flags, NULL, NULL, NULL);
//分配視頻幀數(shù)據(jù)(轉(zhuǎn)rgb)
int imageSize = av_image_get_buffer_size(AV_PIX_FMT_RGB24, videoWidth, videoHeight, 1);
imageData = (quint8 *)av_malloc(imageSize * sizeof(quint8));
av_image_fill_arrays(imageFrame->data, imageFrame->linesize, imageData, AV_PIX_FMT_RGB24, videoWidth, videoHeight, 1);
//視頻圖像轉(zhuǎn)換(轉(zhuǎn)rgb)
imageSwsCtx = sws_getContext(videoWidth, videoHeight, AV_PIX_FMT_YUV420P, videoWidth, videoHeight, AV_PIX_FMT_RGB24, flags, NULL, NULL, NULL);
//打印媒體信息
//av_dump_format(formatCtx, 0, 0, 0);
QString msg = QString("源頭: %1 目標(biāo): %2").arg(srcFormat).arg(videoMode == VideoMode_Painter ? AV_PIX_FMT_RGB24 : AV_PIX_FMT_YUV420P);
debug("格式信息", msg);
//初始化音頻播放
this->initAudioPlayer();
//初始化濾鏡
this->initFilter();
int time = timer.elapsed();
debug("打開(kāi)成功", QString("用時(shí): %1 毫秒").arg(time));
emit receivePlayStart(time);
emit recorderStateChanged(RecorderState_Stopped, fileName);
isOk = true;
return isOk;
}五、功能特點(diǎn)
5.1 基礎(chǔ)功能
- 支持各種音頻視頻文件格式,比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
- 支持本地?cái)z像頭設(shè)備,可指定分辨率、幀率。
- 支持各種視頻流格式,比如rtp、rtsp、rtmp、http等。
- 本地音視頻文件和網(wǎng)絡(luò)音視頻文件,自動(dòng)識(shí)別文件長(zhǎng)度、播放進(jìn)度、音量大小、靜音狀態(tài)等。
- 文件可以指定播放位置、調(diào)節(jié)音量大小、設(shè)置靜音狀態(tài)等。
- 支持倍速播放文件,可選0.5倍、1.0倍、2.5倍、5.0倍等速度,相當(dāng)于慢放和快放。
- 支持開(kāi)始播放、停止播放、暫停播放、繼續(xù)播放。
- 支持抓拍截圖,可指定文件路徑,可選抓拍完成是否自動(dòng)顯示預(yù)覽。
- 支持錄像存儲(chǔ),手動(dòng)開(kāi)始錄像、停止錄像,部分內(nèi)核支持暫停錄像后繼續(xù)錄像,跳過(guò)不需要錄像的部分。
- 支持無(wú)感知切換循環(huán)播放、自動(dòng)重連等機(jī)制。
- 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態(tài)變化等信號(hào)。
- 多線程處理,一個(gè)解碼一個(gè)線程,不卡主界面。
5.2 特色功能
- 同時(shí)支持多種解碼內(nèi)核,包括qmedia內(nèi)核(Qt4/Qt5/Qt6)、ffmpeg內(nèi)核(ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5)、vlc內(nèi)核(vlc2/vlc3)、mpv內(nèi)核(mpv1/mp2)、??祍dk、easyplayer內(nèi)核等。
- 非常完善的多重基類設(shè)計(jì),新增一種解碼內(nèi)核只需要實(shí)現(xiàn)極少的代碼量,就可以應(yīng)用整套機(jī)制。
- 同時(shí)支持多種畫(huà)面顯示策略,自動(dòng)調(diào)整(原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示,否則等比例縮放)、等比例縮放(永遠(yuǎn)等比例縮放)、拉伸填充(永遠(yuǎn)拉伸填充)。所有內(nèi)核和所有視頻顯示模式下都支持三種畫(huà)面顯示策略。
- 同時(shí)支持多種視頻顯示模式,句柄模式(傳入控件句柄交給對(duì)方繪制控制)、繪制模式(回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成QImage用QPainter繪制)、GPU模式(回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成yuv用QOpenglWidget繪制)。
- 支持多種硬件加速類型,ffmpeg可選dxva2、d3d11va等,mpv可選auto、dxva2、d3d11va,vlc可選any、dxva2、d3d11va。不同的系統(tǒng)環(huán)境有不同的類型選擇,比如linux系統(tǒng)有vaapi、vdpau,macos系統(tǒng)有videotoolbox。
- 解碼線程和顯示窗體分離,可指定任意解碼內(nèi)核掛載到任意顯示窗體,動(dòng)態(tài)切換。
- 支持共享解碼線程,默認(rèn)開(kāi)啟并且自動(dòng)處理,當(dāng)識(shí)別到相同的視頻地址,共享一個(gè)解碼線程,在網(wǎng)絡(luò)視頻環(huán)境中可以大大節(jié)約網(wǎng)絡(luò)流量以及對(duì)方設(shè)備的推流壓力。國(guó)內(nèi)頂尖視頻廠商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個(gè)幾百個(gè)通道展示。
- 自動(dòng)識(shí)別視頻旋轉(zhuǎn)角度并繪制,比如手機(jī)上拍攝的視頻一般是旋轉(zhuǎn)了90度的,播放的時(shí)候要自動(dòng)旋轉(zhuǎn)處理,不然默認(rèn)是倒著的。
- 自動(dòng)識(shí)別視頻流播放過(guò)程中分辨率的變化,在視頻控件上自動(dòng)調(diào)整尺寸。比如攝像機(jī)可以在使用過(guò)程中動(dòng)態(tài)配置分辨率,當(dāng)分辨率改動(dòng)后對(duì)應(yīng)視頻控件也要做出同步反應(yīng)。
- 音視頻文件無(wú)感知自動(dòng)切換循環(huán)播放,不會(huì)出現(xiàn)切換期間黑屏等肉眼可見(jiàn)的切換痕跡。
- 視頻控件同時(shí)支持任意解碼內(nèi)核、任意畫(huà)面顯示策略、任意視頻顯示模式。
- 視頻控件懸浮條同時(shí)支持句柄、繪制、GPU三種模式,非絕對(duì)坐標(biāo)移來(lái)移去。
- 本地?cái)z像頭設(shè)備支持指定設(shè)備名稱、分辨率、幀率進(jìn)行播放。
- 錄像文件同時(shí)支持打開(kāi)的視頻文件、本地?cái)z像頭、網(wǎng)絡(luò)視頻流等。
- 瞬間響應(yīng)打開(kāi)和關(guān)閉,無(wú)論是打開(kāi)不存在的視頻或者網(wǎng)絡(luò)流,探測(cè)設(shè)備是否存在,讀取中的超時(shí)等待,收到關(guān)閉指令立即中斷之前的操作并響應(yīng)。
- 支持打開(kāi)各種圖片文件,支持本地音視頻文件拖曳播放。
- 視頻控件懸浮條自帶開(kāi)始和停止錄像切換、聲音靜音切換、抓拍截圖、關(guān)閉視頻等功能。
- 音頻組件支持聲音波形值數(shù)據(jù)解析,可以根據(jù)該值繪制波形曲線和柱狀聲音條,默認(rèn)提供了聲音振幅信號(hào)。
- 各組件中極其詳細(xì)的打印信息提示,尤其是報(bào)錯(cuò)信息提示,封裝的統(tǒng)一打印格式。針對(duì)現(xiàn)場(chǎng)復(fù)雜的設(shè)備環(huán)境測(cè)試極其方便有用,相當(dāng)于精確定位到具體哪個(gè)通道哪個(gè)步驟出錯(cuò)。
- 代碼框架和結(jié)構(gòu)優(yōu)化到最優(yōu),性能強(qiáng)悍,持續(xù)迭代更新升級(jí)。
- 源碼支持Qt4、Qt5、Qt6,兼容所有版本。
5.3 視頻控件
- 可動(dòng)態(tài)添加任意多個(gè)osd標(biāo)簽信息,標(biāo)簽信息包括名字、是否可見(jiàn)、字號(hào)大小、文本文字、文本顏色、標(biāo)簽圖片、標(biāo)簽坐標(biāo)、標(biāo)簽格式(文本、日期、時(shí)間、日期時(shí)間、圖片)、標(biāo)簽位置(左上角、左下角、右上角、右下角、居中、自定義坐標(biāo))。
- 可動(dòng)態(tài)添加任意多個(gè)圖形信息,這個(gè)非常有用,比如人工智能算法解析后的圖形區(qū)域信息直接發(fā)給視頻控件即可。圖形信息支持任意形狀,直接繪制在原始圖片上,采用絕對(duì)坐標(biāo)。
- 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區(qū)域、路徑集合、點(diǎn)坐標(biāo)集合等。
- 每個(gè)圖形信息都可指定三種區(qū)域中的一種或者多種,指定了的都會(huì)繪制。
- 內(nèi)置懸浮條控件,懸浮條位置支持頂部、底部、左側(cè)、右側(cè)。
- 懸浮條控件參數(shù)包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標(biāo)代碼集合、按鈕名稱標(biāo)識(shí)集合、按鈕提示信息集合。
- 懸浮條控件一排工具按鈕可自定義,通過(guò)結(jié)構(gòu)體參數(shù)設(shè)置,圖標(biāo)可選圖形字體還是自定義圖片。
- 懸浮條按鈕內(nèi)部實(shí)現(xiàn)了錄像切換、抓拍截圖、靜音切換、關(guān)閉視頻等功能,也可以自行在源碼中增加自己對(duì)應(yīng)的功能。
- 懸浮條按鈕對(duì)應(yīng)實(shí)現(xiàn)了功能的按鈕,有對(duì)應(yīng)圖標(biāo)切換處理,比如錄像按鈕按下后會(huì)切換到正在錄像中的圖標(biāo),聲音按鈕切換后變成靜音圖標(biāo),再次切換還原。
- 懸浮條按鈕單擊后都用名稱唯一標(biāo)識(shí)作為信號(hào)發(fā)出,可以自行關(guān)聯(lián)響應(yīng)處理。
- 懸浮條空白區(qū)域可以顯示提示信息,默認(rèn)顯示當(dāng)前視頻分辨率大小,可以增加幀率、碼流大小等信息。
- 視頻控件參數(shù)包括邊框大小、邊框顏色、焦點(diǎn)顏色、背景顏色(默認(rèn)透明)、文字顏色(默認(rèn)全局文字顏色)、填充顏色(視頻外的空白處填充黑色)、背景文字、背景圖片(如果設(shè)置了圖片優(yōu)先取圖片)、是否拷貝圖片、縮放顯示模式(自動(dòng)調(diào)整、等比例縮放、拉伸填充)、視頻顯示模式(句柄、繪制、GPU)、啟用懸浮條、懸浮條尺寸(橫向?yàn)楦叨?、縱向?yàn)閷挾龋?、懸浮條位置(頂部、底部、左側(cè)、右側(cè))。
以上就是Qt音視頻開(kāi)發(fā)之利用ffmpeg實(shí)現(xiàn)解碼本地?cái)z像頭的詳細(xì)內(nèi)容,更多關(guān)于Qt ffmpeg解碼本地?cái)z像頭的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
C++中使用FFmpeg適配自定義編碼器的實(shí)現(xiàn)方法
本文介紹了在C++中使用FFmpeg庫(kù)進(jìn)行自定義編碼器適配的實(shí)現(xiàn)方法。文章通過(guò)具體的代碼示例,介紹了FFmpeg的基本使用方法和自定義編碼器的實(shí)現(xiàn)過(guò)程,幫助讀者了解如何在C++中進(jìn)行音視頻編碼和解碼的開(kāi)發(fā)工作,并能夠?qū)崿F(xiàn)自定義的編碼器適配2023-04-04
OpenCV中findContours函數(shù)參數(shù)詳解
Opencv中通過(guò)使用findContours函數(shù),簡(jiǎn)單幾個(gè)的步驟就可以檢測(cè)出物體的輪廓,很方便。本文將和大家一起探討一下findContours方法中各參數(shù)的含義及用法,感興趣的可以了解一下2022-08-08
C++實(shí)現(xiàn)LeetCode(99.復(fù)原二叉搜索樹(shù))
這篇文章主要介紹了C++實(shí)現(xiàn)LeetCode(99.復(fù)原二叉搜索樹(shù)),本篇文章通過(guò)簡(jiǎn)要的案例,講解了該項(xiàng)技術(shù)的了解與使用,以下就是詳細(xì)內(nèi)容,需要的朋友可以參考下2021-07-07
使用C++實(shí)現(xiàn)工資管理中的隨機(jī)教師信息生成功能
這篇文章主要介紹了使用C++實(shí)現(xiàn)工資管理中的隨機(jī)教師信息生成功能,想要做一個(gè)教師工資管理系統(tǒng),就必須得準(zhǔn)備好數(shù)據(jù),但是這些數(shù)據(jù)如果用手一行一行地敲,那么工作量是非常大的,因此,我就產(chǎn)生了用C語(yǔ)言實(shí)現(xiàn)直接生成大量的教師基本信息的想法,需要的朋友可以參考下2023-05-05

