Qt音視頻開發(fā)之實(shí)現(xiàn)ffmpeg視頻旋轉(zhuǎn)顯示
一、前言
用手機(jī)或者平板拍攝的視頻文件,很可能是旋轉(zhuǎn)的,比如分辨率是1280x720,確是垂直的,相當(dāng)于分辨率變成了720x1280,如果不做旋轉(zhuǎn)處理的話,那腦袋必須歪著看才行,這樣看起來太難受,所以一定要想辦法解析到視頻的旋轉(zhuǎn)角度,然后根據(jù)這個(gè)角度重新繪制。在窗體那邊也需要調(diào)整對應(yīng)的分辨率,一般都是寬度高度互換。其實(shí)早期的很多播放器比如vlc2版本的播放器也是不支持旋轉(zhuǎn)的,從vlc3開始內(nèi)置會(huì)自動(dòng)給旋轉(zhuǎn),估計(jì)這種場景越來越多,畢竟現(xiàn)在智能手機(jī)大行其道,用手機(jī)拍攝的視頻很多都是豎屏的。
在ffmpeg中旋轉(zhuǎn)frame幀數(shù)據(jù),有多種方式,方式一是直接通過運(yùn)算逐行取出數(shù)據(jù),重新組織旋轉(zhuǎn)后的視頻幀數(shù)據(jù);方式二通過濾鏡來實(shí)現(xiàn)。最開始還沒學(xué)會(huì)用ffmpeg的濾鏡的時(shí)候,用的就是方式一,通俗易懂,但是很傻,尤其是運(yùn)算很占CPU,畢竟for循環(huán)來個(gè)很多次挨個(gè)取數(shù)據(jù)又重新組織數(shù)據(jù)。自從學(xué)會(huì)用ffmpeg濾鏡以后,從濾鏡大全中找到了居然也支持旋轉(zhuǎn),而且任意角度旋轉(zhuǎn)都可以,甚至鏡像操作,這就非常強(qiáng)大了,馬上將這個(gè)架構(gòu)的旋轉(zhuǎn)部分全部換成了濾鏡旋轉(zhuǎn),連之前用于旋轉(zhuǎn)的中間過渡幀數(shù)據(jù)變量都不需要,代碼更精簡,功能更強(qiáng)大,拓展性更好,這其實(shí)就是一個(gè)不斷精進(jìn)迭代的過程,第一步解決從無到有的過程,后面才是持續(xù)不斷的完善。
二、效果圖
三、體驗(yàn)地址
國內(nèi)站點(diǎn):https://gitee.com/feiyangqingyun
國際站點(diǎn):https://github.com/feiyangqingyun
體驗(yàn)地址:https://pan.baidu.com/s/1YOVD8nkoOSYwX9KgSauLeQ 提取碼:kcgz 文件名:bin_video_demo/bin_linux_video。
四、相關(guān)代碼
int FFmpegFilter::initFilter(AbstractVideoThread *thread, AVStream *stream, AVCodecContext *avctx, FilterData &filterData) { int result = -1; if (!filterData.enable) { return result; } //貌似硬解碼不支持濾鏡 if (filterData.formatIn == AV_PIX_FMT_NV12) { return result; } //先釋放相關(guān)資源 freeFilter(filterData); //獲取濾鏡字符串 QString filters = getFilter(filterData); if (filters.isEmpty()) { return result; } //輸入幀序列的參數(shù)信息 QStringList listArg; listArg << QString("video_size=%1x%2").arg(avctx->width).arg(avctx->height); listArg << QString("pix_fmt=%1").arg(avctx->pix_fmt); listArg << QString("time_base=%1/%2").arg(stream->time_base.num).arg(stream->time_base.den); listArg << QString("pixel_aspect=%1/%2").arg(avctx->sample_aspect_ratio.num).arg(avctx->sample_aspect_ratio.den); QString args = listArg.join(":"); //輸入幀格式 enum AVPixelFormat pix_fmts[] = {filterData.formatIn, AV_PIX_FMT_NONE}; //獲取要使用的濾鏡 const AVFilter *filterSrc = avfilter_get_by_name("buffer"); const AVFilter *filterSink = avfilter_get_by_name("buffersink"); //創(chuàng)建輸入輸出濾鏡參數(shù) AVFilterInOut *inputs = avfilter_inout_alloc(); AVFilterInOut *outputs = avfilter_inout_alloc(); //創(chuàng)建濾鏡容器 filterData.filterGraph = avfilter_graph_alloc(); if (!inputs || !outputs || !filterData.filterGraph) { result = AVERROR(ENOMEM); goto end; } //創(chuàng)建輸入濾鏡 result = avfilter_graph_create_filter(&filterData.filterSrcCtx, filterSrc, "in", args.toUtf8().constData(), NULL, filterData.filterGraph); if (result < 0) { thread->debug("濾鏡處理", QString("創(chuàng)建輸入濾鏡失敗: %1").arg(FFmpegHelper::getError(result)), ""); goto end; } //創(chuàng)建輸出濾鏡 result = avfilter_graph_create_filter(&filterData.filterSinkCtx, filterSink, "out", NULL, NULL, filterData.filterGraph); if (result < 0) { thread->debug("濾鏡處理", QString("創(chuàng)建輸出濾鏡失敗: %1").arg(FFmpegHelper::getError(result)), ""); goto end; } //設(shè)置輸出濾鏡格式 result = av_opt_set_int_list(filterData.filterSinkCtx, "pix_fmts", pix_fmts, filterData.formatOut, AV_OPT_SEARCH_CHILDREN); if (result < 0) { thread->debug("濾鏡處理", QString("設(shè)置輸出濾鏡格式: %1").arg(FFmpegHelper::getError(result)), ""); goto end; } //設(shè)置濾鏡的參數(shù) outputs->name = av_strdup("in"); outputs->filter_ctx = filterData.filterSrcCtx; outputs->pad_idx = 0; outputs->next = NULL; inputs->name = av_strdup("out"); inputs->filter_ctx = filterData.filterSinkCtx; inputs->pad_idx = 0; inputs->next = NULL; //初始化濾鏡 result = avfilter_graph_parse_ptr(filterData.filterGraph, filters.toUtf8().constData(), &inputs, &outputs, NULL); if (result < 0) { thread->debug("濾鏡處理", QString("初始化濾鏡失敗: %1").arg(FFmpegHelper::getError(result)), ""); goto end; } //應(yīng)用濾鏡配置 result = avfilter_graph_config(filterData.filterGraph, NULL); if (result < 0) { thread->debug("濾鏡處理", QString("應(yīng)用濾鏡配置失敗: %1").arg(FFmpegHelper::getError(result)), ""); goto end; } end: //釋放對應(yīng)的輸入輸出 avfilter_inout_free(&inputs); avfilter_inout_free(&outputs); filterData.isOk = (result >= 0); return result; } void FFmpegFilter::freeFilter(FilterData &filterData) { if (filterData.isOk) { filterData.enable = true; filterData.init = true; filterData.isOk = false; avfilter_free(filterData.filterSrcCtx); avfilter_free(filterData.filterSinkCtx); avfilter_graph_free(&filterData.filterGraph); filterData.filterSrcCtx = NULL; filterData.filterSinkCtx = NULL; filterData.filterGraph = NULL; } }
五、功能特點(diǎn)
5.1 基礎(chǔ)功能
- 支持各種音頻視頻文件格式,比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
- 支持本地?cái)z像頭設(shè)備,可指定分辨率、幀率。
- 支持各種視頻流格式,比如rtp、rtsp、rtmp、http等。
- 本地音視頻文件和網(wǎng)絡(luò)音視頻文件,自動(dòng)識別文件長度、播放進(jìn)度、音量大小、靜音狀態(tài)等。
- 文件可以指定播放位置、調(diào)節(jié)音量大小、設(shè)置靜音狀態(tài)等。
- 支持倍速播放文件,可選0.5倍、1.0倍、2.5倍、5.0倍等速度,相當(dāng)于慢放和快放。
- 支持開始播放、停止播放、暫停播放、繼續(xù)播放。
- 支持抓拍截圖,可指定文件路徑,可選抓拍完成是否自動(dòng)顯示預(yù)覽。
- 支持錄像存儲,手動(dòng)開始錄像、停止錄像,部分內(nèi)核支持暫停錄像后繼續(xù)錄像,跳過不需要錄像的部分。
- 支持無感知切換循環(huán)播放、自動(dòng)重連等機(jī)制。
- 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態(tài)變化等信號。
- 多線程處理,一個(gè)解碼一個(gè)線程,不卡主界面。
5.2 特色功能
- 同時(shí)支持多種解碼內(nèi)核,包括qmedia內(nèi)核(Qt4/Qt5/Qt6)、ffmpeg內(nèi)核(ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5)、vlc內(nèi)核(vlc2/vlc3)、mpv內(nèi)核(mpv1/mp2)、??祍dk、easyplayer內(nèi)核等。
- 非常完善的多重基類設(shè)計(jì),新增一種解碼內(nèi)核只需要實(shí)現(xiàn)極少的代碼量,就可以應(yīng)用整套機(jī)制。
- 同時(shí)支持多種畫面顯示策略,自動(dòng)調(diào)整(原始分辨率小于顯示控件尺寸則按照原始分辨率大小顯示,否則等比例縮放)、等比例縮放(永遠(yuǎn)等比例縮放)、拉伸填充(永遠(yuǎn)拉伸填充)。所有內(nèi)核和所有視頻顯示模式下都支持三種畫面顯示策略。
- 同時(shí)支持多種視頻顯示模式,句柄模式(傳入控件句柄交給對方繪制控制)、繪制模式(回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成QImage用QPainter繪制)、GPU模式(回調(diào)拿到數(shù)據(jù)后轉(zhuǎn)成yuv用QOpenglWidget繪制)。
- 支持多種硬件加速類型,ffmpeg可選dxva2、d3d11va等,mpv可選auto、dxva2、d3d11va,vlc可選any、dxva2、d3d11va。不同的系統(tǒng)環(huán)境有不同的類型選擇,比如linux系統(tǒng)有vaapi、vdpau,macos系統(tǒng)有videotoolbox。
- 解碼線程和顯示窗體分離,可指定任意解碼內(nèi)核掛載到任意顯示窗體,動(dòng)態(tài)切換。
- 支持共享解碼線程,默認(rèn)開啟并且自動(dòng)處理,當(dāng)識別到相同的視頻地址,共享一個(gè)解碼線程,在網(wǎng)絡(luò)視頻環(huán)境中可以大大節(jié)約網(wǎng)絡(luò)流量以及對方設(shè)備的推流壓力。國內(nèi)頂尖視頻廠商均采用此策略。這樣只要拉一路視頻流就可以共享到幾十個(gè)幾百個(gè)通道展示。
- 自動(dòng)識別視頻旋轉(zhuǎn)角度并繪制,比如手機(jī)上拍攝的視頻一般是旋轉(zhuǎn)了90度的,播放的時(shí)候要自動(dòng)旋轉(zhuǎn)處理,不然默認(rèn)是倒著的。
- 自動(dòng)識別視頻流播放過程中分辨率的變化,在視頻控件上自動(dòng)調(diào)整尺寸。比如攝像機(jī)可以在使用過程中動(dòng)態(tài)配置分辨率,當(dāng)分辨率改動(dòng)后對應(yīng)視頻控件也要做出同步反應(yīng)。
- 音視頻文件無感知自動(dòng)切換循環(huán)播放,不會(huì)出現(xiàn)切換期間黑屏等肉眼可見的切換痕跡。
- 視頻控件同時(shí)支持任意解碼內(nèi)核、任意畫面顯示策略、任意視頻顯示模式。
- 視頻控件懸浮條同時(shí)支持句柄、繪制、GPU三種模式,非絕對坐標(biāo)移來移去。
- 本地?cái)z像頭設(shè)備支持指定設(shè)備名稱、分辨率、幀率進(jìn)行播放。
- 錄像文件同時(shí)支持打開的視頻文件、本地?cái)z像頭、網(wǎng)絡(luò)視頻流等。
- 瞬間響應(yīng)打開和關(guān)閉,無論是打開不存在的視頻或者網(wǎng)絡(luò)流,探測設(shè)備是否存在,讀取中的超時(shí)等待,收到關(guān)閉指令立即中斷之前的操作并響應(yīng)。
- 支持打開各種圖片文件,支持本地音視頻文件拖曳播放。
- 視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關(guān)閉視頻等功能。
- 音頻組件支持聲音波形值數(shù)據(jù)解析,可以根據(jù)該值繪制波形曲線和柱狀聲音條,默認(rèn)提供了聲音振幅信號。
- 各組件中極其詳細(xì)的打印信息提示,尤其是報(bào)錯(cuò)信息提示,封裝的統(tǒng)一打印格式。針對現(xiàn)場復(fù)雜的設(shè)備環(huán)境測試極其方便有用,相當(dāng)于精確定位到具體哪個(gè)通道哪個(gè)步驟出錯(cuò)。
- 代碼框架和結(jié)構(gòu)優(yōu)化到最優(yōu),性能強(qiáng)悍,持續(xù)迭代更新升級。
- 源碼支持Qt4、Qt5、Qt6,兼容所有版本。
5.3 視頻控件
- 可動(dòng)態(tài)添加任意多個(gè)osd標(biāo)簽信息,標(biāo)簽信息包括名字、是否可見、字號大小、文本文字、文本顏色、標(biāo)簽圖片、標(biāo)簽坐標(biāo)、標(biāo)簽格式(文本、日期、時(shí)間、日期時(shí)間、圖片)、標(biāo)簽位置(左上角、左下角、右上角、右下角、居中、自定義坐標(biāo))。
- 可動(dòng)態(tài)添加任意多個(gè)圖形信息,這個(gè)非常有用,比如人工智能算法解析后的圖形區(qū)域信息直接發(fā)給視頻控件即可。圖形信息支持任意形狀,直接繪制在原始圖片上,采用絕對坐標(biāo)。
- 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區(qū)域、路徑集合、點(diǎn)坐標(biāo)集合等。
- 每個(gè)圖形信息都可指定三種區(qū)域中的一種或者多種,指定了的都會(huì)繪制。
- 內(nèi)置懸浮條控件,懸浮條位置支持頂部、底部、左側(cè)、右側(cè)。
- 懸浮條控件參數(shù)包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標(biāo)代碼集合、按鈕名稱標(biāo)識集合、按鈕提示信息集合。
- 懸浮條控件一排工具按鈕可自定義,通過結(jié)構(gòu)體參數(shù)設(shè)置,圖標(biāo)可選圖形字體還是自定義圖片。
- 懸浮條按鈕內(nèi)部實(shí)現(xiàn)了錄像切換、抓拍截圖、靜音切換、關(guān)閉視頻等功能,也可以自行在源碼中增加自己對應(yīng)的功能。
- 懸浮條按鈕對應(yīng)實(shí)現(xiàn)了功能的按鈕,有對應(yīng)圖標(biāo)切換處理,比如錄像按鈕按下后會(huì)切換到正在錄像中的圖標(biāo),聲音按鈕切換后變成靜音圖標(biāo),再次切換還原。
- 懸浮條按鈕單擊后都用名稱唯一標(biāo)識作為信號發(fā)出,可以自行關(guān)聯(lián)響應(yīng)處理。
- 懸浮條空白區(qū)域可以顯示提示信息,默認(rèn)顯示當(dāng)前視頻分辨率大小,可以增加幀率、碼流大小等信息。
- 視頻控件參數(shù)包括邊框大小、邊框顏色、焦點(diǎn)顏色、背景顏色(默認(rèn)透明)、文字顏色(默認(rèn)全局文字顏色)、填充顏色(視頻外的空白處填充黑色)、背景文字、背景圖片(如果設(shè)置了圖片優(yōu)先取圖片)、是否拷貝圖片、縮放顯示模式(自動(dòng)調(diào)整、等比例縮放、拉伸填充)、視頻顯示模式(句柄、繪制、GPU)、啟用懸浮條、懸浮條尺寸(橫向?yàn)楦叨?、縱向?yàn)閷挾龋?、懸浮條位置(頂部、底部、左側(cè)、右側(cè))。
以上就是Qt音視頻開發(fā)之實(shí)現(xiàn)ffmpeg視頻旋轉(zhuǎn)顯示的詳細(xì)內(nèi)容,更多關(guān)于Qt ffmpeg視頻旋轉(zhuǎn)顯示的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
linux內(nèi)核select/poll,epoll實(shí)現(xiàn)與區(qū)別
這篇文章主要介紹了linux內(nèi)核select/poll,epoll實(shí)現(xiàn)與區(qū)別,需要的朋友可以參考下2016-11-11基于Qt+OpenCV實(shí)現(xiàn)照片換底色處理
在圖像處理領(lǐng)域,OpenCV是一款強(qiáng)大而廣泛應(yīng)用的開源庫,能夠提供豐富的圖像處理和計(jì)算機(jī)視覺功能,本文將介紹如何利用Qt 編輯器調(diào)用OpenCV庫對照片進(jìn)行換底色處理,實(shí)現(xiàn)更加獨(dú)特和吸引人的效果2023-11-11VC實(shí)現(xiàn)圖片拖拽及動(dòng)畫的實(shí)例
這篇文章介紹了VC實(shí)現(xiàn)圖片拖拽及動(dòng)畫的實(shí)例,有需要的朋友可以參考一下2013-08-08