文档章节

FFmpeg的H.264解码器源代码简单分析

vijoz
 vijoz
发布于 2016/06/21 18:23
字数 2852
阅读 72
收藏 0

本文简单记录FFmpeg中libavcodec的H.264解码器(H.264 Decoder)的源代码。这个H.264解码器十分重要,可以说FFmpeg项目今天可以几乎“垄断”视音频编解码技术,很大一部分贡献就来自于这个H.264解码器。这个H.264解码器一方面功能强大,性能稳定;另一方面源代码也比较复杂,难以深入研究。本文打算梳理一下这个H.264解码器的源代码结构,以方便以后深入学习H.264使用。
PS:这部分代码挺复杂的,还有不少地方还比较模糊,还需要慢慢学习......

 

函数调用关系图

 

H.264解码器的函数调用关系图如下所示。

 

 

下面解释一下图中关键标记的含义。

  

作为接口的结构体

FFmpeg和H.264解码器之间作为接口的结构体有2个:

ff_h264_parser:用于解析H.264码流的AVCodecParser结构体。
ff_h264_decoder:用于解码H.264码流的AVCodec结构体。

 

函数背景色

函数在图中以方框的形式表现出来。不同的背景色标志了该函数不同的作用:

白色背景的函数:普通内部函数。
粉红色背景函数:解析函数(Parser)。这些函数用于解析SPS、PPS等信息。
紫色背景的函数:熵解码函数(Entropy Decoding)。这些函数读取码流数据并且进行CABAC或者CAVLC熵解码。
绿色背景的函数:解码函数(Decode)。这些函数通过帧内预测、帧间预测、DCT反变换等方法解码压缩数据。
黄色背景的函数:环路滤波函数(Loop Filter)。这些函数对解码后的数据进行滤波,去除方块效应。
蓝色背景函数:汇编函数(Assembly)。这些函数是做过汇编优化的函数。图中主要画出了这些函数的C语言版本,此外这些函数还包含MMX版本、SSE版本、NEON版本等。

 

箭头线

箭头线标志了函数的调用关系:

黑色箭头线:不加区别的调用关系。
粉红色的箭头线:解析函数(Parser)之间的调用关系。
紫色箭头线:熵解码函数(Entropy Decoding)之间的调用关系。
绿色箭头线:解码函数(Decode)之间的调用关系。
黄色箭头线:环路滤波函数(Loop Filter)之间的调用关系。

 

函数所在的文件

每个函数标识了它所在的文件路径。

 

下文简单记录几个关键的部分。

FFmpeg和H.264解码器之间作为接口的结构体

 

FFmpeg和H.264解码器之间作为接口的结构体有2个:ff_h264_parser和ff_h264_decoder。

ff_h264_parser
ff_h264_parser是用于解析H.264码流的AVCodecParser结构体。AVCodecParser中包含了几个重要的函数指针:

parser_init():初始化解析器。
parser_parse():解析。
parser_close():关闭解析器。

在ff_h264_parser结构体中,上述几个函数指针分别指向下面几个实现函数:

init():初始化H.264解析器。
h264_parse():解析H.264码流。
close():关闭H.264解析器。

ff_h264_decoder
ff_h264_decoder是用于解码H.264码流的AVCodec结构体。AVCodec中包含了几个重要的函数指针:

init():初始化解码器。
decode():解码。
close():关闭解码器。

在ff_h264_decoder结构体中,上述几个函数指针分别指向下面几个实现函数:

ff_h264_decode_init():初始化H.264解码器。
h264_decode_frame():解码H.264码流。
h264_decode_end():关闭H.264解码器。

 

普通内部函数

普通内部函数指的是H.264解码器中还没有进行分类的函数。下面举几个例子。
ff_h264_decoder中ff_h264_decode_init()调用的初始化函数:

ff_h264dsp_init():初始化DSP相关的函数。包含了IDCT、环路滤波函数等。
ff_h264qpel_init():初始化四分之一像素运动补偿相关的函数。
ff_h264_pred_init():初始化帧内预测相关的函数。
ff_h264_decode_extradata():解析AVCodecContext中的extradata。

ff_h264_decoder中h264_decode_frame()逐层调用的和解码Slice相关的函数:

decode_nal_units(),ff_h264_execute_decode_slices(),decode_slice()等。

ff_h264_decoder中h264_decode_end()调用的清理函数:

ff_h264_remove_all_refs():移除所有参考帧。
ff_h264_free_context():释放在初始化H.264解码器的时候分配的内存。
ff_h264_parser中h264_parse()逐层调用的和解析Slice相关的函数:
h264_find_frame_end():查找NALU的结尾。
parse_nal_units():解析一个NALU。

 

解析函数(Parser)

解析函数(Parser)用于解析H.264码流中的一些信息(例如SPS、PPS、Slice Header等)。在parse_nal_units()和decode_nal_units()中都调用这些解析函数完成了解析。下面举几个解析函数的例子。

ff_h264_decode_nal():解析NALU。这个函数是后几个解析函数的前提。
ff_h264_decode_slice_header():解析Slice Header。
ff_h264_decode_sei():解析SEI。
ff_h264_decode_seq_parameter_set():解析SPS。
ff_h264_decode_picture_parameter_set():解析PPS。

 

熵解码函数(Entropy Decoding)

熵解码函数(Entropy Decoding)读取码流数据并且进行CABAC或者CAVLC熵解码。CABAC解码函数是ff_h264_decode_mb_cabac(),CAVLC解码函数是ff_h264_decode_mb_cavlc()。熵解码函数中包含了很多的读取指数哥伦布编码数据的函数,例如get_ue_golomb_long(),get_ue_golomb(),get_se_golomb(),get_ue_golomb_31()等等。
在获取残差数据的时候需要进行CAVLC/CABAC解码。例如解码CAVLC的时候,会调用decode_residual()函数,而decode_residual()会调用get_vlc2()函数,get_vlc2()会调用OPEN_READER(),UPDATE_CACHE(),GET_VLC(),CLOSE_READER()几个函数读取CAVLC格式的数据。
此外,在获取运动矢量的时候,会调用pred_motion()以及类似的几个函数获取运动矢量相关的信息。
 

解码函数(Decode)

解码函数(Decode)通过帧内预测、帧间预测、DCT反变换等方法解码压缩数据。解码函数是ff_h264_hl_decode_mb()。其中跟宏块类型的不同,会调用几个不同的函数,最常见的就是调用hl_decode_mb_simple_8()。
hl_decode_mb_simple_8()的定义是无法在源代码中直接找到的,这是因为它实际代码的函数名称是使用宏的方式写的(以后再具体分析)。hl_decode_mb_simple_8()的源代码实际上就是FUNC(hl_decode_mb)()函数的源代码。
FUNC(hl_decode_mb)()根据宏块类型的不同作不同的处理:如果宏块类型是INTRA,就会调用hl_decode_mb_predict_luma()进行帧内预测;如果宏块类型不是INTRA,就会调用FUNC(hl_motion_422)()或者FUNC(hl_motion_420)()进行四分之一像素运动补偿。
随后FUNC(hl_decode_mb)()会调用hl_decode_mb_idct_luma()等几个函数对数据进行DCT反变换工作。
 

环路滤波函数(Loop Filter)

环路滤波函数(Loop Filter)对解码后的数据进行滤波,去除方块效应。环路滤波函数是loop_filter()。其中调用了ff_h264_filter_mb()和ff_h264_filter_mb_fast()。ff_h264_filter_mb_fast()中又调用了h264_filter_mb_fast_internal()。而h264_filter_mb_fast_internal()中又调用了下面几个函数进行滤波:

filter_mb_edgeh():亮度水平滤波
filter_mb_edgev():亮度垂直滤波
filter_mb_edgech():色度水平滤波

filter_mb_edgecv():色度垂直滤波

 

 

 

汇编函数(Assembly)

汇编函数(Assembly)是做过汇编优化的函数。为了提高效率,整个H.264解码器中(主要在解码部分和环路滤波部分)包含了大量的汇编函数。实际解码的过程中,FFmpeg会根据系统的特性调用相应的汇编函数(而不是C语言函数)以提高解码的效率。如果系统不支持汇编优化的话,FFmpeg才会调用C语言版本的函数。例如在帧内预测的时候,对于16x16亮度DC模式,有以下几个版本的函数:

C语言版本的pred16x16_dc_8_c()
NEON版本的ff_pred16x16_dc_neon()
MMXEXT版本的ff_pred16x16_dc_8_mmxext()
SSE2版本的ff_pred16x16_dc_8_sse2()



至此FFmpeg的H.264解码器的结构就大致梳理完毕了。

 

下面是C++源码:

h264dec.h:

[cpp] 
#pragma once 
#include "tdll.h" 
#include "avcodec.h" 
#include "postprocess.h" 
//#include "EMVideoCodec.h" 
 
class h264dec /*: public IH264Decoder*/ 

public: 
    virtual bool InitH264Deocder(int width,int height); 
    virtual bool H264Decode(unsigned char * inbuf, const int & inlen,unsigned char * outbuf,int & outlen); 
    virtual void StopH264Decoder(); 
    virtual void ReleaseConnection(); 
 
public: 
    h264dec(void); 
    virtual ~h264dec(void); 
private: 
    Tdll *dll; 
 
    bool LoadDllFun(); 
    void (*avcodec_init)(void); 
    void (*avcodec_register_all)(void); 
    AVCodecContext* (*avcodec_alloc_context)(void); 
    AVFrame* (*avcodec_alloc_frame)(void); 
    AVCodec *(*avcodec_find_decoder)(enum CodecID id); 
    int (*avcodec_decode_video)(AVCodecContext *avctx, AVFrame *picture,int *got_picture_ptr, 
                                uint8_t *buf, int buf_size); 
    int  (*avcodec_open)(AVCodecContext *avctx, AVCodec *codec); 
    int  (*avcodec_close)(AVCodecContext *avctx); 
    void (*av_free)(void *ptr);      
     
    bool InitPostproc(int w,int h); 
    void ClosePostproc(); 
    pp_context_t *(*pp_get_context)(int width, int height, int flags); 
    void (*pp_free_context)(pp_context_t *ppContext); 
    void (*pp_free_mode)(pp_mode_t *mode); 
    pp_mode_t *(*pp_get_mode_by_name_and_quality)(char *name, int quality); 
    void  (*pp_postprocess)(uint8_t * src[3], int srcStride[3], 
                 uint8_t * dst[3], int dstStride[3], 
                 int horizontalSize, int verticalSize, 
                 QP_STORE_T *QP_store,  int QP_stride, 
         pp_mode_t *mode, pp_context_t *ppContext, int pict_type); 
private: 
    AVCodec         *pdec; 
    AVCodecContext  *pdecContext; 
    AVFrame         *pdecFrame; 
    int             m_width; 
    int             m_height; 
 
    Tdll* prodll; 
    pp_context_t *pp_context; 
    pp_mode_t    *pp_mode; 
}; 

h264dec.cpp:
[cpp] view plaincopy
#include "StdAfx.h" 
#include ".\h264dec.h" 
 
h264dec::h264dec(void) 
:dll(NULL) 
,pdec(NULL) 
,pdecContext(NULL) 
,pdecFrame(NULL) 
,pp_context(NULL) 
,pp_mode(NULL) 
,prodll(NULL) 


 
h264dec::~h264dec(void) 


 
bool h264dec::LoadDllFun() 

    dll=new Tdll(L"libavcodec.dll"); 
    dll->loadFunction((void**)&avcodec_init,"avcodec_init"); 
    dll->loadFunction((void**)&avcodec_register_all,"avcodec_register_all"); 
    dll->loadFunction((void**)&avcodec_alloc_context,"avcodec_alloc_context"); 
    dll->loadFunction((void**)&avcodec_alloc_frame,"avcodec_alloc_frame"); 
    dll->loadFunction((void**)&avcodec_find_decoder,"avcodec_find_decoder"); 
    dll->loadFunction((void**)&avcodec_open,"avcodec_open");  
    dll->loadFunction((void**)&avcodec_decode_video,"avcodec_decode_video"); 
    dll->loadFunction((void**)&avcodec_close,"avcodec_close"); 
    dll->loadFunction((void**)&av_free,"av_free"); 
    if (!dll->ok) 
        return false; 
 
    prodll = new Tdll(L"postproc.dll"); 
    prodll->loadFunction((void**)&pp_get_context,"pp_get_context"); 
    prodll->loadFunction((void**)&pp_free_context,"pp_free_context"); 
    prodll->loadFunction((void**)&pp_free_mode,"pp_free_mode"); 
    prodll->loadFunction((void**)&pp_get_mode_by_name_and_quality,"pp_get_mode_by_name_and_quality"); 
    prodll->loadFunction((void**)&pp_postprocess,"pp_postprocess"); 
    if(!prodll->ok) 
        return false; 
 
    avcodec_init(); 
    avcodec_register_all(); 
    return true; 

 
bool h264dec::InitH264Deocder(int width,int height) 

    if(!LoadDllFun()) 
        return false; 
    if(!InitPostproc(width,height)) 
        return false; 
 
    m_width=width; 
    m_height=height; 
    pdec = avcodec_find_decoder(CODEC_ID_H264); 
    if (pdec == NULL )   
        return false; 
 
    pdecContext = avcodec_alloc_context(); 
    pdecFrame = avcodec_alloc_frame(); 
 
    pdecContext->width  = width; 
    pdecContext->height = height; 
    pdecContext->pix_fmt = PIX_FMT_YUV420P; 
    /* open it */ 
    if (avcodec_open(pdecContext, pdec) < 0)  
    { 
        return false; 
    } 
    return true; 

 
bool h264dec::InitPostproc(int w,int h) 

    int i_flags = 0; 
    i_flags |= PP_CPU_CAPS_MMX | PP_CPU_CAPS_MMX2 | PP_FORMAT_420; 
    pp_context = pp_get_context( w, h, i_flags ); 
    if(!pp_context) 
        return false; 
    pp_mode = pp_get_mode_by_name_and_quality( "default", 6 ); 
    if(!pp_mode) 
        return false; 
    return true; 

 
bool h264dec::H264Decode(unsigned char * inbuf, const int & inlen,unsigned char * outbuf,int & outlen) 

    int got_frame; 
    BYTE* showImage[3]; 
    int showheight[3],showLx[3]; 
 
    int len; 
    len=avcodec_decode_video(pdecContext, pdecFrame, &got_frame, inbuf, inlen); 
    if(len < 0) 
        return false; 
 
    if(got_frame) 
    { 
        showImage[0]=outbuf; 
        showImage[1]=showImage[0]+m_width*m_height; 
        showImage[2]=showImage[1]+m_width*m_height/4; 
        showLx[0]=m_width;showLx[1]=m_width>>1;showLx[2]=m_width>>1; 
        showheight[0]=m_height;showheight[1]=m_height>>1;showheight[2]=m_height>>1; 
        pp_postprocess(pdecFrame->data,pdecFrame->linesize,showImage,showLx,m_width,m_height,pdecFrame->qscale_table, 
            pdecFrame->qstride,pp_mode,pp_context,pdecFrame->pict_type); 
        //GetImage( pdecFrame->data, 
        //          showImage, 
        //          pdecFrame->linesize, 
        //          showLx, 
        //          showheight); 
        outlen=m_width*m_height*3/2; 
    } 
    else 
    { 
        outlen = 0; 
    } 
 
    return true; 

 
void h264dec::StopH264Decoder() 

    if (pdecContext != NULL)  
    {      
        avcodec_close(pdecContext); 
        av_free( pdecContext ); 
        pdecContext = NULL; 
        if(pdecFrame){ 
            av_free(pdecFrame); 
            pdecFrame = NULL; 
        } 
    } 
    if(dll){ 
        delete dll; 
        dll=0; 
    } 
 
    ClosePostproc(); 

 
void h264dec::ClosePostproc() 

    if(pp_mode){ 
        pp_free_mode( pp_mode ); 
        pp_mode=0; 
    } 
    if(pp_context){ 
        pp_free_context(pp_context); 
        pp_context=0; 
    } 
    if(prodll){ 
        delete prodll; 
        prodll=0; 
    } 

 
void h264dec::ReleaseConnection() 

    delete this; 

tdll.h:
[cpp] 
#ifndef _TDLL_ 
#define _TDLL_ 
 
class Tdll 

private: 
    HMODULE hdll; 
    void loadDll(const char *dllName); 
public: 
    bool ok; 
    Tdll(const TCHAR *dllName1) 
    { 
        hdll=LoadLibrary(dllName1); 
        if (!hdll) 
        { 
            hdll=NULL; 
        } 
        ok=(hdll!=NULL); 
    }; 
    ~Tdll() 
    { 
        if (hdll) 
            FreeLibrary(hdll); 
    } 
    void loadFunction(void **fnc,const char *name) 
    { 
        *fnc=GetProcAddress(hdll,name); 
        ok&=(*fnc!=NULL); 
    }; 
};   
 
#endif 

main.cpp:
[cpp]
#include "stdafx.h" 
#include "h264dec.h" 
#include "postprocess.h" 
 
#define INBUF_SIZE 100 * 1024; 
 
 
static int FindStartCode (unsigned char *Buf, int zeros_in_startcode) 

    int info; 
    int i; 
 
    info = 1; 
    for (i = 0; i < zeros_in_startcode; i++) 
    { 
        if(Buf[i] != 0) 
            info = 0; 
    } 
 
    if(Buf[i] != 1) 
        info = 0; 
    return info; 

 
static bool Check_StartCode(unsigned char *Buf, int pos) 

    int info3 = 0; 
 
    info3 = FindStartCode(&Buf[pos-4], 3); 
    return info3 == 1; 
 

 
static int getNextNal(FILE* inpf, unsigned char* Buf) 

    int pos = 0; 
    int StartCodeFound = 0; 
    int info2 = 0; 
    int info3 = 0; 
 
    int nCount = 0; 
    while(!feof(inpf) && ++nCount <= 4) 
    { 
        Buf[pos++]=fgetc(inpf); 
    } 
 
    if(!Check_StartCode(Buf, pos)) 
    { 
        return 0; 
    } 
 
 
    while(!feof(inpf) && (Buf[pos++]=fgetc(inpf))==0); 
 
    while (!StartCodeFound) 
    { 
        if (feof (inpf)) 
        { 
            //          return -1; 
            return pos-1; 
        } 
        Buf[pos++] = fgetc (inpf); 
 
        StartCodeFound = Check_StartCode(Buf, pos); 
    } 
 
    fseek (inpf, -4, SEEK_CUR); 
    return pos - 4; 

 
int main(int argc, char* argv[]) 

    if (argc != 5) 
    { 
        printf("please input: PP_Demo.exe filename1[input] Width Height filename2[output]\n"); 
    } 
     
    //params set 
    unsigned short usWidth = atoi(argv[2]); 
    unsigned short usHeight = atoi(argv[3]); 
     
    //create dec&pp 
    h264dec *pdec = new h264dec; 
    if(!pdec->InitH264Deocder(usWidth, usHeight)) 
    { 
        return false; 
    } 
 
 
 
    unsigned char *p_In_Frame = new unsigned char[usWidth * usHeight * 3/2]; 
    unsigned char *p_Out_Frame = new unsigned char[usWidth * usHeight * 3/2]; 
    FILE* ifp = fopen(argv[1],"rb"); 
    FILE* ofp = fopen(argv[4],"wb"); 
 
    bool b_continue = true; 
    int nReadUnit = usWidth * usHeight * 3/2; 
    while(!feof(ifp)) 
    { 
        int nCount = getNextNal(ifp, p_In_Frame); 
 
        if(nCount == 0) 
        { 
            continue; 
        } 
         
        unsigned char *ptr = p_In_Frame; 
        int n_Outlen = 0; 
        pdec->H264Decode(ptr, nCount, p_Out_Frame, n_Outlen); 
         
        if(n_Outlen > 0) 
        { 
            fwrite(p_Out_Frame, 1, n_Outlen, ofp); 
        } 
    } 
 
 
    //realse 
    delete []p_In_Frame; 
    delete []p_Out_Frame; 
    pdec->StopH264Decoder(); 
    pdec->ReleaseConnection(); 
    fclose(ifp); 
    fclose(ofp); 
 
    return 0; 

© 著作权归作者所有

共有 人打赏支持
vijoz
粉丝 0
博文 6
码字总数 4445
作品 0
海淀
高级程序员
私信 提问
x264源代码简单分析:熵编码(Entropy Encoding)部分

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/leixiaohua1020/article/details/45944811 ===================================================== H.264源代......

雷霄骅
2015/05/24
0
0
最简单的基于FFMPEG+SDL的视频播放器:拆分-解码器和播放器

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/leixiaohua1020/article/details/46889389 ===================================================== 最简单的...

雷霄骅
2015/07/16
0
0
最简单的基于FFMPEG的Helloworld程序

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/leixiaohua1020/article/details/46889849 ===================================================== 最简单的...

雷霄骅
2015/07/17
0
0
最简单的基于FFmpeg的移动端例子:IOS 视频转码器

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/leixiaohua1020/article/details/47072673 ===================================================== 最简单的...

雷霄骅
2015/08/01
0
0
FFmpeg 4.0.0 正式发布,多媒体处理工具合集

FFmpeg 4.0.0 已正式发布,代号 “Wu” ,更新亮点包括: MagicYUV 编解码器(实验性) Bitstream 过滤器,用于在 H.264,HEVC 和 MPEG-2 流中编辑元数据 TiVo ty/ty demuxer 原生 aptX 和 ...

王练
2018/04/21
3.5K
8

没有更多内容

加载失败,请刷新页面

加载更多

Java 帝国对 Python 的渗透能成功吗?哈哈

引子 Java 帝国已经成立20多年,经过历代国王的励精图治,可以说是地大物博,码农众多。 可是国王依然不满足,整天想着如何继续开拓疆土, 这一天晚上他又把几个重臣招来商议了。 IO大臣说:...

边鹏_尛爺鑫
47分钟前
4
0
分布式事务解决方案框架(LCN)

什么是XA接口 XA是一个分布式事务协议,由Tuxedo提出。XA中大致分为两部分:事务管理器和本地资源管理器。其中本地资源管理器往往由数据库实现,比如Oracle、DB2这些商业数据库都实现了XA接口...

群星纪元
今天
6
0
linux 操作系统 常用命令和软件安装

1.系统时间更新 ntpdate time.windows.com 2.传送文件 rsync -av /home/data/a.dat -e ssh root@192.168.0.100:/home 3.传送文件夹 scp -r /home/data root@192.168.0.100:/home 4.JDK安装 ......

WJtiny
今天
2
0
pg_lightool基于basebackup的单表恢复和块恢复

开源软件pg_lightool,实现了基于wal日志的块恢复。详情参见博客:https://my.oschina.net/lcc1990/blog/1931485。由于wal日志中FPW的不确定性,它不能作为一个数据库恢复的解决方案。目前对...

movead
今天
2
0
对比剖析Swarm Kubernetes Marathon编排引擎

Docker Native Orchestration 基本结构 Docker Engine 1.12 集成了原生的编排引擎,用以替换了之前独立的Docker Swarm项目。Docker原生集群(Swarm)同时包括了(Docker Engine \/ Daemons)...

Linux就该这么学
今天
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部