当前位置: 代码迷 >> 综合 >> FFMPEG播放视频及各个字段结构体介绍
  详细解决方案

FFMPEG播放视频及各个字段结构体介绍

热度:29   发布时间:2024-02-23 05:51:06.0

**参考雷神的FFMpeg相关资料,针对FFmpeg播放视频的学习进行记录**

*FFMpeg进行解码,测试文件.mp4,将数据解码为yuv并使用SDL2进行播放。

SDL2在win10上的编译,不多阐述,网上一大堆,编译需要DirectX,不然会提示头文件错误。*`

测试文件为MP4文件。

## FFMpeg解码视频帧的流程如下:

    1.初始化,注册相关组件,申请空间。

    2.打开一个输入流,打开输入视频文件       

    3.获取视频文件信息

    4.找到数据流中的视频流

    5.查找视频流的编码方式,找到对应的解码方式。

    6.计算视频的宽高,计算返回一个结构体struct SwsContext。

    7.解码数据,使用sws_scale函数进行画面的转换和缩放。    

        解码后的数据为什么要经过sws_scale()函数处理?

            解码后YUV格式的视频像素数据保存在AVFrame的data[0]、data[1]、data[2]中。

            但是这些像素值并不是连续存储的,每行有效像素之后存储了一些无效像素 。 

            以亮度 Y 数据为例,data[0] 中一共包含了linesize[0]*height个数据。

            但是出于优化等方面的考虑,linesize[0]实际上并不等于宽度width,而是一个比宽度大一些的值。

            因此需要使用sws_scale()进行转换。转换后去除了无效数据,width和linesize[0]取值相等

    8.释放内存。

    大致流程如上所述。

## 再来说说关于SDL2播放视频的流程:

    1.初始化SDL

    2.创建SDL窗口SDL_CreateWindowFrom,参数传入窗口句柄

    3.创建SDL渲染器、纹理。

    4.创建SDL线程事件触发器

    5.拿到解码后的视频数据,渲染播放。

    6.释放内存。

    大致流程如上所述。

***注:如果要使用C++11 std特性,则需要删除FFMpeg的头文件中的 stdint.h文件,是直接删除。不然编译会报错。***

    ## FFmpeg一共包含8个库:
    avcodec: 编解码(最重要的库)。
    avformat:封装格式处理。
    avfilter:滤镜特效处理。
    avdevice:各种设备的输入输出。
    avutil:  工具库(大部分库都需要这个库的支持)。
    postproc:后加工。
    swresample:音频采样数据格式转换。
    swscale:    视频像素数据格式转换
## FFMPEG数据结构生命周期:    
    1.AVCodec
        视频(音频)编解码器。
        编码对象,通常通过 avcodec_find_decoder 函数,传入编码ID获得,可以直接抛弃,不用关心泄露。
    2.AVFormatContext
         封装格式上下文结构体,也是统领全局的结构体,保存了视频文件封装格式相关信息。
        最重要的对象之一,用于维护一个输入流或输出流,通常通过 avformat_alloc_output_context2 函数打开,由 avformat_close_input 函数释放。对于文件对象,生命周期类似文件句柄;对于网络IO对象,生命周期类似C语言网络函数中的SOCKET句柄。
    3.AVStream
        视频文件中每个视频(音频)流对应一个该结构体。
        这个类的作用就是指定具体的流的类型,比如一个MP4文件有音视频数据,那么处理这个文件就由一个 AVFormatContext 对象来维护,可以通过这个对象访问两个 AVStream 对象,一个用于视频的处理(读或写),一个用于音频的处理(读或写)。
        在读流的情况下:使用 avformat_find_stream_info 找出所有流的信息同时打开所有流,生命周期此时将交于 AVFormatContext 对象托管,不用再关心泄露。
        在写流的情况下:使用 avformat_new_stream 创建新的流并关联至 AVFormatContext,生命周期此时将交于 AVFormatContext 对象托管,不用再关心泄露    
    4.AVCodecContext
        编码器上下文结构体,保存了视频(音频)编解码相关信息。
        用于将数据进行编解码,比如将yuv420p编码为h264数据,或者将aac数据解码为fltp格式数据,音视频编解码全靠这个类。
        它可以独立存在,也能与 AVStream 相关联;通常一个 AVStream 对象就有一个 AVCodecContext。当它与 AVStream 关联后,生命周期与 AVStream 一样,交给 AVFormatContext 对象管理。
        通常写流时通过制定参数,然后通过 avcodec_open2 打开编码;读流时在通过 avcodec_find_decoder 找到 AVCodec* 后,通过 avcodec_open2 打开编码。
        如果它没有与 AVStream 相关联,那么需要手动关闭,先 avcodec_close,再 avcodec_free_context。    
    5.AVInputFormat
        每种封装格式(例如FLV, MKV, MP4, AVI)对应一个该结构体。
        用于查找输入流的对象,在通过 avformat_open_input 使用后,生命周期将交于 AVFormatContext 对象托管,不用再关心泄露    
    6.AVDictionary
        通常用于打开前指定参数,使用 av_dict_set 函数设置;使用完毕后通过 av_dict_free 函数释放    
    7.AVPacket
        存储一帧压缩编码数据。
        一个这个结构代表一个数据包,用于存储编码后的数据,比如h264 raw数据或aac raw数据。这个数据结构由两部分组成,结构本身和数据部分。
        结构本身通过 av_packet_alloc 与 av_packet_free 分配及释放;数据部分通常通过 avcodec_receive_packet 或 av_read_frame 也就是编码后或者从流管道获取一帧数据,
        由于可能有多个 AVPacket 引用同一块数据,所以不能直接释放,需使用 av_packet_unref 结束引用这一块数据,如果没有结构再引用数据后,数据内存区域将自动释放。
    8.AVFrame
        存储一帧解码后像素(采样)数据。
        可以储存视频图像的rgb或yuv像素格式数据,也可以储存音频的s16或fltp采样格式数据,其中音频一帧的采样数与时长是不定的,
        一帧可能有几十毫秒时长的数据,也可能有半秒时长的数据。结构本身通过 av_frame_alloc 与 av_frame_free 分配及释放;
        数据部分通常通过 avcodec_receive_frame 或 av_frame_get_buffer 解码 AVPacket 或者自己分配。同ACPacket一样,由于可能有多个 AVFrame 引用同一块数据,
        所以不能直接释放,需使用 av_frame_unref 结束引用这一块数据,如果没有结构再引用数据后,数据内存区域将自动释放
    9.SwsContext        
        struct SwsContext结构体位于libswscale类库中,。
        该类库主要用于处理图片像素数据, 可以完成图片像素格式的转换, 图片的拉伸等工作。
    10.SwrContext   
        struct SwrContext(software resample) 主要用于音频重采样,比如采样率转换,声道转换
## FFMpeg关键数据结构体参数解释:
    AVFormatContext
        iformat:输入视频的AVInputFormat
        nb_streams :输入视频的AVStream 个数
        streams :输入视频的AVStream []数组
        duration :输入视频的时长(以微秒为单位)
        bit_rate :输入视频的码率
    AVInputFormat
        name:        封装格式名称
        long_name:    封装格式的长名称
        extensions:    封装格式的扩展名
        id:            封装格式ID
                        一些封装格式处理的接口函数
    AVStream
        id:序号
        codec:该流对应的AVCodecContext
        time_base:该流的时基
        r_frame_rate:该流的帧率
    
    AVCodecContext
        codec:编解码器的AVCodec
        width, height:图像的宽高(只针对视频)
        pix_fmt:像素格式(只针对视频)
        sample_rate:采样率(只针对音频)  
        channels:声道数(只针对音频)
        sample_fmt:采样格式(只针对音频)
    
    AVCodec
        name:编解码器名称
        long_name:编解码器长名称
        type:编解码器类型
        id:编解码器ID
        一些编解码的接口函数
    AVPacket
        pts:显示时间戳
        dts :解码时间戳
        data :压缩编码数据
        size :压缩编码数据大小
        stream_index :所属的AVStream
    
    AVFrame
        data:          解码后的图像像素数据(音频采样数据)。
        linesize:      对视频来说是图像中一行像素的大小;对音频来说是整个音频帧的大小。
        width, height:图像的宽高(只针对视频)。
        key_frame:      是否为关键帧(只针对视频) 。 ?
        pict_type:      帧类型(只针对视频) 。例如I,P,B
    SwsContext
        srcW         源图像的宽度
        srcH         源图像的高度
        srcFormat     源图像的图像格式. 如:
                                            AV_PIX_FMT_YUYV422,   ///< packed YUV 4:2:2, 16bpp, Y0 Cb Y1 Cr
                                            AV_PIX_FMT_RGB24,     ///< packed RGB 8:8:8, 24bpp, RGBRGB...
        dstW         目标图像的宽度
        dstH         目标图像的高度
        dstFormat    目标图像的图像格式(如上的srcFormat)
        flags        标志值, 用于指定rescaling操作的算法和选项
        param        格外的参数.

  相关解决方案