从零开始学习音视频编程技术(十) FFMPEG Qt视频播放器之播放控制
时间:2016年09月14日 人气:...

    到这里,我们的视频播放器已经可以同步播放音视频了。现在 是时候给他加上一些控制的功能了。如播放、暂停、跳转等。


一、暂停功能实现

    我们是在一个单独的线程中循环读取视频,所以只需要在需要暂停的时候,让读取的操作等下来即可。

做法如下:

1.首先引入一个变量用来记录是否处于暂停状态:

bool isPause;  //暂停标志


2.读取线程根据此变量来判断是否读取。这样就实现了暂停功能了。 

    while (1)    
    {
        ...

        if (is->isPause == true)
        {
            SDL_Delay(10);
            continue;
        }

        if (av_read_frame(pFormatCtx, packet) < 0)
        {
            break; //这里认为视频读取完了
        }
        
        ...
    }


但是,我们总共是有3个线程在运行,分别是:

1)读取线程

2)解码视频线程

3)解码音频线程


因此,读取的线程虽然停下了,但由于队列中还有数据,解码视频和解码音频的线程可以继续获取到数据并显示和播放,这就导致了暂停操作有一定的延时。


解决方法:

在解码视频和解码音频的线程中也一并判断上面设的pause变量:


解码视频线程:

while(1)
{

    if (is->isPause == true) //判断暂停
    {
        SDL_Delay(10);
        continue;
    }

    if (packet_queue_get(&is->videoq, packet, 1) <= 0) break;//队列里面没有数据了  读取完毕了

    ......
}


解码音频线程:

需要注意的是,音频线程有里面有2个循环的地方,因此需要在这2个地方都做判断:

for (;;) {
    while (is->audio_pkt_size > 0) 
    {

        if (is->isPause == true) //判断暂停
        {
            SDL_Delay(10);
            continue;
        }

        ....

        // We have data, return it and come back for more later
        return resampled_data_size;
    }

    if (is->isPause == true) //判断暂停
    {
        SDL_Delay(10);
        continue;
    }

    if (pkt->data)
        av_free_packet(pkt);
    memset(pkt, 0, sizeof(*pkt));
    
    ....
        
}

  

现在我们为VideoPlayer类加上2个函数,分别用来控制播放和暂停:

    bool play();    
    bool pause();


这两个函数中其实就是修改了下pause变量的值:

bool VideoPlayer::play()
{
    mVideoState.isPause = false;

    if (mPlayerState != Pause)
    {
        return false;
    }

    mPlayerState = Playing;

    return true;
}

bool VideoPlayer::pause()
{
    mVideoState.isPause = true;

    if (mPlayerState != Playing)
    {
        return false;
    }

    mPlayerState = Pause;

    return true;
}



或许有人会问:为什么这里的pause被3个线程访问,都不加互斥锁呢?

因为这里仅仅是一个变量,很少出现其中一个线程写到一半,另一个线程就来访问的情况。


最主要的是,即使出现这种情况也没关系,举个例子:

假如,现在视频处于播放状态,pause是false,这时候主线程调用了暂停函数,将pause改成true,(由于一条赋值语句在汇编上是3条语句,因此中途CPU调度到另一个线程是很正常的),此时还没改完,就跑到了解码视频的线程,又刚好解码视频的线程处于判断这个变量的语句上,这时本该是暂停了,但由于主线程赋值语句没执行完,导致了pause还是false,于是解码线程就多解码了一张图片并显示了出来。


可以看出,这样没加互斥锁,仅仅导致了多显示一张图片,视频一秒钟都是显示十几张以上,我不相信有人可以感觉的出多显示这一张图片会有什么差别。

因此这个暂停操作在人眼看来还是“实时的”。


而且上面分析的还是非常极端的情况,就是2个线程刚好都处在访问这个变量的情况。


所以喽,这里没必要加互斥锁,我们的原则是能省事的地方尽量省事。



二、跳转功能实现

    和暂停一样,我们使用一个变量记录下是否需要跳转,在读取视频文件的线程中判断此变量,当需要跳转的时候就执行跳转操作。    

    跳转操作可以直接使用FFMPEG的跳转函数av_seek_frame来实现,函数原型如下:

int av_seek_frame(AVFormatContext *s, int stream_index, int64_t timestamp,int flags);

    

这里需要注意两点:

  1. 我们有2个队列,音频队列和视频队列,这2个队列里面的数据是可以播放几秒钟的,因此每次执行跳转的时候需要同时将队列清空,所以先添加一个清空队列的函数:

static void packet_queue_flush(PacketQueue *q){
    AVPacketList *pkt, *pkt1;

    SDL_LockMutex(q->mutex);
    for(pkt = q->first_pkt; pkt != NULL; pkt = pkt1)
    {
        pkt1 = pkt->next;
        av_free_packet(&pkt->pkt);
        av_freep(&pkt);
    }
    q->last_pkt = NULL;
    q->first_pkt = NULL;
    q->nb_packets = 0;
    q->size = 0;
    SDL_UnlockMutex(q->mutex);
}


然后每次调用seek的时候便执行一次清空操作:

if (av_seek_frame(is->ic, stream_index, 0,is->seek_flags) < 0) {    fprintf(stderr, "%s: error while seeking
",is->ic->filename);
} else {
    if (is->audioStream >= 0) {
        packet_queue_flush(&is->audioq);
    }
    if (is->videoStream >= 0) {
        packet_queue_flush(&is->videoq);
    }
}


这样执行之后,新的问题又来了。

每次跳转的时候都会出现花屏的现象。

是因为解码器中保留了上一帧视频的信息,而现在视频发生了跳转,从而使得解码器中保留的信息会对解码当前帧产生影响。

因此,清空队列的时候我们也要同时清空解码器的数据(包括音频解码器和视频解码器),

可以往队列中放入一个特殊的packet,当解码线程取到这个packet的时候,就执行清除解码器的数据:


if (av_seek_frame(is->ic, stream_index, seek_target, AVSEEK_FLAG_BACKWARD) < 0) {    fprintf(stderr, "%s: error while seeking
",is->ic->filename);
} else {
    if (is->audioStream >= 0) {
        AVPacket *packet = (AVPacket *) malloc(sizeof(AVPacket)); //分配一个packet 
        av_new_packet(packet, 10);
        strcpy((char*)packet->data,FLUSH_DATA);
        packet_queue_flush(&is->audioq); //清除队列
        packet_queue_put(&is->audioq, packet); //往队列中存入用来清除的包
    }
    if (is->videoStream >= 0) {
        AVPacket *packet = (AVPacket *) malloc(sizeof(AVPacket)); //分配一个packet 
        av_new_packet(packet, 10);
        strcpy((char*)packet->data,FLUSH_DATA);
        packet_queue_flush(&is->videoq); //清除队列
        packet_queue_put(&is->videoq, packet); //往队列中存入用来清除的包
        is->video_clock = 0;
    }
}


然后在解码线程中如下操作(以解码图像线程为例,音频线程也是类似):

while(1){

    if (is->isPause == true) //判断暂停
    {
        SDL_Delay(10);
        continue;
    }

    if (packet_queue_get(&is->videoq, packet, 1) <= 0)
    {
        break;//队列里面没有数据了  读取完毕了
    }

    //收到这个数据 说明刚刚执行过跳转 现在需要把解码器的数据 清除一下        
    if(strcmp((char*)packet->data,FLUSH_DATA) == 0)
    {
        avcodec_flush_buffers(is->video_st->codec);
        av_free_packet(packet);
        continue;
    }
    
    ....
}


好了,现在我们给VideoPlayer类也封装一个seek函数吧:

void seek(int64_t pos); //单位是微秒

和暂停函数类似,seek函数也只是设置一下变量而已:

void VideoPlayer::seek(int64_t pos){
    if(!mVideoState.seek_req)
    {
        mVideoState.seek_pos = pos;
        mVideoState.seek_req = 1;
    }
}



到这里跳转还有一个问题没有解决:

第一篇文章我们就说过视频是每隔几秒才出现一个关键帧,而av_seek_frame只能跳转到关键帧,因此这里就会存在误差。举个例子:

假如 我们的视频 只有在10秒和15秒上才有关键帧,这时候我们希望跳转到13秒,调用

av_seek_frame后视频只能跳到10秒或者15秒,因为解码器解码视频必须要有关键帧的信息才能解码,因此av_seek_frame这样设定是合理的,所以我们seek之后还需要执行一些操作来处理这个情况。


这里先说下av_seek_frame中第三个参数flags的值:

官方定义:

#define AVSEEK_FLAG_BACKWARD 1 ///< seek backward
#define AVSEEK_FLAG_BYTE     2 ///< seeking based on position in bytes
#define AVSEEK_FLAG_ANY      4 ///< seek to any frame, even non-keyframes
#define AVSEEK_FLAG_FRAME    8 ///< seeking based on frame number

试验结果:

AVSEEK_FLAG_BACKWARD:若你设置seek时间为1秒,但是只有0秒和2秒上才有I帧,则时间从0秒开始。

AVSEEK_FLAG_ANY:若你设置seek时间为1秒,但是只有0秒和2秒上才有I帧,则时间从2秒开始。

AVSEEK_FLAG_FRAME:若你设置seek时间为1秒,但是只有0秒和2秒上才有I帧,则时间从2秒开始。


注:I帧就是关键帧


于是我们在跳转的时候把第三个参数设置成:AVSEEK_FLAG_BACKWARD

来达到往前面跳转的目的,继续前面的例子,我们的目的是跳转13秒,现在实际是跳到了10秒的位置。此时读取函数正常读取将10~13秒的数据都放入了视频线程。所以视频就从10秒的位置开始播放了,显然这就和我们预期跳转的位置差了3秒。


虽然我们的播放器要求没那么精确,但还是希望完善它。


方法也很简单,首先解码器解码需要关键帧的信息,因此10到13秒的数据还不能丢弃,还是正常放入队列,让解码器解码之后不做显示而是直接丢弃。

同样的方法,再次加一个变量用来记录是否跳转:

(为了不影响主的跳转功能,这里把跳转标志分开)

    /// 跳转相关的变量    int             seek_req; //跳转标志
    int64_t         seek_pos; //跳转的位置 -- 微秒
    int             seek_flag_audio;//跳转标志 -- 用于音频线程中
    int             seek_flag_video;//跳转标志 -- 用于视频线程中
    double          seek_time; //跳转的时间(秒)  值和seek_pos是一样的


然后在读取线程中,跳转完毕后,将这些标志设置上:

    if (av_seek_frame(is->ic, stream_index, seek_target, AVSEEK_FLAG_BACKWARD) < 0)
    {        
        fprintf(stderr, "%s: error while seeking
",is->ic->filename);
    } 
    else 
    {
       ...
    }
    is->seek_req = 0;
    is->seek_time = is->seek_pos / 1000000.0;
    is->seek_flag_audio = 1;
    is->seek_flag_video = 1;
}


最后在解码线程中,解码完获取到pts后,加入如下语句判断:

(以视频为例,音频也是类似)

        if (is->seek_flag_video)        {
            //发生了跳转 则跳过关键帧到目的时间的这几帧
           if (video_pts < is->seek_time)
           {
               av_free_packet(packet);
               continue;
           }
           else
           {
               is->seek_flag_video = 0;
           }
        }



这样加上之后,跳转功能也完美了。


三、停止功能实现

    我想到这里,大家也应该知道停止功能怎么实现了吧。和暂停功能一样,停止功能也加个变量来判断就好了,怎么做就不多说了,全是逻辑问题,发点时间就可以写出来了。


需要注意的一点是:

    停止播放的时候,需要将SDL的音频设备也关闭了。

因为我们下一次打开的视频文件,其采样率和声道与这次不一定相同,因此每次打开新视频的时候,都需要重新打开音频设备。

 所以停止函数如下:

bool VideoPlayer::stop(bool isWait)
{
    if (mPlayerState == Stop)
    {
        return false;
    }

    mVideoState.quit = 1;

    if (isWait)
    {
        while(!mVideoState.readThreadFinished || !mVideoState.videoThreadFinished)
        {
            SDL_Delay(10);
        }
    }

    ///关闭SDL音频播放设备
    if (mVideoState.audioID != 0)
    {
        SDL_LockAudio();
        SDL_PauseAudioDevice(mVideoState.audioID,1);
        SDL_UnlockAudio();
    }

    mPlayerState = Stop;
    emit sig_StateChanged(Stop);

    return true;
}


需要注意的是:SDL_PauseAudioDevice会一直阻塞,直到其回调函数返回。因此,关闭SDL音频的时候需要确保回调函数(既这里的audio_callback)可以正常返回。

不巧的是,我们获取队列的函数中有这么一段:

if (pkt1) 
{    
    q->first_pkt = pkt1->next;
    if (!q->first_pkt)
        q->last_pkt = NULL;
    q->nb_packets--;
    q->size -= pkt1->pkt.size;
    *pkt = pkt1->pkt;
    av_free(pkt1);
    ret = 1;
    break;
} else if (!block) {
    ret = 0;
    break;
} else {
    SDL_CondWait(q->cond, q->mutex); //就是这句了
}


可以看出,当队列是空的时候,获取数据的函数就停在这里,直到有数据放入队列。

而此函数又恰恰是在audio_callback中调用的,如果刚好这时候调用了SDL_PauseAudioDevice函数,2个线程就这样进入死锁了,基本是没救了。

表现出来的就是,停止的时候,程序就卡死了。

当然并不是每次停止都会卡死,因为只有刚好上面这种情况的时候才会发生死锁。

这个问题我调了好久才找到原因,


解决方法却很简单,只要在获取队列数据的地方,改成获取不到数据的时候返回,而不是阻塞。这样就OK了:

        if (packet_queue_get(&is->audioq, pkt, 0) <= 0)        
        {
            return -1;
        }

详细的,直接看完整的代码吧。


四、添加控制界面

首先在界面上加入几个控制用的按钮:



之后绑定这些按钮到槽函数:

    connect(ui->pushButton_open,SIGNAL(clicked()),this,SLOT(slotBtnClick()));    
    connect(ui->pushButton_play,SIGNAL(clicked()),this,SLOT(slotBtnClick()));
    connect(ui->pushButton_pause,SIGNAL(clicked()),this,SLOT(slotBtnClick()));
    connect(ui->pushButton_stop,SIGNAL(clicked()),this,SLOT(slotBtnClick()));

    connect(ui->horizontalSlider,SIGNAL(sliderMoved(int)),this,SLOT(slotSliderMoved(int)));


槽函数如下:

void MainWindow::slotBtnClick()
{
    if (QObject::sender() == ui->pushButton_play)
    {
        mPlayer->play();
    }
    else if (QObject::sender() == ui->pushButton_pause)
    {
        mPlayer->pause();
    }
    else if (QObject::sender() == ui->pushButton_stop)
    {
        mPlayer->stop(true);
    }
    else if (QObject::sender() == ui->pushButton_open)
    {
        QString s = QFileDialog::getOpenFileName(
                   this, "选择要播放的文件",
                    "/",//初始目录
                    "视频文件 (*.flv *.rmvb *.avi *.MP4);; 所有文件 (*.*);; ");
        if (!s.isEmpty())
        {
            s.replace("/","");

            mPlayer->stop(true); //如果在播放则先停止

            mPlayer->setFileName(s);

            mTimer->start();

        }
    }
}



到这里一个播放器的雏形就做好了:


当然这个界面很丑,但毕竟功能都实现了,可以开心一小会儿了。


另外,这里我们只是简单的加了几个按钮,并没有给按钮做好基本的逻辑控制,比如暂停的时候暂停按钮应该隐藏,类似这样的。


这样的好处是可以随便点击按钮去虐我们的播放器,看他都存在哪些问题,再一步一步完善它。



完整工程下载地址:

http://download.csdn.net/detail/qq214517703/9631101


======BUG修复  Begin =======

2017-11-28更新:

此程序在Qt5下使用的时候会有一个bug,既播放器后打开后是黑屏的,原因是文件没有正常打开,当时用的是Qt4测试的,所有木有发现。

解决方法其实很简单:

void VideoPlayer::run()里面的

char *file_path = mFileName.toUtf8().data();

修改成如下即可:

char file_path[512] = {0};    
strcpy(file_path, mFileName.toUtf8().data())

======BUG修复  End =======



学习音视频技术欢迎访问 http://blog.yundiantech.com  

音视频技术交流讨论欢迎加 QQ群 121376426