到这里,我们的视频播放器已经可以同步播放音视频了。现在 是时候给他加上一些控制的功能了。如播放、暂停、跳转等。
一、暂停功能实现
我们是在一个单独的线程中循环读取视频,所以只需要在需要暂停的时候,让读取的操作等下来即可。
做法如下:
1.首先引入一个变量用来记录是否处于暂停状态:
bool isPause; //暂停标志
2.读取线程根据此变量来判断是否读取。这样就实现了暂停功能了。
while (1) { ... if (is->isPause == true) { SDL_Delay(10); continue; } if (av_read_frame(pFormatCtx, packet) < 0) { break; //这里认为视频读取完了 } ... }
但是,我们总共是有3个线程在运行,分别是:
1)读取线程
2)解码视频线程
3)解码音频线程
因此,读取的线程虽然停下了,但由于队列中还有数据,解码视频和解码音频的线程可以继续获取到数据并显示和播放,这就导致了暂停操作有一定的延时。
解决方法:
在解码视频和解码音频的线程中也一并判断上面设的pause变量:
解码视频线程:
while(1) { if (is->isPause == true) //判断暂停 { SDL_Delay(10); continue; } if (packet_queue_get(&is->videoq, packet, 1) <= 0) break;//队列里面没有数据了 读取完毕了 ...... }
解码音频线程:
需要注意的是,音频线程有里面有2个循环的地方,因此需要在这2个地方都做判断:
for (;;) { while (is->audio_pkt_size > 0) { if (is->isPause == true) //判断暂停 { SDL_Delay(10); continue; } .... // We have data, return it and come back for more later return resampled_data_size; } if (is->isPause == true) //判断暂停 { SDL_Delay(10); continue; } if (pkt->data) av_free_packet(pkt); memset(pkt, 0, sizeof(*pkt)); .... }
现在我们为VideoPlayer类加上2个函数,分别用来控制播放和暂停:
bool play(); bool pause();
这两个函数中其实就是修改了下pause变量的值:
bool VideoPlayer::play() { mVideoState.isPause = false; if (mPlayerState != Pause) { return false; } mPlayerState = Playing; return true; } bool VideoPlayer::pause() { mVideoState.isPause = true; if (mPlayerState != Playing) { return false; } mPlayerState = Pause; return true; }
或许有人会问:为什么这里的pause被3个线程访问,都不加互斥锁呢?
因为这里仅仅是一个变量,很少出现其中一个线程写到一半,另一个线程就来访问的情况。
最主要的是,即使出现这种情况也没关系,举个例子:
假如,现在视频处于播放状态,pause是false,这时候主线程调用了暂停函数,将pause改成true,(由于一条赋值语句在汇编上是3条语句,因此中途CPU调度到另一个线程是很正常的),此时还没改完,就跑到了解码视频的线程,又刚好解码视频的线程处于判断这个变量的语句上,这时本该是暂停了,但由于主线程赋值语句没执行完,导致了pause还是false,于是解码线程就多解码了一张图片并显示了出来。
可以看出,这样没加互斥锁,仅仅导致了多显示一张图片,视频一秒钟都是显示十几张以上,我不相信有人可以感觉的出多显示这一张图片会有什么差别。
因此这个暂停操作在人眼看来还是“实时的”。
而且上面分析的还是非常极端的情况,就是2个线程刚好都处在访问这个变量的情况。
所以喽,这里没必要加互斥锁,我们的原则是能省事的地方尽量省事。
二、跳转功能实现
和暂停一样,我们使用一个变量记录下是否需要跳转,在读取视频文件的线程中判断此变量,当需要跳转的时候就执行跳转操作。
跳转操作可以直接使用FFMPEG的跳转函数av_seek_frame来实现,函数原型如下:
int av_seek_frame(AVFormatContext *s, int stream_index, int64_t timestamp,int flags);
这里需要注意两点:
我们有2个队列,音频队列和视频队列,这2个队列里面的数据是可以播放几秒钟的,因此每次执行跳转的时候需要同时将队列清空,所以先添加一个清空队列的函数:
static void packet_queue_flush(PacketQueue *q){ AVPacketList *pkt, *pkt1; SDL_LockMutex(q->mutex); for(pkt = q->first_pkt; pkt != NULL; pkt = pkt1) { pkt1 = pkt->next; av_free_packet(&pkt->pkt); av_freep(&pkt); } q->last_pkt = NULL; q->first_pkt = NULL; q->nb_packets = 0; q->size = 0; SDL_UnlockMutex(q->mutex); }
然后每次调用seek的时候便执行一次清空操作:
if (av_seek_frame(is->ic, stream_index, 0,is->seek_flags) < 0) { fprintf(stderr, "%s: error while seeking ",is->ic->filename); } else { if (is->audioStream >= 0) { packet_queue_flush(&is->audioq); } if (is->videoStream >= 0) { packet_queue_flush(&is->videoq); } }
这样执行之后,新的问题又来了。
每次跳转的时候都会出现花屏的现象。
是因为解码器中保留了上一帧视频的信息,而现在视频发生了跳转,从而使得解码器中保留的信息会对解码当前帧产生影响。
因此,清空队列的时候我们也要同时清空解码器的数据(包括音频解码器和视频解码器),
可以往队列中放入一个特殊的packet,当解码线程取到这个packet的时候,就执行清除解码器的数据:
if (av_seek_frame(is->ic, stream_index, seek_target, AVSEEK_FLAG_BACKWARD) < 0) { fprintf(stderr, "%s: error while seeking ",is->ic->filename); } else { if (is->audioStream >= 0) { AVPacket *packet = (AVPacket *) malloc(sizeof(AVPacket)); //分配一个packet av_new_packet(packet, 10); strcpy((char*)packet->data,FLUSH_DATA); packet_queue_flush(&is->audioq); //清除队列 packet_queue_put(&is->audioq, packet); //往队列中存入用来清除的包 } if (is->videoStream >= 0) { AVPacket *packet = (AVPacket *) malloc(sizeof(AVPacket)); //分配一个packet av_new_packet(packet, 10); strcpy((char*)packet->data,FLUSH_DATA); packet_queue_flush(&is->videoq); //清除队列 packet_queue_put(&is->videoq, packet); //往队列中存入用来清除的包 is->video_clock = 0; } }
然后在解码线程中如下操作(以解码图像线程为例,音频线程也是类似):
while(1){ if (is->isPause == true) //判断暂停 { SDL_Delay(10); continue; } if (packet_queue_get(&is->videoq, packet, 1) <= 0) { break;//队列里面没有数据了 读取完毕了 } //收到这个数据 说明刚刚执行过跳转 现在需要把解码器的数据 清除一下 if(strcmp((char*)packet->data,FLUSH_DATA) == 0) { avcodec_flush_buffers(is->video_st->codec); av_free_packet(packet); continue; } .... }
好了,现在我们给VideoPlayer类也封装一个seek函数吧:
void seek(int64_t pos); //单位是微秒
和暂停函数类似,seek函数也只是设置一下变量而已:
void VideoPlayer::seek(int64_t pos){ if(!mVideoState.seek_req) { mVideoState.seek_pos = pos; mVideoState.seek_req = 1; } }
到这里跳转还有一个问题没有解决:
第一篇文章我们就说过视频是每隔几秒才出现一个关键帧,而av_seek_frame只能跳转到关键帧,因此这里就会存在误差。举个例子:
假如 我们的视频 只有在10秒和15秒上才有关键帧,这时候我们希望跳转到13秒,调用
av_seek_frame后视频只能跳到10秒或者15秒,因为解码器解码视频必须要有关键帧的信息才能解码,因此av_seek_frame这样设定是合理的,所以我们seek之后还需要执行一些操作来处理这个情况。
这里先说下av_seek_frame中第三个参数flags的值:
官方定义:
#define AVSEEK_FLAG_BACKWARD 1 ///< seek backward
#define AVSEEK_FLAG_BYTE 2 ///< seeking based on position in bytes
#define AVSEEK_FLAG_ANY 4 ///< seek to any frame, even non-keyframes
#define AVSEEK_FLAG_FRAME 8 ///< seeking based on frame number
试验结果:
AVSEEK_FLAG_BACKWARD:若你设置seek时间为1秒,但是只有0秒和2秒上才有I帧,则时间从0秒开始。
AVSEEK_FLAG_ANY:若你设置seek时间为1秒,但是只有0秒和2秒上才有I帧,则时间从2秒开始。
AVSEEK_FLAG_FRAME:若你设置seek时间为1秒,但是只有0秒和2秒上才有I帧,则时间从2秒开始。
注:I帧就是关键帧
于是我们在跳转的时候把第三个参数设置成:AVSEEK_FLAG_BACKWARD
来达到往前面跳转的目的,继续前面的例子,我们的目的是跳转13秒,现在实际是跳到了10秒的位置。此时读取函数正常读取将10~13秒的数据都放入了视频线程。所以视频就从10秒的位置开始播放了,显然这就和我们预期跳转的位置差了3秒。
虽然我们的播放器要求没那么精确,但还是希望完善它。
方法也很简单,首先解码器解码需要关键帧的信息,因此10到13秒的数据还不能丢弃,还是正常放入队列,让解码器解码之后不做显示而是直接丢弃。
同样的方法,再次加一个变量用来记录是否跳转:
(为了不影响主的跳转功能,这里把跳转标志分开):
/// 跳转相关的变量 int seek_req; //跳转标志 int64_t seek_pos; //跳转的位置 -- 微秒 int seek_flag_audio;//跳转标志 -- 用于音频线程中 int seek_flag_video;//跳转标志 -- 用于视频线程中 double seek_time; //跳转的时间(秒) 值和seek_pos是一样的
然后在读取线程中,跳转完毕后,将这些标志设置上:
if (av_seek_frame(is->ic, stream_index, seek_target, AVSEEK_FLAG_BACKWARD) < 0) { fprintf(stderr, "%s: error while seeking ",is->ic->filename); } else { ... } is->seek_req = 0; is->seek_time = is->seek_pos / 1000000.0; is->seek_flag_audio = 1; is->seek_flag_video = 1; }
最后在解码线程中,解码完获取到pts后,加入如下语句判断:
(以视频为例,音频也是类似)
if (is->seek_flag_video) { //发生了跳转 则跳过关键帧到目的时间的这几帧 if (video_pts < is->seek_time) { av_free_packet(packet); continue; } else { is->seek_flag_video = 0; } }
这样加上之后,跳转功能也完美了。
三、停止功能实现
我想到这里,大家也应该知道停止功能怎么实现了吧。和暂停功能一样,停止功能也加个变量来判断就好了,怎么做就不多说了,全是逻辑问题,发点时间就可以写出来了。
需要注意的一点是:
停止播放的时候,需要将SDL的音频设备也关闭了。
因为我们下一次打开的视频文件,其采样率和声道与这次不一定相同,因此每次打开新视频的时候,都需要重新打开音频设备。
所以停止函数如下:
bool VideoPlayer::stop(bool isWait) { if (mPlayerState == Stop) { return false; } mVideoState.quit = 1; if (isWait) { while(!mVideoState.readThreadFinished || !mVideoState.videoThreadFinished) { SDL_Delay(10); } } ///关闭SDL音频播放设备 if (mVideoState.audioID != 0) { SDL_LockAudio(); SDL_PauseAudioDevice(mVideoState.audioID,1); SDL_UnlockAudio(); } mPlayerState = Stop; emit sig_StateChanged(Stop); return true; }
需要注意的是:SDL_PauseAudioDevice会一直阻塞,直到其回调函数返回。因此,关闭SDL音频的时候需要确保回调函数(既这里的audio_callback)可以正常返回。
不巧的是,我们获取队列的函数中有这么一段:
if (pkt1) { q->first_pkt = pkt1->next; if (!q->first_pkt) q->last_pkt = NULL; q->nb_packets--; q->size -= pkt1->pkt.size; *pkt = pkt1->pkt; av_free(pkt1); ret = 1; break; } else if (!block) { ret = 0; break; } else { SDL_CondWait(q->cond, q->mutex); //就是这句了 }
可以看出,当队列是空的时候,获取数据的函数就停在这里,直到有数据放入队列。
而此函数又恰恰是在audio_callback中调用的,如果刚好这时候调用了SDL_PauseAudioDevice函数,2个线程就这样进入死锁了,基本是没救了。
表现出来的就是,停止的时候,程序就卡死了。
当然并不是每次停止都会卡死,因为只有刚好上面这种情况的时候才会发生死锁。
这个问题我调了好久才找到原因,
解决方法却很简单,只要在获取队列数据的地方,改成获取不到数据的时候返回,而不是阻塞。这样就OK了:
if (packet_queue_get(&is->audioq, pkt, 0) <= 0) { return -1; }
详细的,直接看完整的代码吧。
四、添加控制界面
首先在界面上加入几个控制用的按钮:
之后绑定这些按钮到槽函数:
connect(ui->pushButton_open,SIGNAL(clicked()),this,SLOT(slotBtnClick())); connect(ui->pushButton_play,SIGNAL(clicked()),this,SLOT(slotBtnClick())); connect(ui->pushButton_pause,SIGNAL(clicked()),this,SLOT(slotBtnClick())); connect(ui->pushButton_stop,SIGNAL(clicked()),this,SLOT(slotBtnClick())); connect(ui->horizontalSlider,SIGNAL(sliderMoved(int)),this,SLOT(slotSliderMoved(int)));
槽函数如下:
void MainWindow::slotBtnClick() { if (QObject::sender() == ui->pushButton_play) { mPlayer->play(); } else if (QObject::sender() == ui->pushButton_pause) { mPlayer->pause(); } else if (QObject::sender() == ui->pushButton_stop) { mPlayer->stop(true); } else if (QObject::sender() == ui->pushButton_open) { QString s = QFileDialog::getOpenFileName( this, "选择要播放的文件", "/",//初始目录 "视频文件 (*.flv *.rmvb *.avi *.MP4);; 所有文件 (*.*);; "); if (!s.isEmpty()) { s.replace("/",""); mPlayer->stop(true); //如果在播放则先停止 mPlayer->setFileName(s); mTimer->start(); } } }
到这里一个播放器的雏形就做好了:
当然这个界面很丑,但毕竟功能都实现了,可以开心一小会儿了。
另外,这里我们只是简单的加了几个按钮,并没有给按钮做好基本的逻辑控制,比如暂停的时候暂停按钮应该隐藏,类似这样的。
这样的好处是可以随便点击按钮去虐我们的播放器,看他都存在哪些问题,再一步一步完善它。
完整工程下载地址:
http://download.csdn.net/detail/qq214517703/9631101
======BUG修复 Begin =======
2017-11-28更新:
此程序在Qt5下使用的时候会有一个bug,既播放器后打开后是黑屏的,原因是文件没有正常打开,当时用的是Qt4测试的,所有木有发现。
解决方法其实很简单:
将void VideoPlayer::run()里面的
char *file_path = mFileName.toUtf8().data();
修改成如下即可:
char file_path[512] = {0}; strcpy(file_path, mFileName.toUtf8().data())
======BUG修复 End =======
学习音视频技术欢迎访问 http://blog.yundiantech.com
音视频技术交流讨论欢迎加 QQ群 121376426