浅谈音视频自动化测试

好久不见~今天想来聊聊音视频/多媒体/播放器自动化测试的思路。总体来说,可以从以下几个角度来思考。

1.测项设计

1.1.功能测试

对各类传输协议、封装格式、编码格式的支持,在编码格式测试方面,又涉及到各类编码参数的组合,测项数量会疯狂膨胀起来各类基础播放控制,包括播放、暂停、倍速、seek等和自身产品强相关的feature测试,如无缝切换、音频输出通路、DRM等

1.2.性能测试

启播(首屏)时间,更细粒度的考量因素可能有启播各个环节细分的耗时seek耗时丢帧(卡顿)率,更细粒度的考量因素可能有连续丢帧数、每秒丢帧数等缓冲(rebuffer)率,更细粒度的考量因素可能有每次bufferd的时长AV同步情况错误率

1.3.压力测试

长时间播放弱网环境播放低性能设备环境播放高频播放操作控制,如频繁启播、频繁seek、频繁切换码流等

在这一环节,还要考虑好测项的组织和展示形式。常规的选择一般是json或xml,如下面这个例子



{
cases:[
{
"name": "DASH-LIVE-001",
"brief": "Live - number template",
"data":
{
"exe-type": "TYPE_CUSTOM",
"urls":["http://vm2.dashif.org/livesim-dev/periods_1/testpic_2s/Manifest.mpd"]
}
},
{
"name": "DASH-LIVE-002",
"brief": "Live - time template",
"data":
{
"exe-type": "TYPE_CUSTOM",
"urls":["http://vm2.dashif.org/livesim-dev/segtimeline_1/testpic_6s/Manifest.mpd"]
}
},
]
}`

2.测试方法

无论是用黑盒测试还是白盒测试,其实就两个关键问题:如何发起测试以及如何验证测试结果。

2.1. 黑盒测试

发起测试的方式有以下几种:

直接给播放器发送播放指令 以android平台为例,可以通过测试工具给播放器应用发送Intent来调起不同的测项,但这限制了只能在本机上发起测试。如果考虑远程测试的话,可以利用http请求发送测项内容(上一节提到的json就用上了),测试工具接收http请求后解析测项内容,再转换为Intent或其他指令形式调起播放器。模拟用户操作 可以通过模拟触摸屏操作、遥控器按键操作等各种方式来实现。还是以android平台为例,uiAutomator就是一个现成的工具。

验证测试结果的方法则有以下几种:

利用日志分析。利用提前加好的关键日志,可以方便的验证结果。利用图像、声音传感器进行分析 可以抓取屏幕图像数据、扬声器输出的音频数据,然后对这些输出数据结果进行分析。一个简单的例子是用外部camera拍摄屏幕并分析屏幕画面的帧差,如果发现画面长时间没有变化,则很有可能是发生了卡顿。更复杂的比如分析AVSync用的SyncOne设备、Netflix的EyePatch设备,都是著名的案例,当然开发难度也更高。

2.2.白盒测试

播放器的白盒测试就用插桩测试方法即可。还是以android平台为例,CTS media中的测试代码就是很好的参考,举一例如下

 public void testPlayMidi() throws Exception {
final int resid = R.raw.midi8sec;
final int midiDuration = 8000;
final int tolerance = 70;
final int seekDuration = 1000;

MediaPlayer mp = MediaPlayer.create(mContext, resid);
try {
mp.setAudioStreamType(AudioManager.STREAM_MUSIC);
mp.setWakeMode(mContext, PowerManager.PARTIAL_WAKE_LOCK);

mp.start();

assertFalse(mp.isLooping());
mp.setLooping(true);
assertTrue(mp.isLooping());

assertEquals(midiDuration, mp.getDuration(), tolerance);
int pos = mp.getCurrentPosition();
assertTrue(pos >= 0);
assertTrue(pos < midiDuration - seekDuration);

mp.seekTo(pos + seekDuration);
assertEquals(pos + seekDuration, mp.getCurrentPosition(), tolerance);

// test stop and restart
mp.stop();
mp.reset();
AssetFileDescriptor afd = mResources.openRawResourceFd(resid);
mp.setDataSource(afd.getFileDescriptor(), afd.getStartOffset(), afd.getLength());
afd.close();
mp.prepare();
mp.start();

Thread.sleep(SLEEP_TIME);
} finally {
mp.release();
}
}

插桩测试代码编写完成之后,同样可以选择直接在本机用指令方式调起或者远程通过http请求调起。各种插桩测试方案一般都会提供测试结果的格式化工具,所以测试结果的验证与展示不是什么大问题。

设计可扩展的测项

在前面我们提到可以用json形式来记录测项,其实还可以在此基础上进行发散,让测项可以随时定制、随时扩展。

如果我们预定义一些播放器指令字段,如“play”,“pause”, "loop", "change_track"等,然后将这些指令组合起来,就可以实现测项的脚本化编写。播放器只要解析这样一个简单的json脚本,按照其中定义的指令顺序执行,即可达到运行测项的目标。这种简单的脚本对测试人员的技术要求也很低。

举一个示例如下,在这个例子中,将会执行启播,然后等待10秒后,停止播放。用类似的思路,可以快速扩展已有测项。

{
"source":"/sdcard/test.mp4"

"commands": [

{

"command":"play",

"value":0

},

{

"command":"sleep",

"value":10000

},

{

"command":"stop",

"value":0

}

]

}


本文分享自微信公众号 - 音视频开发进阶(glumes_blog)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部