Java教程

增强adxe引擎视频播放之 - windows视频播放支持

本文主要是介绍增强adxe引擎视频播放之 - windows视频播放支持,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

一、开发缘由

cocos2dx全系列不支持windows视频播放,给开发和测试带来不便
虚幻和unity都采用将视频渲染到纹理的方式,极大提升了视频和引擎渲染对象的融合,而cocos2dx全系列不支持

二、以windows视频播放渲染到纹理为开端

经过一番Google搜索和研究,确定微软windows sdk提供的Media Foundation(COM组件)为实现windows视频播放的最佳方案,相对于ffmpeg有如下优势:

  • 由于是系统组件,无License问题,ffmpeg为LGPL,部分组件是GPL,不适合采用MIT开源协议的adxe引擎
  • 使用Media Foundation无需关心音频采样,而ffmpeg需要手动处理音频
    Media Foundation为win7以上系统自带,没有额外三方库负担,且支持硬件加速,性能由系统保证,引擎无需关心
  • 轻松支持多种视频格式(由Media Foundation COM组件提供支持,无需额外实现),例如.mp4, .webm等

三、基本实现原理和思路

通过参考微软官方的classic示例和官方文档确定实现思路。
protectedplayback
seeking–fast-forward–and-reverse-play

  1. 视频文件的播放流程以及声音的渲染完全由Media Session控制
  2. 创建Media Session后,将视频采样输出格式设置为NV12
  3. 实现自定义视频采样器COM组件MFVideoSampler,继承自IMFSampleGrabberSinkCallback
  4. 创建视频采样器并作为视频渲染活动目标,关键API: MFCreateSampleGrabberSinkActivate
  5. 在视频采样回调接口 OnProcessSample 将视频采样帧数据上传到显卡
    在显卡片段着色过程中将YUV颜色空间转换为RGB,也就是常说的Fragment Shader

通过以上步骤,完整的媒体文件音视频播放功能基本就可以实现了,详见Github PR页面:
https://github.com/adxeproject/adxe/pull/577

该patch开发中,目前已经可以播放.mp4, .webm等视频文件,效果如下:

在这里插入图片描述

欢迎大佬指教。

这篇关于增强adxe引擎视频播放之 - windows视频播放支持的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!