By Toradex秦海 1). 简介 Gstreamer多媒体开发框架是当前嵌入式Linux设备最为常用的多媒体应用处理平台，关于Gstreamer开发框架的介绍请参考我们过往发表的其他相关文章，这里不再赘述而是直接展示使用C语言基于Gstreamer进行摄像头处理的示例程序开发。   本文所演示的平台来自于Toradex Aaplis iMX6D嵌入式平台，这个平台是基于NXP iMX6系列ARM处理器，支持双核心Cortex-A9。   2). 准备 a). Apalis iMX6D ARM核心版配合Apalis Ixora载板，连接调试串口到开发主机，具体操作方法可以参考这里。 b). Apalis iMX6D操作系统使用Toradex Linux Release V2.7b2，下载和更新方法请参考这里。 c). 连接一个USB Camera到Ixora载板X8靠上的USB接口，这里使用Logitech 720P摄像头。   3). 配置Ubuntu开发主机 a). 安装Toradex提供的交叉编译SDK，可以基于OpenEmbedded环境自行编译，也可以从这里下载我们已经编译好的进行测试使用，下载后执行下面命令进行安装，并根据提示设置安装目录。 -------------------- $ ./angstrom-glibc-x86_64-armv7at2hf-neon-v2016.12-toolchain.sh -S -------------------- b). 本文使用Eclipse IDE进行开发，请参考这里的文章说明在Eclipse配置基本的SDK交叉编译相关设置。 c). 启动Eclipse并创建Gstreamer新项目 ./ 在启动Eclipse之前，首先打开Terminal并执行下面命令配置SDK，配置在Terminal关闭时候失效，下次使用要重新配置。 -------------------- $ source SDK Path/environment-setup-armv7at2hf-vfp-neon-angstrom-linux-gnueabi -------------------- ./ 然后在同一Terminal下启动Eclipse IDE ./ 创建新的Cross GCC项目，这里为gstest   d). 设置Gstreamer编译选项 ./gstest –> Properties -> C/C++ Build -> Settings –> Tool Settings -> Cross GCC Compiler -> Miscellaneous -> Other flags 添加下面内容 -------------------- `pkg-config --cflags gstreamer-1.0` -fPIC -------------------- ./ ./gstest –> Properties -> C/C++ Build -> Settings –> Tool Settings -> Cross GCC Linker -> Miscellaneous -> Linker flags添加下面内容 -------------------- `pkg-config --libs gstreamer-1.0 gobject-2.0 glib-2.0` --------------------     4). C程序开发示例 a). 本文演示C程序main程序中主要实现三种Gstreamer应用示例，第一种是捕获USB摄像头输入图像并显示在桌面上，第二种是捕获USB摄像头输入图像并进行H.264编码后保存为MKV视频文件，第三种是读取上面第二种保存的视频文件并播放显示在桌面上面。   b). 程序完整代码如下，分别说明如下： https://github.com/simonqin09/gstest/blob/master/gstest.c   ./ Main函数首先创建所需要使用的Elements和bus等，然后初始化gstreamer并创建main loop。   ./ 然后通过程序输入参数做三个选项，分别对应上面提到的三个子应用。   ./ 应用1 - 捕获USB摄像头输入图像并显示在桌面 // 首先在iMX6上面可以通过命令行先测试好要使用的pipeline，如下： -------------------- $ gst-launch-1.0 imxv4l2src device=/dev/video3 ! 'video/x-raw, width=1280, height=720, format=(string)YUY2' ! videoconvert ! imxv4l2sink overlay-width=640 overlay-height=480 -------------------- // 然后按照上面测试的pipeline在程序中先创建pipeline，然后再分别调用”gst_element_factory_make”函数匹配实际使用的elements，最后创建pipeline message bus和monitor。 // 然后调用”gst_bin_add_many”函数将刚才生成的elements添加到pipeline中。 // 最后调用”gst_element_link_many”函数顺序链接各个elements   ./ 应用2 - 捕获USB摄像头输入图像并进行H.264编码后保存为MKV视频文件 // 首先同样在iMX6上面通过命令行先测试好要使用的pipeline，如下： -------------------- $ gst-launch-1.0 imxv4l2src device=/dev/video3 ! 'video/x-raw, width=1280, height=720, format=(string)YUY2' ! videoconvert ! vpuenc_h264 ! matroskamux ! filesink location=output.mkv -------------------- // 后面的程序和上面应用1是类似的方法配置 ./ 应用3 - 读取上面第二种保存的视频文件并播放显示在桌面 // 首先同样在iMX6上面通过命令行先测试好要使用的pipeline，如下： -------------------- gst-launch-1.0 filesrc location=output.mkv typefind=true ! matroskademux ! vpudec ! imxv4l2sink overlay-width=640 overlay-height=480 -------------------- // 后面的程序基本上和上面应用1是类似的方法配置，只是有一个元件需要注意，就是”matroskademux”，通过”gst-inspect”查看可以得知其sink pad是根据src数据情况动态产生的，这样导致在上面测试piepeline的时候没有问题，但是做C程序开发的时候就需要我们来处理这个事件，因此我们添加了”on_pad_added”函数，并在main函数中调用”g_signal_connect”函数来动态链接pipeline中的demux元件和decoder元件。   ./ main函数最后通过”gst_element_set_state”函数play pipeline，并通过” g_main_loop_run”函数开始循环。 c). 测试上述c程序代码运行请见如下： ./ 应用1： -------------------------------- root@apalis-imx6:~# ./gstest 1 /dev/video3                                      [ 3689.676941] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE               [ 3689.682806] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE               [ 3689.688697] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE               ====== IMXV4L2SRC: 4.1.4 build on Apr 10 2017 02:13:12. ======                  ====== IMXV4L2SINK: 4.1.4 build on Apr 10 2017 02:13:12. ======                 display(/dev/fb0) resolution is (1920x1080).                                    Running                                                                         v4l2sink need allocate 3 buffers. -------------------------------- 显示如下：   ./ 应用2： -------------------------------- root@apalis-imx6:~# ./gstest 2 /dev/video3 output.mkv                            [ 9096.456753] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE               [ 9096.462704] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE               [ 9096.468553] ERROR: v4l2 capture: slave not found! V4L2_CID_HUE               ====== IMXV4L2SRC: 4.1.4 build on Apr 10 2017 02:13:12. ======                  [INFO]  Product Info: i.MX6Q/D/S                                                ====== VPUENC: 4.1.4 build on Apr 10 2017 02:13:17. ======                              wrapper: 1.0.68 (VPUWRAPPER_ARM_LINUX Build on Apr  4 2017 17:47:13)            vpulib: 5.4.35                                                                  firmware: 3.1.1.46072                                                   Running                                                                          [INFO]  ringBufferEnable 0, chromaInterleave 1, mapType 0, linear2TiledEnable 0 -------------------------------- 查看生成文件如下：   ./ 应用3： -------------------------------- root@apalis-imx6:~# ./gstest 3 output.mkv                                       [INFO]  Product Info: i.MX6Q/D/S                                                 ====== IMXV4L2SINK: 4.1.4 build on Apr 10 2017 02:13:12. ======                 display(/dev/fb0) resolution is (1920x1080).                                    [INFO]  Product Info: i.MX6Q/D/S                                                 ====== VPUDEC: 4.1.4 build on Apr 10 2017 02:13:17. ======                              wrapper: 1.0.68 (VPUWRAPPER_ARM_LINUX Build on Apr  4 2017 17:47:13)            vpulib: 5.4.35                                                                   firmware: 3.1.1.46072                                                   Running                                                                         Dynamic pad created, linking demux/decoder                                      [INFO]  bitstreamMode 1, chromaInterleave 1, mapType 0, tiled2LinearEnable 0    v4l2sink need allocate 3 buffers. -------------------------------- 显示如下：   5). 总结 Gstreamer框架是非常强大的多媒体处理工具，本文只是做了一些简单的应用示例，更多详细说明和示例请参考其官方网站。