AM335x 平台在全彩LED 显示墙异步控制卡的应用

TI 通用嵌入式处理器技术支持

摘要

全彩LED 显示墙异步控制卡以成本低,集中管理等特点,逐渐成为全彩LED 显示墙控制卡的主流。AM335x 具有丰富的硬件外设,基于 Linux 的软件方案,包含GPU ComposiTIon模块能提供完整的多图层叠加缩放等功能,十分适合全彩 LED 显示墙的异步控制卡应用。本文将从硬件和软件两个方面介绍基于AM335x 提供的相应解决方案。

1 全彩LED 显示墙控制卡简介

全彩 LE D显示显控制卡根据控制方式,可以分显两大显:同步控制卡和异步控制卡。

1.1 同步控制卡

全彩LED 同步显示墙主要由PC,同步控制卡和LED 显示模块组三部分组成,其连接方式如下:

图 1 同步控制模块图

同步控制卡将DVI 信号转成LED 显示模组所需要的视频信号格式,而且用以太网的方式传输给LED 显示模组。同步控制卡本身不做视频解码等处理,仅做格式转换。因此,一般采用FPGA 实现该功能。

1.2 异步控制卡

全彩LED 异步显示墙由异步控制卡和LED 显示模组组成,其连接方式如下:

图 2 异步控制卡模块图

由上图,异步控制卡主要由两个大的部分组成:

视频处理模块。

在此模块中,SOC 从网口得到视频流以及UI 的素材,进行视频解码和UI 绘制,最后通过LCD 接口传送给FPGA。

视频信号转换模块。

在此模块中,FPGA 将视频信号转换成LED 显示模组所需的信号,并通过网口输出,该功能和同步控制卡的功能一样。

对比两种方案,可见异步控制卡具体有成本低,便于集中管理的特点。

2 异步控制卡系统分析

下面从硬件和软件两个方面分析其主芯片的系统需求。

2.1 硬件部分

从硬件上看,视频处理模块部分主要由最小系统和外围模块两大部分组成。

最小系统

最小系统由主芯片,电源系统,DDR 和存储四部分组成。

不同级别的全彩屏对SOC 的处理能力有不同要求,具体的要求在软件部分有说明。

外围模块

音频接口,LCD 接口。即LED 显示墙的基本需求。

网络接口。百兆甚至千兆网口可以有效保证显示内容更新的高效性。

USB 接口。便于系统升级,以及扩展基于USB 各种外设。

SD 卡/TF 卡支持。便于系统升级以及内容的本地更新。

此外,异步卡一般和LED 显示墙一起放置于室外,所以需要可工作在宽温度范围的工业级芯片。

2.2 软件部分

软件部分主要由操作系统和应用软件两大部分组成。

2.2.1 操作系统

在异步控制卡行业中,主流系统选择了Linux。

应用软件

应用软件主要包含三个部分:

多媒体部分。

用于对音视频码流的解码。

全彩屏主要分为高端和中低端两个档次:

高端,视频分辨率以及显示分辨率要求在720p 分辨率以上。

中低端,视频分辨率以及显示分辨率在640x480 以内。

由于LED 墙一般显示物理面积大,而且亮度高,所以对视频流的帧率要求较高,要求在每秒25 帧以上。因此,对于高端产品,一般需带有视频硬解码模块的主芯片,其价格一般较高;对于低端产品,使用软解码可实现,所以需要运算性能较强的主芯片,成本优势较好。

UI 部分。

用于显示字幕,图片等,并处理UI 元素和视频层的叠加。叠加部分。由于涉及到透明度,尺寸变换等,运算需求也很大,所以需要主芯片具有相关的硬件加速模块。

远程控制部分。

该部分主要实现上位机对各控制卡的远程控制,内容更新等功能。该部分一般通过网络应用层实现,各控制厂家有自己的协议。

3 AM335x 的解决方案

AM335x 是TI 新近推出的基于ARM Cortex-A8 的SOC,外设丰富,主要针对工业应用领域。针对异步控制卡应用,TI 也提供了基于Linux 的解决方案。下面将从硬件和软件两方面分别介绍该方案。

3.1 硬件方案

AM335x 具有一个强劲的核心Cortex-A8,该核的运算能力可达2.0DMIPS/MHz, 而且AM335x的主频可到1GHz,即运算总的能力可达2000 DMIPS,可流畅解码640x480 的MPEG4 视频流,而且有足够的运算余量绘制各种UI。

此外,AM335x 还有一个3D 图形加速核,SGX530,可支持OpenGL ES2.0。TI 在OpenGL ES2.0 之上提供了相应的软件方案,将SGX530 用于视频帧的尺寸缩放以及实现对UI 层和视频层的透明叠加的加速,后面软件部分会详细介绍该方案。

同时,AM335x 具有丰富的外设,如下图所示:
 

AM335x 平台在全彩LED 显示墙异步控制卡的应用

图 3 AM335x 异步控制卡硬件模块图

由上图可见AM335x 可完全涵盖所有异步控制卡的外设需求,不需要其他扩展。因此,总体成本具有很强竞争力。

TI 的开发板GP EVM(可查阅参考文档 [1] )都可以很便利的进行LED 应用的评估和开发,下文中的软件方案是以GP EVM 为平台进行开发的。

3.2 软件方案

软件方案主要分为操作系统和应用软件两大块,具体介绍如下。

3.2.1 操作系统

如前所述,Linux 是异步控制卡的主流操作系统,因此,本方案也选择了Linux 作为平台。AM335x EZSDK 提供了Linux 的完整开发包,包括板级支持包,交叉编译器,文件系统等,可查阅参考文档 [2] 。

3.2.2 软件模块

UI

在基于Linux 的异步控制卡平台上,QT 以免费,开源,开发资料全以及在嵌入式系统上运行效率高等特点,已经成为异步控制卡厂商开发UI 主要的平台。在EZSDK 中已包含对QT4 的移植,可查阅参考文档[3]。QT 在开源网站上也有很丰富的资源,可查阅参考文档 [4] 。

多媒体

在EZSDK 中提供Gstreamer+ffmpeg的多媒体解决方案,可查阅参考文档[5] 和参考Gstreamer文档(参考文档[6])。在多媒体中,由于格式比较多,各种编码的复杂度以及编码质量差异较大是一个难点。而在LED 显示墙的应用场景中,多媒体码流可接受转码方式,所以可指定码流的格式。这里,推荐的多媒体格式MP4(MPEG4+AAC),其中MPEG4 选择simple profile,对此种码流,若分辨率为640x480,AM335x 可流畅解码每秒25 帧以上。

显示后端

AM335x 只有一个功能简单的LCD 控制器,该控制器只支持RGB 格式,其在Linux 中的驱动为framebuffer,可查阅参考文档 [7] 。相应的上述两个模块的显示后端也以framebuffer 为基础:

Gstreamer的后端显示插件采用fbdevsink。由于视频解码后的格式为YUV 格式,而AM335x 自带的LCD 控制器只支持RGB 格式,因此此处可使用Gstreamer的插件ffmpegcolourspace进行色度空间的转换

QT 默认以framebuffer 为显示后端。

Framebuffer 会接收来自QT 和Gstreamer的图像帧数据,然后进行OSD 的叠加和缩放等操作,数据流如下图所示:

AM335x 平台在全彩LED 显示墙异步控制卡的应用

图 4 默认软件方案数据流程图

软件复杂度分析

在图4 中,深色模块为运算较密集模块,具体分析如下:

Gstreamer的解码和ffmpegcolourspace(CSC plugin)两个模块。

ARM 虽然有较强的运算能力,但对于较大分辨率的视频解码,视频解码的宏块运算等需较大运算量。另外,色度空间涉及浮点运算,而且为逐点运算,所以运算量需求也不小。

以640x480 分辨率的MP4(MPEG4 simple profile+AAC) 为例,若帧率为30fps 时,ARM 核的loading 在91%左右,其中ffmpegcolourspace模块约占运算量的50%。

Framebuffer 模块。

在该模块中的 OSD 叠加指的是 UI 图层和视频图层之间的叠加,而且是包含带透明度的叠加,而图层的缩放是指对原图等比例的缩放,因而需对每一帧数据的每个像素点进行浮点乘加运算,参考ffmpegcolourspace的运算量,该部分运算量也应较大。

可见,ARM 核无法独自胜任系统所需的全部运算。

3.2.4 基于GPU 的优化方案 – GPU Composition

GPU Composition 软件模块,调用 SGX530 模块进行色彩空间转换,OSD 叠加,图层缩放功能,分担A8 的运算负载使其专注于QT,视频解码等应用,下面将具体介绍。

GPU Composition 模块的编译和安装

在TI Wiki 上有明确说明,可查阅参考文档[8]。

GPU Composition 设计分析

A. 各功能模块

AM335x 平台在全彩LED 显示墙异步控制卡的应用

图 5 GPU Composition 软件模块图

SGX530 实现的功能模块标记为深色,具体功能如下:

a. gpuvsink该模块设计为Gstreamer视频显示后端插件,将视频解码器解出的YUV 数据帧,传送给SGX530 模块。按照标准的Gstreamer视频显示后端插件设计,可采用标准的显示后端接口编程。对于视频输入的尺寸,要求其宽(width)为4 个像素点的倍数。其输出视频帧数据这里可称为Video Plane。

b. linuxfbofs

该模块设计为QT 架构中的显示后端,将QT 的帧数据发送到SGX530 模块中处理。linuxfbofs和framebuffer 有同样的接口,对于QT 应用开发是透明的。其输出界面帧数据为Graphics Plane。

GPU Composition

该模块基于Open GL ES 2.0 接口设计,对输入的Video plane 和Graphics Plane 进行色彩空间转换,图层缩放,OSD 叠加等操作,将最终的帧数据推送到Framebuffer 中显示。

B. 模块间的数据流

模块间的数据以Plane 的形式传递,具体介绍如下:

a. Plane格式

Video Plane 可支持YUV422,NV12,I420 和 YUV420 格式帧数据。

Graphics Plane 可支持RGB565,RGB888 和ARGB8888 帧数据。

GPU Composition 接收这些格式的帧数据,并将其转换为RGB 格式,进行图层缩放,OSD 叠加等操作。

b. Plane 的内存分配

SGX530 输入内存(Buffer),只支持物理地址连续的Buffer。因此,在gpuvsink和linuxfbofs中,使用cmem(具体可查阅参考文档[9])据此要求分配内存Pool 来存储帧数据,需在Linux 启动时通过命令行参数”mem=”配置预留给Kernel 的内存,而剩下的内存即是给cmem所准备,用于分配物理连续的内存。

其大小的计算公式如下:

Pool size for Graphics Plane = width * height * Bytes Per Pixel

Pool size for Video Plane = video frame width * height * 2 (Bytes Per Pixel) * 8 (buffers)

对于一个Video Plane 可能需要多个Buffer,其具体个数定义在

gpu-compositing/gpuvsink/src/gst_render_bridge.h

#define PROP_DEF_QUEUE_SIZE 8

c. Pool传递

Graphics Plane 和Video Plane 以指针的形式将Pool 传递给GPU Composition。

C. 模块间的控制流

a. 配置信息数据结构

对于Graphics Plane,通过命名管道“"/opt/gpu-compositing/named_pipes/video_cfg_and_data_plane_X"”其配置信息在下面数据结构中

AM335x 平台在全彩LED 显示墙异步控制卡的应用

关于此配置信息中,比较重要的有如下几点:

对于 QT 而言,对入的对对参数来自 Linux 的 FB 对对,即对 LCD 屏的对示分辨率。

关于透明度(Alpha),Video plane 在底部,因此,Graphics Plane 决定 Video Plane的可对度。Alpha 可分对:全局Alpha,整个Plane 使用同一的一个Alpha 对;以像素点(Pixel)对对位的Alpha, 即像素的数据格式对ARGB8888,可以在局部对置Alpha。

可以通对对置对出的对构体out_g对对对出Plane 的对放。

对于Video Plane, 配置信息如下:

AM335x 平台在全彩LED 显示墙异步控制卡的应用

此配置结构体中的输入信息,会通过Gstreamer的标准接口,通过前级的Gstreamer Plugin 进行配置。如前所述,输入视频帧的宽(width)的像素点数,需为4 的倍数;对于输出信息,和Graphics Plane 一样,可以通过配置输出数据结构out,实现缩放功能。

b. 命名管道( named pipe)配置信息

上述配置信息,通过存放于文件系统中的命名管道,传递到GPU Composition 模块。

对于linuxfbofs,命名管道文件为/opt/gpu-compositing/named_pipes/gfx_cfg_plane_X。

对于gpuvsink,命名管道文件为/opt/gpu-compositing/named_pipes/video_cfg_and_data_plane_X

4 方案实验

笔者基于GPU Composition 方案,在AM335x  EVM 板上,开发了Gstreamer和QT 应用程序,以验证整个异步LED 显示墙方案的性能。

4.1 代码及编译

代码分成两个应用:

Gstreamer部分,可在参考文档[10]下载,为一个视频播放器,可循环播放MP4 视频

QT 部分,可以在参考文档 [11]下载,包括一个时钟和滚动字幕。

可以根据参考文档[8]进行编译。

4.2 代码运行

在AM335x EVM(AM3358 主频为720MHz)上,运行命令行如下:

这里播放的视频流为mp4 格式,其包含有分辨率为640x480 的MPEG4 simple profile 码流以及AAC 音频流。

运行效果图如下:

AM335x 平台在全彩LED 显示墙异步控制卡的应用

图 6 示例运行效果图

可以从截图中看到,OSD 层和视频层的透明度叠加很清楚。

4.3 性能分析

关于GPU Composition 方案的性能提高,可以参考下面两个截图。

图7 中,没有使用GPU Composition 方案,CPU 除了要做解码,也需要做色彩空间转换,其CPU 占用率达到91%。

图8 中,使用了GPU 分担了视频叠加,色彩空间转换等运算,在整个系统的总运算量明显大于仅仅Gstreamer播放视频的情况下,ARM 核的CPU 占用率仅仅只有58%,仍给应用程序留下运行的空间。

更多的示例可查阅参考文献[8]。

AM335x 平台在全彩LED 显示墙异步控制卡的应用

图 7 单Cortex-A8 软解视频流的系统负载

AM335x 平台在全彩LED 显示墙异步控制卡的应用

图 8 GPU Composition 方案视频播放的系统负载

5 总结

本文主要介绍了基于AM335x 的全彩LED 显示墙异步控制卡方案,重点介绍了基于GPU 的软件解决方案,在实现LED 显示墙所需的视频层和OSD 层叠加,缩放等功能的基础上,仍给客户定制的应用程序提供了足够的开发空间。希望该方案能加速客户进行异步控制卡的开发。

  • AM335x 平台在全彩LED 显示墙异步控制卡的应用已关闭评论
    A+
发布日期:2019年07月14日  所属分类:物联网