Utils 的 videoSource 工具

前两篇已经用 10 行 Python 代码展现了 Hello AI World 强大而且简便的物件检测识别能力,虽然大部分的人都将目光集中在了深度学习的三大推理识别(图像分类、物件检测、语义分割),但是在整个项目中,其实还有两个非常重要的功臣功能,那就是 videoSource() 与 videoOutput() 这两个专司输入与输出的接口。

如果你认为这两个功能只是简单地负责数据接收与显示的话,这就大大浪费了项目作者的心血结晶,因此我们在进入本项目另外两个深度学习推理应用之前,先要把这两个幕后功臣的内涵展现出来,因为这与后面的应用息息相关。本文先就 videoSource() 这个功能进行说明。

有经验的开发人员都清楚,输入源的种类十分多样,并且格式非常繁琐,其中还包括图像的颜色空间(color space)变化,要全部集成在一个函数中去调用,已经是非常高难度的事情了,如果这个函数还能为我们集成 Jetson 的编解码芯片的调用,以及将许多非常图像处理的计算交由 CUDA 核去计算,这就是一个值得我们为之欢呼的功能了。

videoSource() 功能是项目作者一个集大成的作品,具备以下特点:

1.支持 7 种输入源方式 
A. CSI 摄像头:”csi://0”
B. USB 摄像头:”/dev/video<N>”,其中 <N> 置换成指定的 USB 摄像头编号
C. RTP 视频流:“rtp://<remote_ip>:1234”
D. RTSP 视频流:“rtsp://username:password@<remote-host>:1234”
E. 视频文件:“完整文件名”,例如 “input.mp4”
F. 图像文件:“完整文件名”,例如 “room_0.jpg”
G. 文件夹:如果识别 “完整文件名” 是个文件夹时, 就会把目录下文件整批作为输入

2.支持 7 种视频格式 :H.264、 H.265、VP8、 VP9、 MPEG-2、MPEG-4 以及 MJPEG
3.支持 9 种图像格式 :JPG、 PNG、TGA、BMP、GIF、PSD、 HDR、 PIC 以及 PNMs
4.自动根据数据源,调用合适的 NVDEC 解码功能 
5.将数据计算紧密结合 CUDA 计算核 

这样一列出来,是否已经感受到了这一功能的强大呢?由于集成这么多特点,可以使代码的调用变得异常简单,而且完全发挥 Jetson Nano 2GB 的硬件计算资源,兼具 “易用” 与 “高效” 两个极端的特色。接下来我们就用几个简单的代码,带着大家体验一下这个工具的用法。
现在请大家先回忆一下用 openCV 建立 CSI 摄像头对象的代码,如下:

这种调用是非常艰涩而且容易出错的,对大部分初学者来说的确比较痛苦,导致很多人一开始都不愿意使用性能较好、功耗较低的 CSI 摄像头。但是在 videoSource() 这里,只需要简单填入 “csi://0” 就能创建。

在前面 “10lines.py” 代码中,已经提供了 CSI 摄像头、USB 摄像头,以及视频文件的调用方式,事实上类似的方法也适用于 RTP/RTSP 视频流以及图像文件作为输入源。

然而这里面增加一个对 “文件夹” 的支持,更是一个非常实用的功能,不过在 “图像分类”、“物件识别” 与 “语义分割” 的应用中,都有很大部分的使用场景是针对“众多独立图像”的推理,如果每次都只能一张一张的读入然后识别,就会显得十分没效率。

下面将 “10lines.py” 做简单的修改,以 etson-inferencet 提供的图像文件为例,让大家体验一下这个功能的好处:

上面代码中,将输入源与输出标的设为两个不同的目录,执行之前先将这个代码复制到 ~/jetson-inference/data/images/ 去,并且为 source 目录添加一些图片。完整的执行指令如下:

这样就会开始从 source 目录读入图像文件,执行物件识别推理后,将结果输出到 detection 目录中(如下图)。

这里之所以不选择输出到显示器,是因为显示的过程太快,没法在显示器上暂留,所以输出到另一个目录存成图片,会是比较合适的方法。
执行完成后,进入 detection 目录中,可以浏览到如下图的输出结果。

最后还有一个重点,就是调用 NVDEC 硬解码器的时机,前面提到 videoSourec() 会自动根据输入源的类型,去调用合适的解码器,不过这部分细节在作者的使用文档中并没有讲解,只能靠不断地尝试。

要检查解码器的启动与否,我们可以使用一开始教大家的 jetson-stats 检测工具,打开之后关注左下角 “NVDEC” 的变化,大部分时候都是处于 [OFF],但当我们的输入源是视频文件、RTP/RTSP 这三种类型时,“NVDEC” 后面会出现主频的变化(如下图),表示这时候已经被启动。

本文有条理地将 videoSource() 的重要特色进行了说明,就是为了后面执行其他推理识别应用时会使用到,也希望能让读者学会更多的用法。

 


评论:
相关文章
乐高42177奔驰G500超深度评测

乐高42177奔驰G500套装共有2891个零件‌,套装分为20个步骤,拼装时间大约需要6个小时‌。


SPIKE 科创套装 45678零件清单

SPIKE 科创套装 45678零件清单


基于树莓派搭建小型云计算集群

拥有一个私人的云计算平台是一件很酷的事情。


Arduino ESP32获取芯片、RAM信息

本文介绍如何使用Arduino-ESP32库中的API函数获取ESP32的芯片、RAM信息等,并提供了一个示例程序代码。


一份新手M5Stack入坑指南

M5Stack产品快速上手指南


工程思维,地球上最聪明的人正在运用的关键思维

工程思维是以解决问题为导向的,实施该思维的前几步都是围绕问题,展开的调研和策划,最终得出设计成果。它非常注重迭代意识,设计出的成果将根据需求不断改进,而非一劳永逸。



马达高级控制块(Advanced Motor Controllers Block)

由台湾崇倫國中开发,專給WRO競賽組使用,包含「PD控制器」、「同步移動控制器」、「非線性緩加減速控制器」等。


一文详尽 Python 函数式编程技术

本文对 Python 中的函数式编程技术进行了简单的入门介绍。


《火星救援》里的科学

本文是一篇最全最良心却也最接地气的《火星救援》大科普,文科生也看得懂!

Jetson Nano 基础教程

作者:英伟达小助理   共52讲

Jetson Nano 推出 2GB 内存版本,不仅承袭了 Jetson Nano 所有 AI 开发环境与 IOT 控制功能,也能学习或开发 Python、OpenCV 与 AI 深度学习、ROS 自动控制等应用。

课程