The Key Technology Research of Drone Live Broadcast in Earthquake Disaster Acquisition
-
摘要: 近年来国内多次地震应急经验表明,在震后第一时间获取灾情信息是公共服务的关键,能够有效减轻地震灾害带来的损失,因此快速获取灾情信息并制定合理的救援策略成为减轻灾害的有效方法。无人机灾情获取技术可与传统灾情获取手段相互融合,在多次地震应急中取得了良好的效果。针对单兵系统依赖的远端服务器稳定性差、本地布设的服务器价格高、展示渠道单一等问题,本文研究了基于无人机视频传输快速获取震后现场灾情信息的方法,有助于完善现有灾情信息获取手段。无人机直播技术采用实时消息传输协议,在云服务器中设定推流、拉流对应地址,将采集的图像信息推流至云服务器,实现数据的拉流,现场灾情信息可同时在前后方电脑端、手机端显示。当网络中断时,利用现场应急通信车的卫星组网功能,仍可将灾情信息回传至后方指挥大厅。Abstract: In recent years, many domestic earthquake emergency response experiences have shown that obtaining disaster information immediately after an earthquake is the key to public services, and can effectively reduce losses from disasters. Therefore, obtaining disaster information quickly and formulating reasonable rescue strategies have become the most effective ways for disaster reduction. The drone disaster acquisition technology integrating with the traditional disaster acquisition method has achieved good application results in many emergency situations. In view of the series of problems, such as the poor remote server stability relied by individual soldier system, the expensive local server, and the single display channel, we propose a method to quickly obtain post-earthquake disaster information through drone video transmission, which is helpful for improving the existing means of disaster acquisition. First, real-time message transmission protocol streaming in drone live broadcast technology sets the corresponding addresses of push and pull streams in the cloud server, and then pushes the collected image information to the cloud server, and then realizes the pull stream of data, which can be simultaneously displayed on the computers and mobile phones in front and back sides. When the network is interrupted, the system can still transmit disaster information back to the command hall by using the satellite networking function of the on-site emergency communication vehicle.
-
Key words:
- Disaster acquisition /
- Drone live broadcast /
- Data transmission /
- Cloud server
-
引言
地震是造成人员伤亡最严重的自然灾害之一,而由地震引起的建筑物倒塌及其他一系列次生灾害是导致人员伤亡的主要原因(张雪华等,2019)。特别是较大震级的地震会造成道路、通信设施的破坏,救援人员难以进入灾区,无法第一时间获取现场灾情,依靠电话、微博、现场调查的灾情获取手段存在一定的局限性。因此,震后快速获取灾情信息,制定合理救援策略成为减轻灾害的有效方法。利用无人机的优势,能够快速获取震区相关影像(黄恩钊等,2018),且可依托不同型号无人机完成广域及特定位置区域的精准识别,为震后应急指挥决策提供科学依据。
无人机遥感系统具有灵活性好、成本低、空间分辨率高的优点,已成为卫星遥感和地面遥感的有效补充手段,在震后应急中发挥着越来越重要的作用(郭建兴等,2018;张顺等,2019)。近年来,无人机遥感技术已分别在2011年盈江地震、2013年芦山地震、2015年尼泊尔地震中得到实际应用(温奇等,2012;Xu等,2014;王晓青等,2015;王之等,2018),对震后灾情评估起到了一定作用。河南省是地震灾害较严重的省份之一,同时作为人口大省,部分地区建筑物抗震性能差,现场灾情获取手段尚不完善,因此震后快速获取灾情尤为重要。河南省地震局现有1架无人机及2名操控手,可用于解决现场灾情获取及无人机影像有效应用的问题,进一步完善河南省灾情获取手段,提升灾情研判能力。在河南省近两年的地震应急演练中,多次测试了无人机系统各项功能,一是无人机影像传输功能,通过单兵及直播技术将拍摄的影像实时回传至指挥大厅,音视频效果正常;二是航线规划功能,利用航线规划软件对周边部分区域实现自动拍摄,影像中建筑物轮廓特征清晰,分辨率达厘米级。
本文以震后将无人机获取的灾情信息实时传输到前后方指挥中心为目的,研发了2种不同通信方式,并在应急演练中测试了通信效果,得到更符合实际应用的云服务器直播通信方式,结合现场应急通信车实现了在4G网络中断的情况下无人机信息的传输,以满足震后灾情研判、应急专题图制作及辅助决策信息的产出。以某次应急演练为例,模拟了震后4G网络中断的情况下将现场灾情信息回传至指挥大厅,利用应急通信车的卫星组网功能,实现了云服务器直播方式下的无人机图像回传,但存在依赖现场环境及卫星带宽的问题,偶尔出现图像卡顿、不流畅的情形,可通过调整图像传输清晰度、不同的播放协议加以改善。在实践过程中仍存在一些问题,如受飞行空域的影响,在个别区域飞行时,信号干扰较大,画面传输效果差。另外,对于云直播手段中拍摄影像的建筑物识别、灾情自动报警等功能还有待深入探索。
1. 灾情获取中的无人机系统方案
1.1 无人机的应用
无人机最早源于军事,主要作为靶机用于军事训练。到20世纪后期,无人机因其机动性强、侦查范围广、战场适应性强等特点受到广泛重视(石珺等,2017)。随着无人机技术的不断进步,其应用领域逐步扩展,在民用方面的应用迅速发展,按照不同行业特点,无人机通过搭载不同载荷完成不同应用目的,如无人机可以根据需要搭载不同的相机、灭火装置、喊话喇叭、植保农药、红外扫描仪、合成孔径雷达等,目前无人机已应用于灾害监测评估、农林植保、地图测绘、电力巡检、影视拍摄、应急救援等领域(杜强,2019;陈楠等,2020)。
本文主要研究无人机在地震行业中的应用。地震应急救灾中,无人机因其机动灵活、成本低、分辨率高等特点,可获取多角度、多分辨率影像,第一时间到达救援人员无法到达的危险区域,及时获取灾区影像数据并实时回传,为灾区的灾害排查、灾情评估、救灾力量部署、人员安置等应急工作提供科学依据(黄海峰等,2017)。震后灾害调查内容主要包括建筑物破坏、道路交通破坏、次生灾害及生命线工程破坏等,除现场工作人员实地调查外,也可利用无人机完成受灾点航拍识别,地形、地貌、救援路线勘察,受灾人员临时安置点选址调查等(王林,2016)。
1.2 无人机系统建设情况
河南省地震局现有1架多旋翼型无人机、2名操控手及包括现场图像获取设备的无人机地震灾情获取系统。无人机型号为大疆M200,搭载禅思X5S云台,通过将单兵设备与遥控器连接,采集图像信息,再上传至远端服务器中,通过4G公网的形式在前后方电脑端访问回传的影像。
经多次系统测试,在用的单兵图传系统常存在无法获取无人机图像的问题,经分析发现为后方服务器的问题,因维护不及时导致系统运行不稳定,且第三方公司保障能力有限,已影响正常使用。针对该问题,为快速获取现场灾情,第一时间将无人机采集的图像信息回传至指挥大厅,以稳定性好、操作便捷、成本低为出发点,研究了云服务器视频传输方式。首先确定推流、播放地址,该过程需提前准备2个域名,且域名均需完成CNAME解析,可登录DNSPod控制台完成,并在腾讯云控制台地址生成器中按照规则自动生成地址,需注意设定的直播应用名称、数据流名称及过期时间等参数。然后利用直播的方式,将图像信息先通过无人机操作平台推流至云服务器,再实现直播信号的拉流处理,可同时在前后方电脑端、手机端实时显示。该方式较依赖现场环境,可依据现场信号干扰、网络情况设置无人机操作平台中信道模式、图传码率及图传模式等参数,调整传输效果。最后将信号以4G或卫星网络的方式通过应急通信车中的视频会议系统传输至后方指挥中心。
2. 无人机直播方案中的关键技术
利用无人机航拍采集地震现场图像信息,通过4G网络推流至云端流媒体服务器,再采用拉流的方式实现视频实时直播,可完成在不同客户端的展示。系统采用实时消息传输协议(Real Time Messaging Protocol,RTMP)用于服务器和播放器之间的流式音视频数据传输,传输层采用Transmission Control Protocol(TCP)协议,为保证数据传输流畅,RTMP将流数据分段,把基本的数据单元信息拆分成消息块,通过TCP协议发送消息块。云端服务器接收到数据后,重组消息块即可恢复原先的流数据(石珺等,2017)。系统方案如图3所示。
无人机操作平台使用的软件为DJI GO 4,兼容iOS及安卓系统,考虑到该软件本身具备RTMP流媒体直播能力,可为推流端节省费用与时间成本。需搭建RTMP流媒体服务器,利用DJI GO 4软件中的直播推流功能,通过4G网络将视频流推送到云服务器,并将其输出到客户端,然后利用现场应急通信车中的视频会议系统将无人机影像回传至后方指挥中心。因地震灾害现场可能出现4G网络中断的情况,导致该系统中无人机图像传输至服务器端时数据中断,无法完成灾情信息传输。利用应急通信车卫星通信优势,将网络切换至卫星通信后,应急通信车内的无线网络可正常使用,该系统可通过连接现场无线网络恢复视频流的传输。除可采用电脑端直接访问视频直播画面显示到指挥大厅屏幕上以外,也可通过视频会议系统将现场拍摄的影像信息传到后方指挥中心,但存在卫星带宽不够时图像卡顿的问题,尤其是视频会议系统占用带宽较大,可选择在后方指挥大厅电脑端直接播放直播画面,通过调整图像传输清晰度、不同的播放协议加以改善。DJI GO 4中推流直播界面如图4所示。
流媒体服务器是流媒体应用的核心系统,主要功能是对流媒体内容进行采集、缓存和传输播放,数据传输的质量也取决于流媒体服务器的性能和服务质量(牛志,2017)。经对比流媒体处理能力、成本、操作性等方面,选用腾讯云服务器,具体搭建过程如下:
第1步确定域名,使用云直播服务需要2个域名,即推流域名和播放域名,且不能使用相同的域名,开通云直播服务后自动获得1个域名,将其作为推流域名。播放域名可在域名注册、域名备案后使用。其中,域名备案需提前购买云服务器资源,可根据实际需要选用不同规格、带宽的服务器,如拉流端并发连接数较多,可选用支持高带宽的云服务器。然后分别添加自有域名作为推流、播放域名,添加成功后系统自动分配以.liveplay.myqcloud.com为后缀的CNAME域名,完成配置后即可访问。CNAME域名配置需登录DNSPod控制台进行解析,按照域名类型填写主机记录、记录类型、记录值及秒数等参数。
第2步获取推流、播放地址。除在地址生成器中自动生成地址外,还可通过自主拼装的方式完成,地址生成中需注意直播应用名称、流ID及过期时间等参数,需保持参数一致。标准的推流统一资源定位符(Uniform Resource Locator,URL)如图5所示,其中,domain为推流域名,AppName为直播的应用名称,默认为live,可自定义;StreamName(流ID)为自定义的流名称,为每路直播流的唯一标识符;鉴权Key(非必需)包含txSecret和txTime两部分,开启推流鉴权后需使用包含鉴权Key的URL进行推流,若未开启推流鉴权,则推流地址中无需“?”及其后内容;txTime(地址有效期)表示何时该URL会过期,格式支持十六进制的UNIX时间戳。
播放地址规则与推流地址相同,也由播放前缀、播放域名(domain)、应用名称(AppName)、流名称(StreamName)、播放协议后缀、鉴权参数及其他自定义参数组成。
播放协议及前缀对比如表1所示。
表 1 播放协议及前缀对比Table 1. Comparison of broadcast protocol and prefix播放协议 播放前缀 备注 WebRTC webrtc:// 秒开效果最好,支持超高并发 HTTP-FLV http://或https:// 秒开效果较好,支持超高并发 RTMP rtmp:// 秒开效果差,不支持高并发 第3步进行直播推流及播放。直播推流方式包括PC端、Web端、APP端和小程序端,因本系统中使用的DJI GO 4软件本身具备流媒体直播能力,所以进行推流时直接选用APP端。推流端参数可根据现场信号干扰、网络情况设置,通过多次测试,一般情况下内置信道模式设置为自动选择,图传码率选择4 Mbps,图传模式设置为720 P。为便于多渠道展示直播画面,采用PC端及APP端分别完成播放,其中PC端使用Visible Light Communication播放工具,该播放器适用所有常见的直播格式,操作便捷,安装后打开网络串流,输入拉流地址,点击播放即可。APP端使用视频云SDK的直播播放功能,采用延迟低、支持超高并发的HTTP-FLV播放协议,以“http”开头,以“.flv”结尾。SDK功能集成中通过添加View、创建Player、启动播放等步骤实现。对于传回影像的画面调整、屏幕截图、截流录制、直播回看等功能,需继续深入研究。通过多次测试,FLV和WebRTC协议播放效果更佳,考虑到标准直播通常采用FLV协议,快直播使用WebRTC协议,而快直播流量费用基本为标准直播费用的2倍,因此本系统在满足传输效果的情况下采用FLV协议。
第4步是将现场灾情信息传回后方指挥大厅。无人机获取的现场灾情信息推流至云服务器后,可在前后方电脑端、手机端实现视频直播,后方指挥大厅可直接将电脑端直播信号投屏到大屏显示,另外也可利用现场通信车中的视频会议系统,以信号线的形式将视频图像传输至后方指挥中心,可完成多方视频调度中灾情信息的显示。现场通信车中包含4G和卫星2种通信方式,如遇现场通信中断,可使用卫星通信方式临时完成视频传输过程,在一定程度上丰富了通信手段,解决了现场通信单一的问题,可依靠非常规手段将无人机拍摄到的现场画面回传至后方指挥中心。
3. 现场不同数据传输方式对比
本文使用单兵图传和无人机直播传输的方式测试视频传输效果,重点考虑画面显示效果、数据安全及便捷性等因素,通过对比确定了较适用的无人机直播传输方法,可在震后网络正常或中断的情况下实现无人机图像的实时传输。经查阅相关文献,黄恩钊等(2018)在无人机信息传输过程中主要通过基于小鱼视频和应急卫星的方式实现,其他行业中也存在通过视频监控平台端访问、视频直播、在本地服务器上建立通信系统等方式,以实现无人机信息的实时传输。
本研究采用的单兵图传方式为:单兵设备与遥控器连接,采集图像信息,将图像信息上传到远端服务器中,通过4G公网的形式在前后方电脑端访问回传的影像,显示效果如图6所示。该通信手段可完成影像的传输,在单兵设备使用初期效果较好,但因远端服务器建立在第三方公司,常存在服务器维护不及时、运行不稳定的情形,影响正常使用。该方式仅支持在电脑端登录专用软件访问,显示形式较单一,且传回的图像信息清晰度较差,视频质量损失较严重,其中帧率仅为12帧/s,有卡屏现象。无人机直播传输效果如图7、图8所示。
本系统可实现前后方电脑端及手机端的实时显示,播放形式更灵活,且云服务器具备云直播功能,按照FLV协议设定推流、播放地址相关参数后,基本无须人工日常维护。通过肉眼观察回传画面可知,直播传输画面较单兵系统清晰度高,视频质量基本无损失,帧率>30帧/s,稳定性较好。另外,也可通过云服务器后台查看每次直播信息,包含流数据、SDK质量监控等,便于掌握通信效果,保证通信质量。
在无人机直播方式中测试了RTMP、FLV、WebRTC播放协议下的传输效果,在播放延迟方面,RTMP协议延迟较高,接近3 s,FLV和WebRTC协议延迟保持在2 s以下。在拉流端并发连接数多的情况下,WebRTC协议播放效果最佳,FLV协议次之,RTMP协议不支持;在拉流端低并发的情况下,FLV和WebRTC协议播放效果差别较小,均可满足使用需求。
4. 结论
地震发生后,利用无人机进行现场拍摄,快速获取灾情,并在第一时间将灾情信息回传至后方指挥大厅,对灾情研判、指挥决策具有重要参考意义。本文研究了通过无人机视频直播快速获取现场灾情信息的方法,对比分析了该方法和单兵图传的传输效果,并在应急演练中开展了模拟测试,确定无人机直播方式效果更佳,更符合实际应用需求。在该系统中选用3种不同的播放协议,从时延、流畅度及流量费用等方面进行了综合分析,选用效果佳且流量费用低的FLV播放协议。该系统为现场灾情信息回传至后方指挥大厅缩短了时间,提高了工作效率。
本研究使用的直播手段可完成现场灾情信息的传输,并实现电脑端及手机端的显示,同时可满足在网络中断时依靠现场应急通信车的卫星组网功能恢复灾情信息的传输。一般情况下,后方指挥大厅可直接将电脑端直播信号投放到大屏显示,也可利用现场视频会议系统将灾情信息回传至后方指挥中心,完成多方视频调度中灾情信息的显示。但对于无人机灾情获取手段,在实践中仍存在一些问题,如受飞行空域的影响,在个别区域飞行时,信号干扰较大,画面传输效果差,通过调整信道模式,传输效果虽有一定改善,但图像仍不稳定。另外,对于云直播手段中拍摄影像的截流录制、直播回看及灾情自动报警等问题仍有待深入探索与实践。
获取的现场灾情信息如何更好地为后方指挥决策提供支持取决于拍摄影像的质量及数据可处理能力,本系统仅对图像传输进行了研究,未涉及所获取灾情信息的图像处理功能,下一步工作中将针对现场灾情信息的快速处理开展研究,包括正射影像的快速拼接、建筑物的识别、震害信息的提取等。
-
表 1 播放协议及前缀对比
Table 1. Comparison of broadcast protocol and prefix
播放协议 播放前缀 备注 WebRTC webrtc:// 秒开效果最好,支持超高并发 HTTP-FLV http://或https:// 秒开效果较好,支持超高并发 RTMP rtmp:// 秒开效果差,不支持高并发 -
陈楠, 宋智礼, 2020. 无人机自主飞行精确定位导航在环境安全中的应用. 现代电子技术, 43(2): 97—100, 105Chen N. , Song Z. L. , 2020. Application of UAV autonomous flight precise positioning navigation in environmental safety. Modern Electronics Technique, 43(2): 97—100, 105. (in Chinese) 杜强, 2019. 基于无人机摄影的地震形变场测量技术研究. 华南地震, 39(2): 118—123Du Q. , 2019. Research on seismic deformation field measurement technology based on UAV photography. South China Journal of Seismology, 39(2): 118—123. (in Chinese) 郭建兴, 袁小祥, 韶丹, 2018. 基于“数字地球”的无人机遥感地震应急系统研制. 信息通信, (8): 65—68Guo J. X. , Yuan X. X. , Shao D. , 2018. Development of unmanned aerial vehicle remote sensing earthquake emergency system based on Digital Earth Platform. Information & Communications, (8): 65—68. (in Chinese) 黄恩钊, 何萍, 王挺等, 2018. 基于指挥系统的无人机在灾情快速获取中的应用. 华南地震, 38(S1): 53—56Huang E. Z. , He P. , Wang T. , et al. , 2018. Application of UAV based on earthquake command system in rapid disaster acquisition. South China Journal of Seismology, 38(S1): 53—56. (in Chinese) 黄海峰, 易武, 张国栋等, 2017. 引入小型无人机遥感的滑坡应急治理勘查设计方法. 防灾减灾工程学报, 2017, 37(1): 99—104Huang H. F. , Yi W. , Zhang G. D. , et al. , 2017. Method of Using Micro-UAVRS in engineering geological investigation and design for emergency control of landslides. Journal of Disaster Prevention and Mitigation Engineering, 37(1): 99—104. (in Chinese) 牛志, 2017. 以流媒体服务器为核心的无人机4 G直播系统. 广播与电视技术, 44(11): 50—55Niu Z. , 2017. UAV 4 G live broadcasting system based on streaming media server. Radio & TV Broadcast Engineering, 44(11): 50—55. (in Chinese) 石珺, 赛景波, 张楠西等, 2017. 基于RED5无人机直播系统的设计与实现. 国外电子测量技术, 36(8): 100—103 doi: 10.3969/j.issn.1002-8978.2017.08.023Shi J. , Sai J. B. , Zhang N. X. , et al. , 2017. Design and implementation of UAV living system based on RED5. Foreign Electronic Measurement Technology, 36(8): 100—103. (in Chinese) doi: 10.3969/j.issn.1002-8978.2017.08.023 王林, 2016. 无人机在应对地震灾害方面的应用及发展. 中国应急救援, (6): 33—36. doi: 10.19384/j.cnki.cn11-5524/p.2016.06.009 王晓青, 黄树松, 丁香等, 2015. 尼泊尔8.1级地震建筑物震害遥感提取与分析. 震灾防御技术, 10(3): 481—490 doi: 10.11899/zzfy20150301Wang X. Q. , Huang S. S. , Ding X. , et al. , 2015. Extraction and analysis of building damage caused by nepal MS8.1 earthquake from remote sensing images. Technology for Earthquake Disaster Prevention, 10(3): 481—490. (in Chinese) doi: 10.11899/zzfy20150301 王之, 刘超, 刘秀菊等, 2018. 基于SEaTH算法的芦山地震无人机低空遥感影像信息对象级分类. 地震研究, 41(2): 173—179 doi: 10.3969/j.issn.1000-0666.2018.02.003Wang Z. , Liu C. , Liu X. J. , et al. , 2018. Study on the object-based classification of low-altitude UAV remote sensing image of the Lushan earthquake based on the SEaTH algorithm. Journal of Seismological Research, 41(2): 173—179. (in Chinese) doi: 10.3969/j.issn.1000-0666.2018.02.003 温奇, 陈世荣, 和海霞等, 2012. 无人机遥感系统在云南盈江地震中的应用. 自然灾害学报, 21(6): 65—71Wen Q. , Chen S. R. , He H. X. , et al. , 2012. Application of remote sensing system of unmanned aerial vehicle in Yingjiang, Yunnan earthquake. Journal of Natural Disasters, 21(6): 65—71. (in Chinese) 张顺, 赵玉金, 白永飞等, 2019. 基于低空无人机的草原灌丛遥感辨识方法. 热带地理, 39(4): 512—520Zhang S. , Zhao Y. J. , Bai Y. F. , et al. , 2019. Remote sensing identification of grassland shrubs using low-altitude unmanned aerial vehicles. Tropical Geography, 39(4): 512—520. (in Chinese) 张雪华, 王晓青, 杜晓霞等, 2019. 基于无人机遥感影像及其点云特征的建筑物震害提取. 地震研究, 42(2): 230—235Zhang X. H. , Wang X. Q. , Du X. X. , et al. , 2019. Extraction of buildings' seismic damage based on remote sensing images of UAV and its point clouds characteristic. Journal of Seismological Research, 42(2): 230—235. (in Chinese) Xu Z. Q. , Yang J. S. , Peng C. Y. , et al. , 2014. Development of an UAS for post-earthquake disaster surveying and its application in MS7.0 Lushan Earthquake, Sichuan, China. Computers & Geosciences, 68: 22—30. 期刊类型引用(1)
1. 贾国英,李易轩. 无人机在农村公路养护工程中的应用. 中国交通信息化. 2025(S1): 291-293+306 . 百度学术
其他类型引用(1)
-