中国现代教育装备
中华人民共和国教育部主管 中国高等教育学会主办
刊号:CN11-4994/T(国内) ISSN1672-1438(国际)
中国期刊全文数据库 中文科技期刊数据库
中国核心期刊遴选数据库
首页 杂志简介 杂志目录 期刊封面 推荐阅读 顾问专家 投稿须知 投稿查询 广告业务 订阅须知 ★自制设备大赛★
您当前的位置:中国现代教育装备 >> 首页 >> 资讯平台
高教 普教
总367期 总365期 总363期
总361期 总359期 总357期
总355期 总353期 总351期
总349期 总347期 总345期
 装备时空 更多>>
“迎建党百年大庆 走百年奋斗之路” ——定向越野活动纪实
 编务说明 更多>>
 资讯平台  
浪潮K1 Power助力东南大学搭建科研高性能大数据平台
来源:《中国现代教育装备》杂志 时间:2021-8-3 11:33:47

  近年来,我国人工智能产业发展迅猛,图像识别、语音识别、视频分析与大数据处理等技术创新应用进入世界先进行列,我国人工智能发明专利授权总量居全球第一,核心产业规模持续增长,已形成覆盖技术层和应用层的完整产业链和应用生态,并不断创造出新市场、新发展机会。数据显示,截至去年底,全球人工智能产业规模达1565亿美元,同比增长12.3%;我国产业规模为434亿美元,同比增长13.75%,超过全球增速。在全球人工智能竞争格局中,中国已跻身第一梯队。

  人工智能的发展将给交通、金融、工业、能源、媒体等行业带来数字化升级的新思路和新解法,甚至已经开始重塑行业面貌,进而影响人类社会的未来。人工智能的飞速发展,离不开产、学、研、用各方的共同努力,尤其离不开学、研界的前瞻研究。

 

  科研先行夯实产业发展学术根基

  东南大学自动化学院筹建于1957年,是国内最早设立自动化专业的院系之一,是国家“985工程”和“211工程”建设重点支持单位,曾于2017年入选国家首批“双一流”建设学科。学院开设有控制理论与控制工程等国家重点学科专业,建有控制科学与工程一级学科博士后流动站和长江学者特聘教授岗位,还设有“复杂工程系统测量与控制”教育部重点实验室,承担了一大批国家级和省部级基础研究和科技攻关项目,在网络控制、智能控制、集群控制、极地科考等领域已取得具有国际水平的研究成果,SCI、EI论文收录均列全国前列,在国际和国内控制界具有较大影响,有力地夯实了产业发展的学术根基。

  近年来,随着AI技术的加速发展,安防监控、无人机、手机终端等大量以图片视频为主的数据量激增,视频分析与大数据处理是成为人工智能的重点发展方向。

  紧跟产业发展趋势,在公共安全领域,东南大学自动化学院针对网络监控视频分析、车载监控视频分析、无人机航拍视频分析等关键技术,面向网络监控视频、车载监控视频、无人机航拍监控视频、多型号飞机试飞视频等,进行海量视频智能分析与环境感知的基础研究与工程应用工作。

 

  科研高性能大数据平台建设面临重重挑战

  基于视频大数据分析的基础研究与工程应用离不开高性能的计算平台支持,高性能的计算平台是助推学科快速发展及产业结合的关键。此外,上述项目多为与国内多家重点单位合作的国家级重点科研项目,数据量已超过100TB,且对数据保密的刚性要求极高,须使用网络隔离的专用的独立计算平台。

  东南大学自动化学院副教授、硕士研究生导师夏思宇教授表示,科研高性能大数据平台不仅要提供满足科研任务需求的算法支撑,还要提供一整套包括数据安全存储、数据分析,数据管理的解决方案。

  大数据分析平台作为系统建设的核心,承担着对指定视频文件进行基于内容的快速分析比对,从海量标签化、内容特征化的视频片段库中快速分析、搜索、比对、匹配出相似内容特征的视频文件,为大并发场景提供强大的计算分析能力的任务。以和国网合作进行视频分析与大数据处理项目为例,数据通常先由GPU节点对视频实现切片、特征提取、标注、入库工作。同时标注后的视频数据将为AI算法模型的构建、学习、迭代提供数据集支撑。训练完成后的模型将部署在GPU节点,为实时视频接入时的在线推理、分析处理提供算法支撑;而大数据分析节点作为核心,将对数据存储中的数据进行读取、比对分析、处理、回写等操作,为大并发场景提供强大的计算分析能力。该项目因数据为分辨率不低于1200万像素的高清原始视频及分析后的切片等,要求大数据平台还须提供海量存储空间及高性能的IO访问能力。

  同样的需求广泛存在于智能制造、医疗、体育运动、健康等行业,需要对数据进行全生命周期的管理,夏思宇补充到。

 

  浪潮K1 Power以三高一强特性打造高性能大数据平台

  简而言之,东南大学科研高性能大数据平台首先要具备强大的计算能力和大内存容量,以实现毫秒级的快速响应,高主频、多线程的处理器有利于缩短计算时间,提升并发处理能力;此外,还须具备TB级或者PB级的海量存储能力,且须保证较大的IO带宽;最重要的,该大数据平台还须满足长时间7×24不间断稳定运行,特别是核心计算设备,需要保证单机的可靠性达到5个9,每年计划外宕机不超过5分钟。

  通过综合选型,东南大学最终确定了以浪潮K1 Power服务器打造科研高性能大数据平台。

  在该科研高性能大数据平台解决方案中,配备了1台浪潮K1 Power FP5280G2作为整个集群管理节点,同时部署国产浪潮InsightHD大数据管理平台;配备了2台浪潮K1 Power FP5280G2作为业务管理节点,并采用Master/Slave主备模式部署Namenode(HDFS元数据),HBase Master/Standby,ResourceManager(YARN资源管理)等业务管理组件。

  值得一提的是,该大数据平台解决方案对计算及存储资源采用了分层、分区设计,针对在线数据分析计算过程对内存容量、存储IO带宽有较高要求,采用计算存储融合模式,配备12台浪潮IPS FP5280G2节点,既作为计算分析节点,同时也作为高速HDFS(SSD)存储节点,提供23TB可用存储空间,可对15个左右的铁塔1天的视频数据进行在线分析。针对大容量数据的存储需求,配备3台浪潮IPS FP5466G2分布式存储节点,构建海量存储空间,为SPARK,MR,HBASE提供不低于192TB存储空间,可以与在线数据间实现分级存储,同时采用双口100G网络,为数据访问提供20GB/s的前端接口,防止数据瓶颈。利用HDFS分层策略,保证数据主副本在计算存储融合节点SSD高速存储HDFS空间,其他副本在存储节点提供大容量HDFS空间,并根据SSD使用率自动完成数据向后端迁移。

  在平台软件层面则采用浪潮IsightHD大数据平台软件,包含Hadoop生态、Spark生态、全文检索生态等主要组件,提供海量数据的采集、存储、计算、分析挖掘、数据操作、管理监控、和数据安全等能力,以满足用户高性能大数据运算平台的需求。

  经投产实践检验,采用浪潮K1 Power架构的高性能大数据平台凭借其高性能、高IO带宽及每核的多线程等优势,保证了海量视频数据的实时存储与分析,高可靠、高安全特性亦满足了业务7×24的不间断运行;无限拓展的容量满足了海量视频库的PB级存储需要,并实现了在线数据间的存储分级。此外,还兼容了平台既有的Linux操作系统、C/C++开发语言及编译环境,不限于HDFS,YARN,SPARK,MR,HBASE等大数据生态组件和基础环境,满足科研需求的同时,培养了大量科研人才,并建立起完整的科研队伍,促进了学科和产业界的良性发展。


本网版权声明:
凡本刊本网发布的所有文字作品,版权均属于《中国现代教育装备》杂志(www.zgxdjyzb.com),未经本刊本网授权不得转载、摘编、伪原创或利用其它方式使用。违者本刊本网将追究相关法律责任。
凡本刊本网发布的照片、视频,属本刊本网原创或已获作者本人授权。未经授权,擅自使用者,本刊本网及相关权益人将追究其相关法律责任。
关于我们 | 期刊导读 | 顾问专家 | 法律声明 | 广告业务

Copyright(C) 《中国现代教育装备》杂志社 版权所有 
地址:北京市海淀区学院路35号世宁大厦一层108室(100191)
高教邮箱:cn11_4994@263.net  cmee@moe.edu.cn
基教邮箱:cn11_4994@163.com  cmee1@moe.edu.cn
电话:010-82098610

中国现代教育装备微信公众号二维码