行业资讯丨整HPC,一台笔记本也可以!

2019-12-27 16:48:19 朱明劲 31

提起高性能计算HPC),

你最先想到什么?

是全球超算TOP 500

六连冠的天河二号

还是帮助中国实现戈登·贝尔奖

零突破的神威·太湖之光


超高运算速度,

超大运算资料量,

HPC正以前所未有的迅捷性,

促进人类信息处理能力再攀升。

图片关键词

有人说了,HPC如此高大上,要实现肯定很困难吧。

资深IT老司机告诉你:不难,一点都不难,只要一台笔记本咱们自己就能整

image.png

不过……

咱们整的是HPC演示环境啦!

image.png

1搭建前的准备

高性能计算机也被称作并行计算机,由很多台计算机同时并行计算,以解决一个复杂的问题。搭建高性能计算的演示环境之前,需要有一些考虑和准备。

首先是HPC集群软件的选择。

目前,HPC系统越来越多运行的是Linux OS,入围世界Top500的超级计算机100%采用的都是Linux系统。为了帮助用户更方便地搭建和使用HPCLinux基金会成立了OpenHPC项目组,将软件包预先编译搭建好,这样用户就可以通过标准的Linux安装流程,快速安装部署一套HPC系统。

因此本次HPC演示环境搭建采用了OpenHPC软件,其网址为http://openHPC.community。以下是OpenHPC集群的架构图:

image.png

其次是OpenHPC软件模块。

OpenHPC可以支持的操作系统有CentOSSuSe Linux,集群管理软件有WarewulfxCAT,作业调度软件有PBSproSlurm等。考虑到CentOS用户比较多,Warewulf相对简单,PBSpro在国内有商业厂商支持,所以本次安装OpenHPC选择了CentOSWarewulfPBSpro的组合。

最后是笔记本上的虚拟平台。

笔者日常工作的笔记本是1Dell Latitude 5490Inteli5 1.7GHz CPU16GB内存,500GBSSD硬盘,运行Windows10  Enterprise

由于需要创建虚拟主机,可以考虑采用的虚拟主机平台主要有三种VMware Workstation 15 Player,  Oracle VM VirtualBox 和微软的Hyper-VManager

由于VMware Workstation Player免费版本不可以同时支持多个VM(虚拟机)的运行,Oracle VirtualBox VM安装CentOS7.6时会出现鼠标点击无效的Bug所以本次部署采用的是Windows10 Hyper-V

万事俱备,即刻开始搭建HPC运行环境!

2HPC运行环境搭建八步走

1Windows10 Hyper-V虚拟平台的设置

 开启Hyper-V模式支持:

在搜索栏输入“turn windows features”,进入配置窗口,勾选Hyper-V复选框,随后重启Windows10

image.png

image.png

 运行Hyper-V:

在搜索栏输入“Hyper-V Manager”,启动Hyper-V manager,随后将Hyper-V Manager连接到服务器:点击右侧的连接到服务器,选择本地,即这台笔记本电脑,本电脑的名字为“*DST2”

image.png

2创建OpenHPC的管理节点——sms,并安装CentOS 7.6 操作系统

 点击左侧的服务器“*DST2”,随后点击右侧的“New”,在弹出的菜单栏中选择“Virtual Machine”

image.png

 按照创建VM导航,创建OpenHPC的管理节点,在”name“处输入sms,作为VM的名字;随后选择Hyper-V支持的VM类型:第一代Generation 1,申请内存空间为2GBCentOS最少需要2GB的内存,硬盘容量建议为40GB)。

image.png

 配置网络连接为连接外部网络external交换机,配置VM的本地硬盘为40GB

image.png

 OpenHPC支持的最新版本为CentOS7.6,可以在http://vault.centos.org/7.6.1810/isos/x86_64/CentOS-7-x86_64-DVD-1810.isoCentOS7.6下载到本地。然后在Image file (.iso)处,指定CentOS ISO 文件的本地路径。

image.png

 完成设置后进入总结页面,点击“Finish”完成。

image.png

 开启smsVM,在Virtual Machines的窗口中选择sms后,点击右侧菜单“action”下属“sms”“connection”,连接完成后,点击弹出窗口“action”下的“start”开始。

image.png

 开始在sms vm虚拟机上安装CentOS7.6。选择”English”语言,时区可以选择“Shanghai,China”,在“Language Support”支持语言中点击简体中文。在software selection 中,安装最小包——带有Gnome Application图形界面的软件包。

image.png

 随后按照提示步骤进行配置,配置“Installation Destination”,然后等待大约2分钟,检测“Installation Source”完成,就会出现以下界面。

image.png

 点击“Begin Installation”开始安装,约安装1398个软件包,在此期间需要设置root的密码口令:

image.png

估计运行14分钟,就可以完成OS的安装。按“reboot”重启,在”Initial Setup”中,接受License许可。配置主机名和网络,将主机名设定为”sms”,网络eth0设置为”ON”开启。

image.png

 这里需要添加一个用户名,如“test“,输入口令,跳过google等用户注册,完成CentOS7.6 的安装。随即以“test“用户登录到系统,我们需要用root登录,点击右上角的开关按钮,选择”logout”退出用户“test”,然后用root重新登录系统。

image.png

3配置OpenHPC sms 管理节点的网络

 配置Hpyer-v Switch网络

进入Hyper-v manager,通过“Virtual switch manager”创建2个网络,一个是“External”OpenHPC External,用于连接外网Internet的访问,将连接smseth0网卡;一个是“Private”OpenHPC Private,用于HPC集群的内部管理。

image.png

image.png

 Windows10的网络配置中,OpenHPC ExternalvEthernet (default)设为共享。右键v Ethernet ,OpenHPC External 的网卡,点击Properties ->Sharing,在Internet Connection Sharing的下拉菜单中选择vEthernet(Default Switch)

image.png

 配置sms节点的网络接口。在sms控制台上创建2个网络接口卡eth0,连接external网,eth1,连接private 网络。

image.png

image.png

重新连接sms,并start,用root登录后,启动一个terminal,运行

#pingwww.sohu.com,或者其他网络网址如www.sina.cn,可以ping通。(www.sohu.comwww.sina.cn是代表互联网上的一个主机名字,对应各自的IP地址,如果可以ping通,即表示可以和Internet网络连接。)

#yum list installed, 可以显示yum 运行正常。

4sms节点的配置和OpenHPC发行版本软件安装

 设置再次确认和配置主机名  

#hostnamectl set-hostname sms

#hostname

可以显示主机名已经修改;

重新启动一个terminal,可以在提示符处,看到名字改为sms

 设置eth1网络接口IP地址为172.16.0.1/16,可以通过网络配置工具。

image.png

 配置/etc/hosts文件

#echo172.16.0.1 sms >> /etc/hosts

可以检查一下

#cat/etc/hosts  

 禁用selinux

#sestatus

#vim/etc/selinux/config

selinux=disabled

#reboot    

 安装OpenHPC release

#yum install http://build.openhpc.community/OpenHPC:/1.3/CentOS_7/x86_64/ohpc-release-1.3-1.el7.x86_64.rpm

image.png

 安装docs-ohpc

#yum install docs-ohpc

image.png

5创建计算节点vm4c1-c4

 创建vmc1sms的创建类似,需要配置2GB的内存和40GB的硬盘。此外,在配置网络时需要选择OpenHPCPrivate网络:

image.png

 在安装选项中,选择后安装Operating System:

image.png

 配置c1BIOS,引导为pxe,由legacy Network Adapter 最先引导;

image.png

 配置c1,添加网卡,选择添加Legacy Network Adapter, 并添加到OpenHPC Private网络中。

image.png

 设置Legacy Network Adapter MAC地址,c1MAC地址的最后两位为01

image.png

 依次创建c2-c4vm,并修改其MAC地址的最后2位分别为02-04

6sms管理节点安装OpenHPC软件

 编辑input.local 文件

[sms]##cp /opt/ohpc/pub/doc/recipes/centos7/input.local input.local

[sms]#cp -p/opt/ohpc/pub/doc/recipes/centos7/x86_64/warewulf/pbspro/recipe.sh .

修改input.local文件,将计算节点private网络,进行pxe引导的网卡MAC输入到文件中:

#vim input.local

c_mac[0]=00:00:00:00:00:01

c_mac[1]=00:00:00:00:00:02

c_mac[2]=00:00:00:00:00:03

c_mac[3]=00:00:00:00:00:04

 安装OpenHPC 软件

[sms]#export OHPC_INPUT_LOCAL=./input.local

[sms]#./recipe.sh

安装大约需要45分钟,具体时间由网络速度和CPU速度决定,此过程一结束,OpenHPC就成功安装到sms节点上。要注意的是,我们vmc1-c4计算节点没有BMC控制端口需要在vm中手动开启

image.png

7启动计算节点

 Hpyer-v Server,启动c1计算节点。随后依次开启c2,c3。不过开启c4的时候将会出错,这是因为笔记本电脑的内存无法支持第四个vm

image.png

 现在,笔记本电脑上已经完成了OpenHPC软件的部署,运行了3个计算节点,由一个sms管理节点进行管理。

8测试

 测试节点是否正常运行

#pdsh-w c[1-3] hostname

 PBS队列交互式执行

[root@sms]#su– test

[test@sms]#mpicc-O3 /opt/ohpc/pub/examples/mpi/hello.c

[root@sms]#qsub-I -l select=3:mpiprocs=4

[root@sms]#prun./a.out 

1577436377524036.png

这个命令的意思是在3个节点上,每个节点执行4次程序,结果在屏幕上显示。

 PBS队列批处理执行

image.png



这个命令的意思是在2个节点上,每个节点执行4次程序,结果输出到job.out文件中。

至此,OpenHPC已经遵循手册要求在笔记本电脑上全部安装完成!

3安装经验

 操作前先查阅一下OpenHPC的相关资料,包括安装手册、input.localrecipe.sh 3个文件;

 Windows10 Hyper-V 虚拟机smsInternet访问,需要将网卡设置为external,并在Windows10 的网络设置中将“external””default”共享;

 Hyper-V计算节点vm c1-c3,引导网卡是“Legacy Network Adapter”,其内存需要2GB,另外硬盘方面的需求也比较大,笔者这次配置的是40GB

 vm的名字和IP等按照input.local进行设定,会比较简单且易于维护;

 结束前的代码。输入一段html内容到httpdhtml目录:

[root@sms]#echo “

style=”color:red;text-align:center;margin:1em;font-size:3em;”>

我爱祖国!”>> /var/www/html/index.html


随后打开浏览器,输入sms的地址,可以显示刚刚输入的内容。

image.png

以上就是本期高性能计算演示环境的搭建过程了,感兴趣的童鞋可以动手操作一下!


在线留言

电话咨询
邮件咨询
在线地图
QQ客服