openGauss
开源数据库
openGauss社区官网
开源社区
openGauss数据库安装部署(单实例)
openGauss 单机部署文档(CentOS7.6+openGauss 1.0.0)
**说明: ** openGauss 支持单机部署和单机 HA 部署;
openGauss HA 部署时,备机数量为 1~4 台;
openGauss 脚本安装仅支持单实例部署,如果一台主机部署多个实例,建议手动使用命令安装;
openGauss Connectors 的 Linux 版本:JDBC、ODBC、libpq.
一、环境准备
硬件需求:
CPU >= 8c
内存 >= 32GB
硬盘 >= 1.5GB (禁用磁盘的 Disk Cache Policy)
网卡 >= 300MB (建议做网卡 bond)
## 检查硬件配置
cat /proc/cpuinfo |grep processor
cat /etc/redhat-release
free -m
## 如果内存小于32GB,会因为内存不足导致数据库无法启动,此时需要修改shared_buffers和max_connections调整openGauss所需的内存
软件需求:
Linux 操作系统 | openEuler 20.3LTS/CentOS 7.6 |
Linux 文件系统 | 剩余 inode 个数>15 亿 |
工具 | Huawei JDK 1.8.0、psmisc、bzip2 |
Python | openEuler: 支持 Python 3.7.x ;CentOS 7.6:支持 Python 3.6.x |
其他软件包 | libaio-devel >= 0.3.109-13 flex >= 2.5.31 ;bison >= 2.7.4 ;ncurses-devel >= 5.9-13.20130511 glibc-devel >= 2.17-111 ;patch >= 2.7.1-10 ;lsb_release >= 4.1 |
示例:
yum install -y lksctp*
yum install -y java-1.8.0-openjdk* psmisc bzip2 python3 python3-devel
yum install -y libaio-devel flex bison ncurses-devel glibc-devel patch redhat-lsb-core
## 当系统环境仅限内网使用时,可以配置系统镜像ISO作为默认YUM源,但是该YUM源(CentOS 7.6)默认不包含python3,需要手动编译安装。
[root@ecs-7777 ~]# rpm -qa java-1.8.0-openjdk psmisc bzip2 libaio-devel flex bison ncurses-devel glibc-devel patch redhat-lsb-core lksctp-tools* python3 python3-devel
psmisc-22.20-16.el7.x86_64
flex-2.5.37-6.el7.x86_64
redhat-lsb-core-4.1-27.el7.centos.1.x86_64
bzip2-1.0.6-13.el7.x86_64
java-1.8.0-openjdk-1.8.0.252.b09-2.el7_8.x86_64
libaio-devel-0.3.109-13.el7.x86_64
bison-3.0.4-2.el7.x86_64
ncurses-devel-5.9-14.20130511.el7_4.x86_64
lksctp-tools-devel-1.0.17-2.el7.x86_64
patch-2.7.1-12.el7_7.x86_64
lksctp-tools-1.0.17-2.el7.x86_64
glibc-devel-2.17-307.el7.1.x86_64
lksctp-tools-doc-1.0.17-2.el7.x86_64
[root@ecs-7777 ~]# checksctp
SCTP supported
######Python3 源码编译安装
## Python3 源码编译安装耗时约30分钟
yum install gcc zlib* openssl* -y
tar -zxvf Python-3.6.11.tgz
cd Python-3.6.11
./configure --prefix=/usr/python3.6.11 --enable-optimizations --enable-shared
make
make install
ln -s /usr/python3.6.11/bin/python3.6 /usr/bin/python3
ln -s /usr/python3.6.11/bin/pip3 /usr/bin/pip3
ln -s /usr/python3.6.11/lib/libpython3.6m.so.1.0 /usr/lib64/
export LD_LIBRARY_PATH=/usr/python3.6.11/lib:$LD_LIBRARY_PATH
[root@db1 bin]# python3 -V
Python 3.6.11
二、操作系统配置
1.编辑 Hosts 文件
vi /etc/hosts
--------------------
***.***.***.*** db1.opengauss.com #Gauss OM IP Hosts Mapping
***.***.***.*** db2.opengauss.com #Gauss OM IP Hosts Mapping
--------------------
2.关闭防火墙
systemctl status firewalld
systemctl disable firewalld.service
systemctl stop firewalld.service
3.关闭 SELinux
vi /etc/selinux/config
---------------------------
SELINUX=disabled
---------------------------
## SELinux的配置文件需要重启操作系统才可以生效,可以使用setenforce 0 使SELinux临时变更为Permissive状态,降低SELinux的影响。
4.修改字符集参数
vi ~/.bash_profile
---------------------------
export LANG=en_US.UTF-8
---------------------------
source ~/.bash_profile
5.设置时区并统一主机时间
## 检查时区和时间是否正确
[root@ecs-7777 ~]# ll /etc/localtime
lrwxrwxrwx. 1 root root 35 Apr 27 22:06 /etc/localtime -> ../usr/share/zoneinfo/Asia/Shanghai
[root@ecs-7777 ~]# date
Fri Jul 17 15:49:08 CST 2020
## 如果时区不正确,则copy时区模板至/etc/localtime(此处以上海时间为例)
[root@ecs-7777 ~]# cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
6.关闭 SWAP
vi /etc/fstab ## 注释掉swap分区挂载
swapoff -a ## 关闭swap
7.[可选]设置网卡的 MTU 值(建议 8192)
ifconfig eth0 mtu 8192
## 也可在ifcfg-eth0网络配置文件设置"MTU=8192",使之永久生效[需要网络工程师协助修改网络设备配置]
8.配置 SSH 服务(允许 root 登录,关闭 Banner)
检查 root 登录配置和 Banner 的配置
cat /etc/ssh/sshd_config |grep -v ^#|grep -E 'PermitRoot|Banner'
如果不满足要求,应修改配置如下:
vi /etc/ssh/sshd_config
--------------------------
#Banner none ## 注释ssh登录的欢迎信息
PermitRootLogin yes ## 允许root用户远程登录
--------------------------
systemctl restart sshd.service
9.创建管理用户组(管理用户稍后使用脚本 gs_preinstall 创建)
groupadd dbgrp
10.配置内核参数
# vi /etc/sysctl.conf
---------------------------
net.ipv4.tcp_max_tw_buckets = 10000
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_keepalive_time = 30
net.ipv4.tcp_keepalive_probes = 9
net.ipv4.tcp_keepalive_intvl = 30
net.ipv4.tcp_retries1 = 5
net.ipv4.tcp_syn_retries = 5
net.ipv4.tcp_synack_retries = 5
net.sctp.path_max_retrans = 10
net.sctp.max_init_retransmits = 10
net.sctp.association_max_retrans = 10
net.sctp.hb_interval = 30000
net.ipv4.tcp_retries2 = 12
vm.overcommit_memory = 0
net.sctp.sndbuf_policy = 0
net.sctp.rcvbuf_policy = 0
net.sctp.sctp_mem = 94500000 915000000 927000000
net.sctp.sctp_rmem = 8192 250000 16777216
net.sctp.sctp_wmem = 8192 250000 16777216
net.ipv4.tcp_rmem = 8192 250000 16777216
net.ipv4.tcp_wmem = 8192 250000 16777216
net.core.wmem_max = 21299200
net.core.rmem_max = 21299200
net.core.wmem_default = 21299200
net.core.rmem_default = 21299200
net.ipv4.ip_local_port_range = 26000 65535
kernel.sem = 250 6400000 1000 25600
vm.min_free_kbytes = 102400 ## 内存*5%
net.core.somaxconn = 65535
net.ipv4.tcp_syncookies = 1
net.sctp.addip_enable = 0
net.core.netdev_max_backlog = 65535
net.ipv4.tcp_max_syn_backlog = 65535
net.ipv4.tcp_fin_timeout = 60
kernel.shmall = 1152921504606846720
kernel.shmmax = 18446744073709551615
net.ipv4.tcp_sack = 1
net.ipv4.tcp_timestamps = 1
vm.extfrag_threshold = 500
vm.overcommit_ratio = 90
----------------------------------------
redhat 6.4&6.5 需要打开 sctp 的 checksums,否则可能引起创建表或数据库失败
[root@ecs-7777 ~]# echo 0 > /sys/module/sctp/parameters/no_checksums
[root@ecs-7777 ~]# cat /sys/module/sctp/parameters/no_checksums
N
11.修改系统资源限制
vi /etc/security/limits.conf
----------------------------
* soft stack 3072
* hard stack 3072
* soft nofile 1000000 ## 安装时脚本自动设置
* hard nofile 1000000 ## 安装时脚本自动设置
----------------------------
vi /etc/security/limits.d/90-nproc.conf
----------------------------
* soft nproc unlimited ## 系统支持的最大进程数
----------------------------
## 说明:在使用gs_preinstall脚本后,limits资源虽然已经设置,但可能存在暂时不生效的情况,需要重启系统使之生效。
12.关闭透明页 transparent_hugepage
vi /etc/default/grub
----------------------------
#修改:
GRUB_CMDLINE_LINUX="rhgb quiet transparent_hugepage=never"
----------------------------
grub2-mkconfig -o /boot/grub2/grub.cfg ## 重新编译grub,关闭透明页
cat /proc/meminfo |grep Huge
## 临时关闭透明页方法
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag
13.[可选]网卡参数配置(配置万兆业务网卡[backIp1])
rx = 4096 # 预安装时是否由脚本自动设置
tx = 4096 # 预安装时是否由脚本自动设置
mtu = 8192 # 推荐值:8192,同时需要协调对网络端口做出相应调整
三、预安装 openGauss 软件
1.配置 clusterconfig.xml 文件
<?xml version="1.0" encoding="UTF-8"?>
<ROOT>
<!-- 整体信息 -->
<CLUSTER>
<!-- 数据库名称 -->
<PARAM name="clusterName" value="Sample1" />
<!-- 数据库节点名称(hostname) -->
<PARAM name="nodeNames" value="node1,node2" />
<!-- 节点IP,与nodeNames一一对应 -->
<PARAM name="backIp1s" value="***.***.***.***,***.***.***.***"/>
<!-- 数据库安装目录 与其他路径相互独立-->
<PARAM name="gaussdbAppPath" value="/gauss/app" />
<!-- 日志目录 与其他路径相互独立 默认路径"$GAUSSLOG/安装用户名"-->
<PARAM name="gaussdbLogPath" value="/gauss/log/omm" />
<!-- 临时文件目录 默认位置在/opt/huawei/wisequery/perfadm_db-->
<PARAM name="tmpMppdbPath" value="/gauss/tmp" />
<!--数据库工具目录 与其他路径相互独立 默认路径在"/opt/huawei/wisequery"-->
<PARAM name="gaussdbToolPath" value="/gauss/om" />
<!--数据库core文件目录-->
<PARAM name="corePath" value="/gauss/corefile"/>
<!-- openGauss类型,此处示例为单机类型,“single-inst”表示单机一主多备部署形态-->
<PARAM name="clusterType" value="single-inst"/>
</CLUSTER>
<!-- 每台服务器上的节点部署信息 -->
<DEVICELIST>
<!-- node1上的节点部署信息 -->
<DEVICE sn="1000001">
<!-- node1的hostname -->
<PARAM name="name" value="node1"/>
<!-- node1所在的AZ及AZ优先级 -->
<PARAM name="azName" value="AZ1"/>
<PARAM name="azPriority" value="1"/>
<!-- node1的IP,如果服务器只有一个网卡可用,将backIP1和sshIP1配置成同一个IP -->
<!-- 主机在后端存储网络中的IP地址(内网IP),所有openGauss主机使用后端存储网络通讯 -->
<PARAM name="backIp1" value="***.***.***.***"/>
<!-- 设置SSH可信通道IP地址(外网IP),若无外网,则可以不设置该选项或者同backIp1设置相同IP -->
<PARAM name="sshIp1" value="***.***.***.***"/>
<!--DBnode 数据库主节点信息-->
<PARAM name="dataNum" value="1"/>
<!--DBnode端口号-->
<PARAM name="dataPortBase" value="26000"/>
<!--DBnode主节点上数据目录,及备机数据目录-->
<PARAM name="dataNode1" value="/gauss/data/db1,node2,/gauss/data/db1"/>
<!--DBnode节点上设定同步模式的节点数-->
<PARAM name="dataNode1_syncNum" value="0"/>
实例名称 | 实例数据目录 | 备注 |
---|---|---|
主 DBnode | /gauss/data/xxx | 其中,xxx 为当前主 DBnode 的名称 |
备 DBnode | /gauss/data/slaveX | 其中,xxx 为当前备 DBnode 的名称 |
备注:
- dataListenIp1 ---> 侦听的 IP 地址,用于接受其他数据库节点的连接。未设置时,使用对应主机上的 backIp1 生成。
- dataHaIp1 ---> 主、备 DBnode 通讯的 IP 地址。未设置时,使用对应主机上的 backIp 生成。value 中需要设置主、备 DBnode 所在主机的 IP 地址。
- "/gauss/om"存放互信等工具,避免权限问题,不要把实例数据目录放在此目录下。
- 安装目录和数据目录需为空或者不存在,否则可能导致安装失败。
- 确保配置的目录之间不相互耦合。
- 若需要安装脚本自动创建安装用户时,各配置的目录需保证不与系统创建的默认用户目录耦合关联。
- 配置 openGauss 路径和实例路径时,路径中不能包含"|",";","&","$","<",">","`","","","'","{","}","(",")","[","]","~","*","?"特殊字符。
- 配置数据库节点名称时,请通过 hostname 命令获取数据库节点的主机名称,替换示例中的 node1、node2。
- 配置文件中所有 IP 参数(backIP、sshIP、listenIP 等)均只支持配置一个 IP,如果配置第二个 IP 参数,则不会读取第二个参数的配置值。
单节点配置文件示例
# vi clusterconfig.xml
<?xml version="1.0" encoding="UTF-8"?>
<ROOT>
<!-- openGauss整体信息 -->
<CLUSTER>
<PARAM name="clusterName" value="dbCluster" />
<PARAM name="nodeNames" value="node1" />
<PARAM name="backIp1s" value="***.***.***.***"/>
<PARAM name="gaussdbAppPath" value="/gauss/app" />
<PARAM name="gaussdbLogPath" value="/gauss/log/omm" />
<PARAM name="tmpMppdbPath" value="/gauss/tmp" />
<PARAM name="gaussdbToolPath" value="/gauss/om" />
<PARAM name="corePath" value="/gauss/corefile" />
<PARAM name="clusterType" value="single-inst"/>
</CLUSTER>
<!-- 每台服务器上的节点部署信息 -->
<DEVICELIST>
<!-- node1上的节点部署信息 -->
<DEVICE sn="1000001">
<PARAM name="name" value="node1"/>
<PARAM name="azName" value="AZ1"/>
<PARAM name="azPriority" value="1"/>
<!-- 如果服务器只有一个网卡可用,将backIP1和sshIP1配置成同一个IP -->
<PARAM name="backIp1" value="***.***.***.***"/>
<PARAM name="sshIp1" value="***.***.***.***"/>
<!--dbnode-->
<PARAM name="dataNum" value="1"/>
<PARAM name="dataPortBase" value="26000"/>
<PARAM name="dataNode1" value="/gauss/data/db1"/>
</DEVICE>
</DEVICELIST>
</ROOT>
2.环境初始化
mkdir /gauss
chgrp dbgrp -R /gauss
chmod 775 -R /gauss
mkdir -p /soft/openGauss
chmod 775 -R /soft
mv clusterconfig.xml /soft/openGauss
mv openGauss-1.0.0-CentOS-64bit.tar.gz /soft/openGauss
cd /soft/openGauss
tar -zxvf openGauss-1.0.0-CentOS-64bit.tar.gz
交互式安装
若是共用的环境,需要加入--sep-env-file=ENVFILE 参数分离环境变量,避免与其他用户相互影响。
在 openGauss 的安装过程中,需要在 openGauss 中主机间执行命令,传送文件等操作,故在普通用户安装前需要确保互信是连通的。前置脚本中会先建立 root 用户间的互信,然后创建普通用户,并建立普通用户间的互信,安装完毕后即可删除 root 用户的互信。
export LD_LIBRARY_PATH=/soft/openGauss/script/gspylib/clib:/usr/python3.6.11/lib:$LD_LIBRARY_PATH
cd /soft/openGauss/script
./gs_preinstall -U omm -G dbgrp -X /soft/openGauss/clusterconfig.xml
当不允许创建 root 用户互信时,在各主机上使用创建的 omm 用户执行本地模式前置,然后用户手动创建 openGauss 用户互信:如果预安装指定-L 参数,预安装前需手动将所有节点的主机名和 IP 映射关系,写入各个主机的/etc/hosts 文件,并在每个映射关系后添加注释内容"#Gauss OM IP Hosts Mapping".
cd /soft/openGauss/script
./gs_preinstall -U omm -G dbgrp -L -X /soft/openGauss/clusterconfig.xml ##在每个节点手动执行
手动创建互信(脚本)
vi /soft/hostfile
-----------------------
***.***.***.***
***.***.***.***
-----------------------
cd /soft/openGauss/script
./gs_sshexkey -f /soft/hostfile
非交互式安装(可选)
手动创建互信(脚本)
vi /soft/hostfile
-----------------------
***.***.***.***
***.***.***.***
-----------------------
cd /soft/openGauss/script
./gs_sshexkey -f /soft/hostfile
cd /soft/openGauss/script
./gs_preinstall -U omm -G dbgrp -X /soft/openGauss/clusterconfig.xml --non-interactive
## 错误排查:
如果准备安装环境失败请根据openGauss日志目录“$GAUSSLOG/om”下的“gs_preinstall-YYYY-MM-DD_HHMMSS.log”和“gs_local-YYYY-MM-DD_HHMMSS.log”中的日志信息排查错误。例如配置文件中“gaussdbLogPath”参数指定的路径为“/var/log/gaussdb”,则“$GAUSSLOG/om”路径为“/var/log/gaussdb/omm/om”,omm用户为运行openGauss的用户。
四、部署安装 openGauss 软件
执行安装脚本
chmod -R 775 /soft/
chown omm:dbgrp /soft -R
su - omm
cd /soft/openGauss/script
./gs_install -X /soft/openGauss/clusterconfig.xml ## 密码复杂度要求:大写+小写+数字+特殊字符(任选3类,至少8位)
说明:
- 默认字符集与操作系统设置保持一致,也可以在数据库初始化时使用-E 参数指定数据库的字符集为 GBK/UTF-8/Latinl,默认字符集为 SQL_ASCII
- openGauss 支持字符集的多种写法:gbk/GBK、UTF-8/UTF8/utf8/utf-8、Latinel/latinel
- 执行 gs_install 脚本时,如果输入参数–autostart=no, 则工具脚本在配置(config)步骤完成后退出,不会自动启动 openGauss,需要用户通过执行 gs_om -t start 命令手动启动。
- 安装过程中会生成 ssl 证书,证书存放路径为{gaussdbAppPath}/share/sslcert/om,其中{gaussdbAppPath}为集群 openGauss 配置文件中指定的程序安装目录。日志文件路径下会生成两个日志文件:“gs_install-YYYY-MMDD_HHMMSS.log”和“gs_local-YYYY-MM-DD_HHMMSS.log”
删除 root 的 SSH 互信
su - root
rm -fr ~/.ssh
备机可读(可选)
1> 停止主、备数据库
2> 分别修改主、备库 postgres.conf 文件
## 内容如下:
wal_level=hot_standby
hot_standby = on
hot_standby_feedback = on
3> 重启主、备数据库
五、安装验证
su - root
cd /soft/openGauss/script/
./gs_checkos -i A
./gs_checkos -i B
六、初始化数据库
方法一:脚本初始化
gs_initdb -E UTF-8 --locale=zh_CN.UTF-8 /opt/gaussdb/data/data_n1 --nodename dn1 -w "Bigdata@123"
方法二:gsql 方式
# gsql -d postgres -p 26000
postgres=# alter role omm identified by 'Gauss@123' replace 'Gauss_111';
postgres=# CREATE DATABASE mydb WITH ENCODING 'GBK' template = template0;
简单查询测试:
postgres=# select version();
postgres=# \l
List of databases
Name | Owner | Encoding | Collate | Ctype | Access privileges
-----------+-------+-----------+---------+-------+-------------------
mydb | omm | UTF8 | C | C |
postgres | omm | SQL_ASCII | C | C |
template0 | omm | SQL_ASCII | C | C | =c/omm +
| | | | | omm=CTc/omm
template1 | omm | SQL_ASCII | C | C | =c/omm +
| | | | | omm=CTc/omm
七、卸载数据库
登录主节点执行
su - omm
gs_uninstall --delete-data # 卸载集群所有数据库
gs_uninstall --delete-data -L # 仅卸载本地数据库
# 如果卸载失败请根据“$GAUSSLOG/om/gs_uninstall-YYYY-MM-DD_HHMMSS.log”中的日志信息排查错误。
八、清理系统环境配置
在 openGauss 卸载完成后,如果不需要在环境上重新部署 openGauss,可以运行脚本 gs_postuninstall 对 openGauss 服务器上环境信息做清理。openGauss 环境清理是对环境准备脚本 gs_preinstall 所做设置的清理。
1> 确保 root 用户 SSH 互信
2> 执行清理脚本,如下:
cd /opt/software/openGauss/script
./gs_postuninstall -U omm -X /opt/software/openGauss/clusterconfig.xml --delete-user --delete-group
./gs_postuninstall -U omm -X /opt/software/openGauss/clusterconfig.xml --delete-user --delete-group -L ## 仅清理本地环境
## 若为环境变量分离的模式安装的集群需删除之前source的环境变量分离的env参数
3> 删除 root 的 SSH 互信,并删除 ENVFILE 环境变量:unset MPPDB_ENV_SEPARATE_PATH
注意:若是共用的环境,需要加入--sep-env-file
附录:【手动创建 SSH 互信的方法】
1> 生成本地秘钥 Key(每个主机执行一遍)
ssh-keygen -t rsa
cat .ssh/id_rsa.pub >> .ssh/authorized_keys ##生成本机授权
2> 收集各节点公钥至本机的 known_hosts
ssh-keyscan -t rsa plat1 >> ~/.ssh/known_hosts
ssh-keyscan -t rsa plat2 >> ~/.ssh/known_hosts
ssh-keyscan -t rsa plat3 >> ~/.ssh/known_hosts
3> 将互信文件分发给其他所有主机
scp -r .ssh plat2:~
scp -r .ssh plat3:~
4> ssh 登录测试