- StarRocks
- 产品简介
- 快速开始
- 表设计
- 数据导入
- 数据提取
- 使用StarRocks
- 管理手册
- 参考手册
- SQL参考
- 用户账户管理
- 集群管理
- ADMIN CANCEL REPAIR
- ADMIN CHECK TABLET
- ADMIN REPAIR
- ADMIN SET CONFIG
- ADMIN SET REPLICA STATUS
- ADMIN SHOW CONFIG
- ADMIN SHOW REPLICA DISTRIBUTION
- ADMIN SHOW REPLICA STATUS
- ALTER SYSTEM
- CANCEL DECOMMISSION
- CREATE RESOURCE GROUP
- CREATE FILE
- DROP FILE
- INSTALL PLUGIN
- SHOW BACKENDS
- SHOW BROKER
- SHOW FRONTENDS
- SHOW FULL COLUMNS
- SHOW INDEX
- SHOW PLUGINS
- SHOW TABLE STATUS
- SHOW FILE
- UNINSTALL PLUGIN
- DDL
- ALTER DATABASE
- ALTER TABLE
- ALTER VIEW
- ALTER RESOURCE
- BACKUP
- CANCEL BACKUP
- CANCEL RESTORE
- CREATE DATABASE
- CREATE INDEX
- CREATE MATERIALIZED VIEW
- CREATE REPOSITORY
- CREATE RESOURCE
- CREATE TABLE AS SELECT
- CREATE TABLE LIKE
- CREATE TABLE
- CREATE VIEW
- CREATE FUNCTION
- DROP DATABASE
- DROP INDEX
- DROP MATERIALIZED VIEW
- DROP REPOSITORY
- DROP RESOURCE
- DROP TABLE
- DROP VIEW
- DROP FUNCTION
- HLL
- RECOVER
- RESTORE
- SHOW RESOURCES
- SHOW FUNCTION
- TRUNCATE TABLE
- DML
- ALTER ROUTINE LOAD
- BROKER LOAD
- CANCEL LOAD
- CANCEL EXPORT
- DELETE
- EXPORT
- GROUP BY
- INSERT
- PAUSE ROUTINE LOAD
- RESUME ROUTINE LOAD
- CREATE ROUTINE LOAD
- SELECT
- SHOW ALTER
- SHOW BACKUP
- SHOW DATA
- SHOW DATABASES
- SHOW DELETE
- SHOW DYNAMIC PARTITION TABLES
- SHOW EXPORT
- SHOW LOAD
- SHOW PARTITIONS
- SHOW PROPERTY
- SHOW REPOSITORIES
- SHOW RESTORE
- SHOW ROUTINE LOAD
- SHOW ROUTINE LOAD TASK
- SHOW SNAPSHOT
- SHOW TABLES
- SHOW TABLET
- SHOW TRANSACTION
- SPARK LOAD
- STOP ROUTINE LOAD
- STREAM LOAD
- 数据类型
- 辅助命令
- 函数参考
- 日期函数
- convert_tz
- curdate
- current_timestamp
- curtime
- datediff
- date_add
- date_format
- date_sub
- date_trunc
- day
- dayname
- dayofmonth
- dayofweek
- dayofyear
- from_days
- from_unixtime
- hour
- minute
- month
- monthname
- now
- second
- str_to_date
- timediff
- time_slice
- timestampadd
- timestampdiff
- to_date
- to_days
- unix_timestamp
- utc_timestamp
- week
- weekofyear
- year
- date_floor
- hours_diff
- minutes_diff
- months_diff
- seconds_diff
- weeks_diff
- years_diff
- quarter
- timestamp
- time_to_sec
- str2date
- microseconds_add
- microseconds_sub
- 加密函数
- 地理位置函数
- 字符串函数
- JSON 函数
- 模糊/正则匹配函数
- 工具函数
- 聚合函数
- Bitmap函数
- 数组函数
- bit函数
- cast函数
- hash函数
- 条件函数
- 百分位函数
- 数学函数
- 日期函数
- 系统变量
- 错误码
- 系统限制
- SQL参考
- 常见问题解答
- 性能测试
- Release Notes
通过 StarRocks Manager 自动部署 StarRocks 集群
本文介绍如何使用 StarRocks Manager 自动部署 StarRocks 集群。
StarRocksManager 为企业版功能,如需试用,请至 StarRocks 官网 页面下方点击「现在咨询」获取。
前提条件
您需要在所有拟部署 StarRocks 的节点上安装以下依赖:
依赖 | 说明 |
---|---|
JDK(1.8 或以上) | 下载完成后,您需要在 FE 节点配置文件 fe.conf 中的 JAVA_HOME 配置项下指定 JDK 的安装路径。 |
Python(2.7 或以上) | |
python-setuptools | 您可以通过 yum install setuptools 或 apt-get install setuptools 安装。 |
MySQL(5.5 或以上) | 您需要通过 MySQL 存储 StarRocksManager 平台的数据。 |
安装 StarRocks Manager
下载并解压 StarRocks Manager 安装包。
解压完成后,安装 StarRocks Manager。
bin/install.sh -h \
-d /home/disk1/starrocks/starrocks-manager-20200101 \
-y /usr/bin/python -p 19321 -s 19320
-d
:StarRocks Manager 的安装路径。-y
:Python 路径。-p
:admin_console_port
,默认为19321
。-s
:supervisor_http_port
,默认为19320
。
安装部署 StarRocks
完成安装 StarRocks Manager 后,您可以在 Web 页面中安装部署 StarRocks 集群。
配置 MySQL 数据库
首先,您需要配置一个安装好的 MySQL 数据库,用于存储 StarRocks Manager 的管理、查询、报警等信息。
配置节点信息
添加需要部署的节点,并配置 Agent 和 Supervisor 安装目录和端口,Python 路径以及其他信息。
说明 Agent 负责采集机器的统计信息,Supervisor 管理进程的启动与停止。两者均安装在用户环境,不会影响系统环境。
安装 FE 节点
配置 FE 节点相关信息。端口的含义参考下方端口列表。
建议您配置 1 或者 3 个 FE Follower。如果请求压力较大,建议您酌情增加 FE Observer 数量。
Meta Dir
:StarRocks 的元数据目录。建议您配置独立的 starrocks-meta 和 FE 节点 log 目录。
安装 BE 节点
配置 FE 节点相关信息。端口的含义参考下方端口列表。
安装 Broker
建议您在所有节点上安装 Broker。端口的含义参考下方端口列表。
安装中心服务
中心服务负责从 Agent 拉取并汇总信息后存储在 MySQL 中,并提供监控报警的服务。此处邮件服务是指通过邮箱接收报警通知。邮件服务可以稍后配置。
配置中心服务以及邮件服务的相关信息。
端口列表
实例名称 | 端口名称 | 默认端口 | 通讯方向 | 说明 |
---|---|---|---|---|
BE | be_port | 9060 | FE --> BE | BE 上 thrift server 的端口, 用于接收来自 FE 的请求。 |
BE | webserver_port | 8040 | BE <--> BE | BE 上的 http server 的端口。 |
BE | heartbeat_service_port | 9050 | FE --> BE | BE 上心跳服务端口(thrift), 用于接收来自 FE 的心跳。 |
BE | brpc_port | 8060 | FE <--> BE BE <--> BE | BE 上的 brpc 端口, 用于 BE 之间通讯。 |
FE | http_port | 8030 | FE <--> 用户 | FE 上的 http server 端口。 |
FE | rpc_port | 9020 | BE --> FE FE <--> FE | FE 上的 thrift server 端口。 |
FE | query_port | 9030 | FE <--> 用户 | FE 上的 mysql server 端口。 |
FE | edit_log_port | 9010 | FE <--> FE | FE 上的 BDBJE 之间通信端口。 |
Broker | broker_ipc_port | 8000 | FE --> Broker BE --> Broker | Broker 上的 thrift server, 用于接收请求。 |
其中 http_port
、query_port
是常用端口,前者用于网页访问 FE,后者用于 MySQL 客户端访问。
FAQ
Q:如何设置 ulimit
?
A:您可以通过在所有机器上运行 ulimit -n 65536
命令设置。如果系统提示您“没有权限”,请尝试以下方案:
首先,请在 /etc/security/limits.conf 添加如下配置:
# 4个元素,具体可以参考 limits.conf 中的说明,*代表所有用户。
* soft nofile 65535
* hard nofile 65535
然后,请在 /etc/pam.d/login 和 /etc/pam.d/sshd 中添加如下配置:
session required pam_limits.so
最后,请确认 /etc/ssh/sshd_config 中存在 UsePAM yes。如果没有,请添加该参数,并运行 restart sshd
。
Q:安装 Python 时遇到问题 __init__() takes 2 arguments (4 given)
,如何处理?
A:如果在安装 Python 时遇到问题 __init__() takes 2 arguments (4 given)
,请执行如下步骤:
首先,请运行 which python
命令确认 Python 安装路径为 /usr/bin/python。
然后,请删除 python-setuptools 安装包:
yum remove python-setuptools
接下来,请删除 setuptool 相关文件。
rm /usr/lib/python2.7/site-packages/setuptool* -rf
最后,您需要获取 ez_setup.py 文件。
wget https://bootstrap.pypa.io/ez_setup.py -O - | python