当前位置: 代码网 > it编程>数据库>Mysql > Mysql审核查询平台Archery部署过程

Mysql审核查询平台Archery部署过程

2025年02月18日 Mysql 我要评论
1 archery产品介绍官网地址:https://archerydms.com/在技术团队内部进行有效的 sql 管理并不容易,如何进行数据库的统一管理,和线上 sql 操作的统一审核,变得尤为重要

1 archery产品介绍

官网地址:https://archerydms.com/

在技术团队内部进行有效的 sql 管理并不容易,如何进行数据库的统一管理,和线上 sql 操作的统一审核,变得尤为重要。

archery,这个开源的 sql 审核查询平台,或许能为 sql 审核工作带来不小的效率提升。

一条高质量的 sql 语句能使整个服务加速好几倍,而一条有问题的 sql 则可能会引发灾难,造成严重后果,因此,数据库管理人员的工作就十分重要了,他们掌握着千百万数据的命运,以下是简单部署,详情部署请查看官方文档!

archery是archer的分支项目,定位于sql审核查询平台,旨在提升dba的工作效率,支持多数据库的sql上线和查询,同时支持丰富的mysql运维功能,所有功能都兼容手机端操作,项目位于 https://github.com/hhyo/archery,同时也在 gitee 上开源,位于 https://gitee.com/rtttte/archery

2 基于docker搭建archery

2.1 系统环境

  • centos7
  • docker 17.2
  • archery1.8.1

2.2 安装 docker

2.2.1 安装 docker compose

# 如果下载速度比较慢,可以切换源
sudo curl -l "https://github.com/docker/compose/releases/download/1.24.1/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
# 注意修改权限,不然会报错
sudo chmod +x /usr/local/bin/docker-compose
# 测试,查看版本
docker-compose --version

2.2.2 下载archery

#下载地址 
https://github.com/hhyo/archery/releases/

#下载解压后路径pwd
/usr/local/archery-1.8.1

2.2.3 安装并启动

# 启动
cd /usr/local/archery-1.8.1/src/docker-compose
# 下载的东西很多,速度比较慢,如果下载失败,就多试几次 
# 生成了五个docker实例:redis inception archery goinception mysql
docker-compose -f docker-compose.yml up -d

2.2.4 表结构初始化

docker exec -ti archery /bin/bash
cd /opt/archery
source /opt/venv4archery/bin/activate
python3 manage.py makemigrations sql
python3 manage.py migrate 
# 编译翻译文件(有些命令也不知道为啥执行,参考一些教学,这条可选执行)
python3 manage.py compilemessages

2.2.5 数据初始化

# 不同的版本,不一定都有这两个sql文件,所以这两个命令不一定会执行成功
python3 manage.py dbshell<sql/fixtures/auth_group.sql
python3 manage.py dbshell<src/init_sql/mysql_slow_query_review.sql

2.2.6 创建管理用户

python3 manage.py createsuperuser

# python3 manage.py createsuperuser
用户名: admin
电子邮件地址: [email protected]
password: 
password (again): 
superuser created successfully.

2.2.7 退出重启

exit
docker restart archery

2.2.8 日志查看和问题排查

docker logs archery -f --tail=50

2.2.9 启动成功查看

访问 http://ip:9123

用刚刚创建的admin账号登录

2.2.10 端口占用情况

redis 端口:6379
mysql端口:3306
inception端口:6669
goinception端口:4000
archery端口:9123

3 基本操作

3.1 停止

# 停止
docker stop redis
docker stop inception
docker stop archery
docker stop goinception
docker stop mysql

3.2 删除

docker rm -f redis
docker rm -f inception
docker rm -f archery
docker rm -f goinception
docker rm -f mysql

4 角色说明

角色说明
dba数据库管理员(database administrator,简称dba)
rd研发(research and development)
pm项目经理( project manager )
qa测试(quality assurance,中文意思是“质量保证”)

5 系统设置

5.1 goinception配置 对mysql进行审核和执行

这个需要提前配置好,不然会导致无法提交sql审核,备份库需要开启binlog,不然会执行失败

配置项说明
go_inception_host连接地址,docker-compose启动的请配置为容器名或者docker的ip地址
go_inception_portgoinception的连接端口,默认4000
backup_host备份库链接host,用于页面展示回滚语句
backup _port备份库链接端口
backup_user备份库链接用户
backup_password备份库链接密码

该配置信息,仅仅用于archery从备份库查询回滚语句使用,该配置信息不会被goinception服务使用,goinception连接备份库使用的数据库连接信息应在其自身的config.toml中配置。

5.2 sql查询

配置项说明
inception_hostinception连接host,用于sql查询语法解析,docker-compose启动的请配置为容器名或者docker的ip
inception_portinception连接端口,默认6669
query_check相关issues: https://github.com/hhyo/archery/issues/145

是否开启sql查询脱敏的inception检测,平台的sql查询功能依靠inception的语法树打印来解析查询语句中包含的库、表、字段信息,从而进行数据脱敏

  • 开启query_check后,如果遇到inception无法解析的语句,则会直接抛出错误信息,禁止查询
  • 关闭query_check后,如果遇到inception无法解析的语句,系统不再进行数据脱敏,会有数据泄露的风险,请谨慎选择
  • 动态脱敏不支持的语法:嵌套子查询、部分非单字段函数,如concat(phone,’,’)、max(id+num)

data_masking: 是否开启动态脱敏,会利用inception语法树打印,结合后台设置的脱敏字段和脱敏规则,对查询数据进行脱敏。遇到无法解析的语句是报错还是返回未脱敏的数据同样由query_check参数控制 * 正常脱敏:

开启query_check后执行不支持语句

关闭query_check后执行不支持语句

  • max_execution_time: 在线查询超时时间阈值,单位秒,默认60,超时的语句会被终止并返回提示信息,目前仅支持mysql 
  • admin_query_limit: 超级管理员的查询限制行数,超级管理员查询数据时不做权限校验,仅由该参数设置最大行数

5.3 sql优化

配置项说明
sqladvisor_pathsqladvisor的可执行文件路径,路径需要完整,docker镜像内已经集成 * 1.4.0以前的docker版本配置成/opt/sqladvisor * 1.4.0以以后的docker版本配置成 /opt/archery/src/plugins/sqladvisor
soar_pathsoar的可执行文件路径,路径需要完整,docker镜像内已经集成,docker镜像内已经集成 * 1.4.0以前的docker版本配置成/opt/soar * 1.4.0以以后的docker版本配置成 /opt/archery/src/plugins/soar

5.4 其他配置

配置项说明
index_path_url系统首页路径,默认是sql工单页面
binlog2sqlbinlog2sql调用路径,用于实现binlog2sql解析的功能,docker镜像内已经集成 * docker部署请配置为 /opt/archery/src/plugins/binlog2sql/binlog2sql.py
default_auth_group默认权限组名,新用户首次登录自动关联, 老用户请手动配置
default_resource_group默认资源组名,新用户首次登录自动关联, 老用户请手动配置
default_resource_group默认资源组名,新用户首次登录自动关联, 老用户请手动配置
lock_time_threshold账户登录失败锁定时间(秒)
lock_cnt_threshold账户登录失败几次锁账户
sign_up_enabled是否开启注册功能,关闭后将无法自主注册用户

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持代码网。

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com