问题现象
后台应用程序使用的是云上的 mysql 服务,需要给 mysql 数据表里 insert 一些数据,平时都是先运行一个 mysql 的 pod:
kubectl run mysql-client --rm -it --restart='never' --image mysql:5.7 --command -- env lang=c.utf-8 mysql -hx.x.x.x -uusername -ppassword
然后将 insert sql 文件复制到 mysql pod 里面,在 mysql pod 中执行 source sql 文件命令。这次 insert 数据时发现环境上已经有运行的 mysql pod了,就将 sql 文件复制到已运行的 mysql pod中,然后通过命令进入到mysql pod里,再连接到云上 mysql:
kubectl exec -it mysql-client -- bash mysql -hx.x.x.x -uusername -ppassword
接着执行 source sql文件,然后通过前端页面查看录入的数据,发现是乱码。但是在执行 source 命令的 mysql 客户端 select 查询录入的数据却是预期的中文字符。
问题原因
例如 source 执行的 sql文件中的 sql 语句是
insert into table_1 (title) values ('好');
sql文件是utf8编码的,mysql 客户端向 mysql 服务器发送的 title 字段值的 “好” 的 utf8编码字节序列,十六进制表示是 e5a5bd。
mysql-client pod的字符集是 posix,mysql 客户端向 mysql 服务器发送数据采用的就是 latin1编码,mysql 服务器收到数据后,使用 latin1 解码 e5a5bd ,得到字符串 好。
root@mysql-client:/# locale lang= language= lc_ctype="posix" lc_numeric="posix" lc_time="posix" lc_collate="posix" lc_monetary="posix" lc_messages="posix" lc_paper="posix" lc_name="posix" lc_address="posix" lc_telephone="posix" lc_measurement="posix" lc_identification="posix" lc_all= mysql> show variables like 'character_set_%'; +--------------------------+----------------------------+ | variable_name | value | +--------------------------+----------------------------+ | character_set_client | latin1 | | character_set_connection | latin1 | | character_set_database | utf8 | | character_set_filesystem | binary | | character_set_results | latin1 | | character_set_server | utf8 | | character_set_system | utf8 | | character_sets_dir | /usr/share/mysql/charsets/ | +--------------------------+----------------------------+ 8 rows in set (0.01 sec)
由于数据表字段的字符集是 utf8,mysql 服务器再将字符串 好 用 utf8 编码得到字节序列 c3a5c2a5c2bd,这个可以通过如下 sql 语句查询证实。
select hex(title) from table_1;
这里说一下在验证此过程时遇到的问题:
刚开始使用的中文字符“我”进行验证,对应的 utf8 编码是 e68891,88 和 91 (位于 80 和 9f 之间)在 latin1 编码中对应的是控制字符,手动解码后的字符不是正常字符,再使用 utf8 编码时为 c3a6c288c291,和数据表中存储的 c3a6cb86e28098 不一样(mysql 代码中编码肯定对控制字符进行了正确编码),为了避免控制字符,想到选用不在 80 和 9f 之间的中文字符“好” e5a5bd ,这样手动编码后和数据表存储的都是 c3a5c2a5c2bd,这才验证了这个过程。
页面查询乱码的原因:
前端页面通过调用后台接口查询数据,后台服务连接 mysql 使用的字符集是 utf8,所以character_set_results 就是 utf8。
mysql 服务器从数据表中查询的字节序列是 c3a5c2a5c2bd,数据表字段的编码也是 utf8,和 character_set_results 一样,发送给后台服务客户端的字节序列就是 c3a5c2a5c2bd。
后台服务使用 utf8 对 c3a5c2a5c2bd 解码得到 好,所以前端页面显示的就是 好,而不是预期的中文字符 ”好“。
mysql 命令行客户端select 查询正常的原因:
mysql 命令行客户端 session 的 character_set_results 是 latin1 。
mysql 服务器从数据表中查询的字节序列是 c3a5c2a5c2bd,使用 utf8 解码后是 好。
再使用 character_set_results 的字符集 latin1 进行编码得到 e5a5bd,将字符序列 e5a5bd 发送给 mysql 命令行客户端。
再发送给本地的图形界面的终端模拟器 mobaxterm,mobaxterm 使用的字符集是 utf8,使用 utf8 对 e5a5bd 解码输出中文字符“好”。
解决方法
连接云上 mysql 时指定字符集为 utf8
mysql -hx.x.x.x -uusername -ppassword --default-character-set=utf8
将 mysql pod 的字符编码设置为 utf8, 这样 mysql 客户端连接服务器时使用的字符集就是 utf8
export lang=c.utf-8
或者直接在如下命令启动的 mysql 客户端中执行 source 命令,此命令通过 env lang=c.utf-8 设置了 pod的字符编码为 utf8:
kubectl run mysql-client --rm -it --restart='never' --image mysql:5.7 --command -- env lang=c.utf-8 mysql -hx.x.x.x -uusername -ppassword
这样,mysql 的 character_set_client、character_set_connection、character_set_results都会设置为 utf8, 就和数据表字段的字符集保持一致,不会出现乱码问题。
mysql> show variables like 'character_set_%'; +--------------------------+----------------------------+ | variable_name | value | +--------------------------+----------------------------+ | character_set_client | utf8 | | character_set_connection | utf8 | | character_set_database | utf8 | | character_set_filesystem | binary | | character_set_results | utf8 | | character_set_server | utf8 | | character_set_system | utf8 | | character_sets_dir | /usr/share/mysql/charsets/ | +--------------------------+----------------------------+ 8 rows in set (0.00 sec)
mysql 客户端和服务器通信中的字符集处理
客户端给服务器发送消息过程
- 如果 mysql 命令中没有指定 --default-character-set 参数,客户端使用操作系统字符集对消息编码发送给服务器,否则使用 --default-character-set 参数的字符集对消息编码。
- 服务器将 character_set_client、 character_set_connection、character_set_results 设置为客户端的字符集。
- 收到客户端的消息后,使用 character_set_client 字符集对消息解码。
- 再用 character_set_connection 对应的字符集对解码后的消息编码后处理。
服务器处理消息时要转换为 character_set_connection 字符集进行处理,比较规则只有 connection 有,character_set_client 和 character_set_results 都没有:
mysql> show variables like 'collation_%'; +----------------------+-------------------+ | variable_name | value | +----------------------+-------------------+ | collation_connection | latin1_swedish_ci | | collation_database | utf8_general_ci | | collation_server | utf8_general_ci | +----------------------+-------------------+ 3 rows in set (0.00 sec)
服务器给客户端发送消息过程
- 服务器从数据表中查询字段内容
- 将字符内容先使用字段的字符集解码,再使用 character_set_results 字符集编码后发给客户端。
- 客户端使用操作系统的字符集解码消息进行展示,这里对于使用本地图形界面的终端模拟器登录远程主机的场景来说,消息还会发送到本地图形界面的终端模拟器,使用终端模拟器的字符集对消息解码再展示出来。
到此这篇关于mysql insert 记录后查询是乱码问题分析的文章就介绍到这了,更多相关mysql insert 查询乱码内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
发表评论