mysql/Java服务端对emoji的支持与问题解决方法详解

所属分类: 数据库 / Mysql 阅读数: 791
收藏 0 赞 0 分享

本文实例讲述了mysql Java服务端对emoji的支持与问题解决方法。分享给大家供大家参考,具体如下:

问题描述

将底层抓取的微博数据存入mysql,有些数据存入失败,查看Tomcat后,核心错误信息如下:

// 抛出字符集不支持的异常
sql.SQLException: Incorrect string value: '\xF0\x9F\x98\x97\xF0\x9F...' for column 'CONTENT' at row 1

原因分析

  • MYSQL 5.5 之前, utf8 编码只支持1~3个字节,即BMP这部分的unicode编码区(基本就是0000~FFFF这一区)。
  • Emoji表情是4个字节,而mysql的utf8编码最多3个字节,所以导致数据插不进去
  • 5.5之后,mysql加入utf8mb4编码,可支持4个字节,即一个字符最多能有4字符,因此utf8mb4编码可支持更多的字符集。
  • 因此,如果项目要存储移动产品的用户文本,必须将DB字符集从UTF8/GBK等传统字符集升级到utf8mb4

【注】

  • utf8mb4兼容utf8,且比utf8能表示更多的字符。所以将DB字符集从UTF8或GBK等传统字符集升级到utf8mb4时不用担心字符的兼容性问题

解决方法

过滤特殊的表情符

content = content.replaceAll("[\\x{10000}-\\x{10FFFF}]", "");// 简单粗暴,不人性化

升级数据库字符集

1、utf8mb4支持的mysql版本为5.5.3+,若mysql低于该版本请先升级

2、修改database、table和column字符集

3、修改mysql配置文件my.cnf(windows为my.ini),my.cnf一般在etc/mysql/目录下,找到后在以下三部分里添加如下内容:

[client] default-character-set = utf8mb4

[mysql] default-character-set = utf8mb4

[mysqld]
character-set-client-handshake = FALSE
character-set-server = utf8mb4
collation-server = utf8mb4_unicode_ci
init_connect='SET NAMES utf8mb4'

4、重启mysql并查看字符集

在mysql命令行输入:

SHOW VARIABLES WHERE Variable_name LIKE 'character_set_%' OR Variable_name LIKE 'collation%';

重启之前的字符集

重启之后的字符集

【注】

  • 必须保证以下字段为utf8mb4
    • character_set_client
    • character_set_connection
    • character_set_database
    • character_set_results
    • character_set_server

以上4步完成后,利用mysql客户端navicat在表中手动加入Emoji表情⛄,若能保存成功说明数据库已升级成功。

这些字符集配置的具体区别参考 深入Mysql字符集设置

5、检查服务器端db配置文件

// 配置spring时使用的链接如下:
url="jdbc:mysql://localhost:3306/gzhou?allowMultiQueries=true&useUnicode=true&zeroDateTimeBehavior=convertToNull&transformedBitIsBoolean=true&autoReconnect=true&autoReconnectForPools=true&failOverReadOnly=false&maxReconnects=10"
// 若characterEncoding=utf8mb4,插入数据时报错Caused by: java.sql.SQLException: Unsupported character encoding 'utf8mb4'
// 去掉characterEncoding或characterEncoding=utf8

Emoji表情

android系统中,搜狗、百度输入法自带Emoji表情。

【注】

如果系统之间Emoji表情符号不兼容,只能看到方块;

更多关于MySQL相关内容感兴趣的读者可查看本站专题:《MySQL常用函数大汇总》、《MySQL日志操作技巧大全》、《MySQL事务操作技巧汇总》、《MySQL存储过程技巧大全》及《MySQL数据库锁相关技巧汇总

希望本文所述对大家MySQL数据库计有所帮助。

更多精彩内容其他人还在看

MySQL中的基本查询语句学习笔记

这篇文章主要介绍了MySQL中的基本查询语句学习笔记,包括使用limit限制查询结果条数和合并查询结果的方法,需要的朋友可以参考下
收藏 0 赞 0 分享

详解MySQL中的分组查询与连接查询语句

这篇文章主要介绍了MySQL中的分组查询与连接查询语句,同时还介绍了一些统计函数的用法,需要的朋友可以参考下
收藏 0 赞 0 分享

linux下安装升级mysql到新版本(5.1-5.7)

这篇文章主要介绍了linux下安装升级mysql到新版本(5.1-5.7),需要的朋友可以参考下
收藏 0 赞 0 分享

MySQL备份时排除指定数据库的方法

这篇文章主要介绍了MySQL备份时排除指定数据库的方法的相关资料,需要的朋友可以参考下
收藏 0 赞 0 分享

Mysql数据库之索引优化

MySQL凭借着出色的性能、低廉的成本、丰富的资源,已经成为绝大多数互联网公司的首选关系型数据库。本文给大家介绍mysql数据库之索引优化,感兴趣的朋友一起学习吧
收藏 0 赞 0 分享

Mysql性能优化方案分享

这篇文章主要为大家分享了Mysql性能优化方案,帮助大家进行Mysql性能优化,感兴趣的小伙伴们可以参考一下
收藏 0 赞 0 分享

MySQL中一些常用的数据表操作语句笔记

这篇文章主要介绍了MySQL中一些常用的数据表操作语句笔记,其中重点讲解了删除关联表的方法,需要的朋友可以参考下
收藏 0 赞 0 分享

mysql版本5.5.x升级到5.6.x步骤分享

在我做的一个项目中,最近我对生产服务器上的一系列系统软件进行了升级,包括git、nginx、MySQL和PHP。这篇文章讲的是升级MySQL的过程,其他软件的升级将在其他文章中介绍。
收藏 0 赞 0 分享

Mysql IO 内存方面的优化

这篇文章主要介绍了Mysql IO 内存方面的优化 的相关资料,需要的朋友可以参考下
收藏 0 赞 0 分享

Mysql忘记root密码怎么办

MySQL有时候忘记了root密码是一件伤感的事,下面通过本文给大家介绍Mysql忘记root密码怎么办的相关知识,需要的朋友参考下
收藏 0 赞 0 分享
查看更多