• 面试官:谈谈你对分库分表的理解?

面试官:谈谈你对分库分表的理解?

2025-04-27 10:41:05 栏目:宝塔面板 143 阅读

在 MySQL 集群架构中有两种主流的集群实现,一种是读写分离,而另外一种则是数据分片。所谓的数据分片其实就是今天要聊的分库分表技术。

分库分表技术不但是日常工作中用于解决数据库中的数据量会急剧增长,解决单库单表性能瓶颈的一种方案,更是面试中的高频知识点。

阿里巴巴的《Java 开发手册》中规定:当单表的数据超过 500 万,或单表的大小超过 2GB 时,就要考虑分库分表了。那么什么是分库分表呢?

1.分库分表

首先来说,“分库分表”不是一个技术,而是两个技术实现,它分为:

  1. 分库

垂直分库

水平分库

  1. 分表

垂直分表

水平分表

1.1 垂直分库

垂直分库是按照业务将不同的表拆分到不同的数据库中。例如,在一个电商数据库中的用户表和订单表分别存放到不同的数据库中,如下图所示:

图片

1.2 水平分库

水平分库是将数据按照一定的规则(如用户 ID 取模、哈希等)分布到不同的数据库中。比如,根据用户 ID 对 10 取模,将用户数据分布到 10 个不同的数据库中,每个数据库都保存着完整的数据表结构,如下图所示:

图片

1.3 垂直分表

垂直分表是将一张表按照列的相关性拆分成多张表。例如,将一个包含大量字段的用户表,拆分为用户基本信息表和用户扩展信息表,如下图所示:

图片

1.4 水平分表

水平分表是将一张表的数据按照行进行拆分。例如按照用户 ID 的范围或者哈希值将数据拆分到不同的表中。

图片

如果搞不清楚什么是垂直分表和什么是水平分表?可以参考一下这幅图思考一下:

2.技术实现

分库分表的主流实现技术有以下两种:

  • MyCat
  • Apache Sharding Sphere

Sharding Sphere 相比于 MyCat 来说,它的优势是:

  • 功能更多:除了读写分离和分库分表之外,还提供了数据加密、流量质量、数据迁移等功能。
  • 社区更活跃度和生态更好:Sharding Sphere 拥有活跃的社区和丰富的文档,生态系统较为完善,有更多的用户和开发者参与。
  • 灵活性和扩展性:Sharding Sphere 灵活性更高,扩展性也更好,它可以方便地与其他技术集成,这方便 MyCat 支持的比较有限。

3.Sharding Sphere

Sharding Sphere 最早是当当网的内部框架,后面捐献给了 Apache,目前也是分库分表的主流技术实现方案,在 Sharding Sphere 中有两种分库分表的技术实现:

  • Sharding Sphere JDBC:定位为轻量级 Java 框架,在 Java 的 JDBC 层提供的额外服务。它使用客户端直连数据库,以 jar 包形式提供服务,无需额外部署和依赖,可理解为增强版的 JDBC 驱动,完全兼容 JDBC 和各种 ORM 框架。

图片

  • Sharding Sphere Proxy:定位为透明化的数据库代理端,通过实现数据库二进制协议,对异构语言提供支持。 目前提供 MySQL 和 PostgreSQL 协议,透明化数据库操作,对 DBA 更加友好。

图片

它们的区别如下:


ShardingSphere-JDBC

ShardingSphere-Proxy

支持数据库

任意

MySQL/PostgreSQL

连接消耗数

支持语言

仅 Java

任意

性能

损耗低

损耗略高

无中心化

课后思考

Sharding Sphere JDBC 和 Sharding Sphere Proxy 使用场景分别是啥?ShardingSphere-JDBC 具体实现步骤有哪些?说说它的实现原理?

本文地址:https://www.yitenyun.com/109.html

搜索文章

Tags

数据库 API FastAPI Calcite 电商系统 MySQL Web 应用 异步数据库 数据同步 ACK 双主架构 循环复制 TIME_WAIT 运维 负载均衡 服务器 管理口 HexHub Docker JumpServer SSL 堡垒机 跳板机 HTTPS 服务器性能 JumpServer安装 堡垒机安装 Linux安装JumpServer SQL 查询 生命周期 Deepseek 宝塔面板 Linux宝塔 锁机制 esxi esxi6 root密码不对 无法登录 web无法登录 行业 趋势 序列 核心机制 Windows Windows server net3.5 .NET 安装出错 HTTPS加密 开源 PostgreSQL 存储引擎 Windows宝塔 Mysql重置密码 宝塔面板打不开 宝塔面板无法访问 查看硬件 Linux查看硬件 Linux查看CPU Linux查看内存 机器学习 Redis Undo Log 机制 Spring 动态查询 响应模型 Oracle 处理机制 InnoDB 数据库锁 优化 万能公式 连接控制 group by 索引 Serverless 无服务器 语言 监控 无法访问宝塔面板 异步化 ES 协同 技术 工具 openHalo scp Linux的scp怎么用 scp上传 scp下载 scp命令 Postgres OTel Iceberg 缓存方案 缓存架构 缓存穿透 国产数据库 高可用 分页查询 数据 主库 SVM Embedding Linux 安全 Netstat Linux 服务器 端口 存储 SQLite-Web SQLite 数据库管理工具 GreatSQL 连接数 加密 场景 云原生 R edis 线程 防火墙 黑客 启动故障 Recursive R2DBC OB 单机版 向量数据库 大模型 共享锁 日志文件 MIXED 3 ​Redis 推荐模型 SQLark Canal AI 助手 RocketMQ 长轮询 配置 信息化 智能运维 自定义序列化 PG DBA 不宕机 业务 Python 传统数据库 向量化 向量库 Milvus Ftp IT运维 同城 双活 Web 接口 开发 聚簇 非聚簇 线上 库存 预扣 修改DNS Centos7如何修改DNS Hash 字段 分库 分表 电商 系统 filelock Rsync 架构 磁盘架构 MySQL 9.3 数据类型 MongoDB MCP 开放协议 缓存 redo log 重做日志 mini-redis INCR指令 数据结构 数据分类 sftp 服务器 参数 PostGIS • 索引 • 数据库 ZODB Doris SeaTunnel 语句 流量 MVCC 分布式架构 分布式锁​ 窗口 函数 频繁 Codis Go 数据库迁移 数据备份 虚拟服务器 虚拟机 内存 工具链 人工智能 推荐系统 EasyExcel MySQL8 失效 prometheus Alert 主从复制 代理 Redisson 锁芯 MGR 分布式集群 分页 StarRocks 数据仓库 引擎 性能 千万级 大表 聚簇索引 非聚簇索引 高效统计 今天这篇文章就跟大家 网络架构 网络配置 数据集成工具 发件箱模式 网络故障 播客 崖山 新版本 Entity 事务 Java INSERT COMPACT QPS 高并发 核心架构 订阅机制 Web 容器 B+Tree ID 字段 RDB AOF SSH Redka Weaviate 关系数据库 速度 服务器中毒 Caffeine CP 数据脱敏 加密算法 数据页 Redis 8.0 DBMS 管理系统 分布式 集中式 OAuth2 Token 自动重启 容器化 Valkey Valkey8.0 SpringAI 微软 SQL Server AI功能 模型 读写 LRU 原子性 排行榜 排序 池化技术 连接池 数据字典 兼容性 JOIN 意向锁 记录锁 事务隔离 Testcloud 云端自动化 单点故障 业务场景 UUID ID dbt 数据转换工具 分页方案 排版 部署 1 优化器 日志 悲观锁 乐观锁 ReadView Pottery InfluxDB 事务同步 网络 sqlmock UUIDv7 主键 AIOPS RAG HelixDB 分布式锁 Zookeeper 对象 仪表盘 字典 双引擎 产业链 Order 编程 单线程 Ansible Pump 线程安全 LLM IT 拦截器 动态代理 恢复数据 Crash 代码 国产 用户 快照读 当前读 视图 订单 List 类型 慢SQL优化 count(*) count(主键) 行数 RR 互联网 表空间 解锁 调优 Next-Key 神经系统 矢量存储 数据库类型 AI代理 CAS 多线程 查询规划 GitHub Git 算法 技巧 并发控制 恢复机制 闪回