分布式

JAVA微服务分布式事务的几种实现方式

# 基础理论 ## CAP理论 一致性(Consistency) :在分布式系统中所有的数据备份,在同一时刻都保持一致状态,如无法保证状态一致,直接返回错误; 可用性(Availability):在集群中一部分节点故障,也能保证客户端访问系统并得到正确响应,允许一定时间内数据状态不一致; 分区容错性 ......
分布式 事务 方式 JAVA

并发扣减库存不使用分布式锁用幂等性怎么实现

扣减库存接口 /** * Notes:修改或删除库存信息 复核提交,移位完成,调拨完成 后触发 * 原始库位扣减操作 * User: sl * Date: 2023-04-11 17:31 * @param $data * @param $type 1,复核完成 2调拨出库完成后扣减 3,源库位移位 ......
分布式 库存

HDFS集群搭建:完全分布式

本文介绍了HDFS集群中单点故障:HDFS-HA解决方案以及因此引入的Journal Node、ZKFC、Active NameNode切换过程以及HA环境搭建启动等细节。 ......
分布式 集群 HDFS

HDFS集群搭建:伪分布式

Hadoop集群的启动方式之一:伪分布式,特征是几个角色在相同的服务节点,细节讲解了如何做基础环境配置等。 ......
分布式 集群 HDFS

分布式锁

# zk分布式锁 海豚调度通过zk来做分布式锁,保证同一个时刻只有一台Master的scheduler来执行 或者只有一台worker执行任务的提交 ## 1.zk分布式锁核心流程算法 ![image](https://img2023.cnblogs.com/blog/680792/202307/6 ......
分布式

分布式锁解决集群下的方法抢占执行

问题描述: 启动两台heima-leadnews-schedule服务,每台服务都会去执行refresh定时任务方法 分布式锁:控制分布式系统有序的去对共享资源进行操作,通过互斥来保证数据的一致性。 分布式锁的解决方案: sexnx (SET if Not eXists) 命令在指定的 key 不存 ......
分布式 集群 方法

数据仓库MPP架构&分布式架构

数据仓库MPP架构&分布式架构 一、MPP架构 1.1MPP架构概述 MPP(Massively Parallel Processing)架构是一种分布式数据处理技术,能够通过将工作负载分散到多个节点上来提高数据处理性能。与传统的共享架构不同,MPP采用非共享架构(Share Nothing),将单 ......
架构 分布式 仓库 数据 MPP

分布式锁

1 mysql唯一键 2 redis lua脚本保证原子性 setnx expire 看门狗保证执行的时间大于锁的时间 为了避免其他人误删除 值和对应的用户一一对应 保证唯一 比如值为uid 3 redisson 4 redis多台奇数master 超过一般就获取锁成功 5 zk 参考 https: ......
分布式

分布式数据库 Join 查询设计与实现浅析

相对于单例数据库的查询操作,分布式数据查询会有很多技术难题。本文记录 Mysql 分库分表 和 Elasticsearch Join 查询的实现思路,了解分布式场景数据处理的设计方案。 文章从常用的关系型数据库 MySQL 的分库分表Join 分析,再到非关系型 ElasticSearch 来分析... ......
分布式 数据库 数据 Join

6.29 celery分布式异步任务框架

1.celery:分步式异步任务框架 /1 异步任务 /2 延迟任务 /3 定时任务 /4 celery架构 消息中间件(broker):消息队列:可以使用redis,rabbitmq 任务执行单元(worker):执行单元 执行提交的任务 任务执行结果存储(banckend):可以使用mysql, ......
分布式 框架 任务 celery 6.29

分布式事务实践-seata

Seata 是一款开源的分布式事务解决方案,致力于提供高性能和简单易用的分布式事务服务。 Seata 将为用户提供了 AT、TCC、SAGA 和 XA 事务模式,为用户打造一站式的分布式解决方案。 官网:https://seata.io/zh-cn/docs/overview/what-is-sea ......
分布式 事务 seata

读发布!设计与部署稳定的分布式系统(第2版)笔记19_基础层之设备

![](https://img2023.cnblogs.com/blog/3076680/202307/3076680-20230703164452820-448646113.png) # 1. 物理主机 ## 1.1. 以前数据中心硬件就是建立在单个物理机器的高可靠性上的 ## 1.2. 如今通过 ......
基础层 分布式 基础 笔记 设备

基于Redis分布式缓存

1.安装包 使用Redis分布式缓存需要安装Redis的支持包,可以通过nuget命令安装,如下: install-package Microsoft.Extensions.Caching.StackExchangeRedis 2.在Program.cs文件中注册 builder.Services. ......
分布式 缓存 Redis

分布式事务的几种实现方式

## 基础理论 ### CAP理论 一致性(Consistency) :在分布式系统中所有的数据备份,在同一时刻都保持一致状态,如无法保证状态一致,直接返回错误; 可用性(Availability):在集群中一部分节点故障,也能保证客户端访问系统并得到正确响应,允许一定时间内数据状态不一致; 分区容 ......
分布式 事务 方式

《面向分布式云的直播及点播云技术创新方案》获中国信通院“分布式云技术创新先锋案例”

由中国信息通信研究院、中国通信标准化协会主办的第三届“云边协同大会”于 6 月 30 日在京举办。阿里云视频云团队凭借《面向分布式云的直播及点播云技术创新方案》在一众产品服务中脱颖而出,荣获「分布式云技术创新先锋案例」。 面向分布式云技术的直播及点播云服务在资源编排上基于多 Kubernetes,整 ......
分布式 技术创新 技术 案例 方案

应用技术架构 —— 分布式应用多运行时架构

应用技术架构 —— 分布式应用多运行时架构 发布于 2022-03-16 09:25:14 1K0 举报 本文作者:何文强 — CODING 高级解决方案架构师 具有一线互联网、物联网独角兽、全国股份制银行、新型智慧交通等跨行业从业经历,历任 Java 开发高级工程师、DevOps 技术专家、高级研 ......
架构 分布式 应用技术 技术

Windows 环境下Docker 安装伪分布式 Hadoop

# 1、环境 Windows 11 Docker 20.0.2 # 2、拉取镜像 我选择 ubuntu20.04: ```powershell docker pull ubuntu:20.04 ``` ![在这里插入图片描述](https://img-blog.csdnimg.cn/6d91edc5 ......
分布式 Windows 环境 Docker Hadoop

springboot封装redission的分布式锁逻辑为注解

#场景概述 使用分布式锁的时候,每次都需要使用`try catch`处理方法中的逻辑。考虑是否可以这块逻辑抽离出来。 #实现 ##在自定义的注解中添加属性来设置锁的等待时间、租赁时间和时间单位 ``` import java.lang.annotation.*; @Target(ElementTyp ......
注解 分布式 springboot redission 逻辑

读发布!设计与部署稳定的分布式系统(第2版)笔记18_基础层之联网

![](https://img2023.cnblogs.com/blog/3076680/202307/3076680-20230703163125832-353926546.png) # 1. 面向恢复的计算 ## 1.1. ROC,recovery-oriented computing ## 1 ......
基础层 分布式 基础 笔记 系统

分布式id---雪花算法

**为什么要用分布式id** 随着业务的增长,后期可能会对数据库进行拆分的操作,通过数据库中间间链接。如果数据库表中的id采取的是自增策略,则会产生重复的id。使用分布式id便是为了避免此类现象。 **雪花算法** snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的I ......
分布式 算法 雪花 id

入选德勤粤港澳大湾区及广州高科技高成长两大榜单,巨杉数据库引领分布式数据库弯道超车

巨杉数据库凭借在分布式数据库领域的优异表现和突出成果,入选2022德勤粤港澳大湾区高科技高成长40强及明日之星和广州高科技高成长20强及明日之星两大榜单。 近日,经德勤中国与大湾区科技创新服务中心、广东粤港澳大湾区研究院联合组织征集、评选及审定,公布了2022德勤粤港澳大湾区高科技高成长40强及明日 ......
数据库 澳大 数据 弯道 分布式

SequoiaDB分布式数据库2023.6月刊

本月看点速览 全球溯源中心系列成果发布,巨杉数据库受邀出席 聚焦产业升级,斩获新一代信息技术创新企业 推进产业生态,赋能行业发展 青杉计划2023已开启,一起攀登更高的“杉” 全球溯源中心系列成果发布,巨杉数据库受邀出席 6月19日,“链接世界 预鉴未来”——全球溯源中心系列成果发布活动在广州南沙成 ......
分布式 月刊 SequoiaDB 数据库 数据

08-分布式消息

## 一、事件驱动架构和原理 ### (一)事件驱动架构组成结构 ​ 1、事件和事件驱动架构 ​ 但凡在业务需求中出现如“当…发生…时、一旦出现…”等,描述时,我们就应该考虑是否需要在这些场景中引入事件。 ​ 所谓事件(Event),就是将系统中所发生的业务状态变更抽取出来形成一系列独立的对象。 ​ ......
分布式 消息 08

IDEA+nacos2.2.1+seata1.6.1使用properties实现分布式事务

以前用过,现在突然忘了怎么配置,记录一下 默认你完成nacos的基础配置 修改properties后一定要重启模块项目,不要用热部署,不然有概率报错 我是通过cmd启动的seata,重启模块项目前必须重启seata否则模块一直报错,连接不上 seata-config-application.yml部 ......
分布式 properties 事务 nacos2 seata1

分布式事务解决方案

### 业务场景描述 > 下单时,需要扣减库存和生成订单,两个操作要求确保同时成功或同事失败,需要分别调用不同的服务便形成了分布式事务问题 ### 解决方案 采用弱一致性的解决方案 #### 1.重试机制 第一步执行成功后,将生成订单操作发送到消息队列中,消费生成订单消息,如果失败,采用重试机制,重 ......
分布式 解决方案 事务 方案

分布式事务(1)---2PC和3PC原理

分布式事物基本理论:基本遵循CPA理论,采用柔性事物特征,软状态或者最终一致性特点保证分布式事物一致性问题。 分布式事物常见解决方案: 2PC两段提交协议 3PC三段提交协议(弥补两端提交协议缺点) TCC或者GTS(阿里) 消息中间件最终一致性 更多信息查看https://www.cnblogs. ......
分布式 原理 事务 PC 2PC

读发布!设计与部署稳定的分布式系统(第2版)笔记17_中间件、背压和调速器

![](https://img2023.cnblogs.com/blog/3076680/202306/3076680-20230628121233652-2011697937.png) # 1. 完全的解耦 ## 1.1. 各台服务器、层级和应用程序解耦得越彻底,集成点、层叠失效、响应缓慢和线程阻 ......
分布式 中间件 笔记 系统 17

Redis分布式锁

# 一、简介 单机器环境下,可以通过锁来解决共享资源的竞争问题;而在分布式集群环境下,机器与机器之间的资源竞争则需要依赖Redis、ZooKeeper等中间件去协调。 简单总结一下自己对Redis分布式锁的一些理解 # 二、代码实现 第一步先是获取锁,通过setnx操作,设置指定key及其过期时间。 ......
分布式 Redis

微信读书:从Paxos到Zookeeper:分布式一致性原理与实践(阅读摘录)

# 微信读书:从Paxos到Zookeeper:分布式一致性原理与实践(阅读摘录) ![](https://img2023.cnblogs.com/blog/589770/202307/589770-20230702112120332-1836908388.jpg) [阅读地址](https://w ......
一致性 分布式 Zookeeper 原理 Paxos

Redis实现分布式锁的7种方案

7种方案前言 日常开发中,秒杀下单、抢红包等等业务场景,都需要用到分布式锁。而Redis非常适合作为分布式锁使用。本文将分七个方案展开,跟大家探讨Redis分布式锁的正确使用方式。如果有不正确的地方,欢迎大家指出哈,一起学习一起进步。 什么是分布式锁 方案一:SETNX + EXPIRE 方案二:S ......
分布式 方案 Redis