WEB架构缓存模型介绍
8种缓存框架介绍
8种缓存框架介绍缓存框架是一种用于存储和管理缓存数据的软件工具或库。
它们用于提高应用程序的性能，减少数据库或其他远程资源的访问次数。
在本文中，我们将介绍8种流行的缓存框架，包括Redis、Memcached、Ehcache、Guava Cache、Caffeine、Hazelcast、Infinispan和Apache Geode。
1. Redis： Redis是一个基于内存的缓存框架，提供了丰富的数据结构和灵活的功能，包括缓存、消息队列和数据持久化。
Redis的性能出色，并且具有高可用性和扩展性。
2. Memcached： Memcached是另一个流行的基于内存的缓存框架，广泛用于提高Web应用程序的性能。
它具有简单的架构和易于使用的API。
Memcached可以在多台服务器上进行水平扩展，以提供更高的负载能力。
3. Ehcache： Ehcache是一个Java缓存框架，可以用于将缓存添加到应用程序中。
它具有简单易用的API，并提供了多种缓存策略，如LRU （最近最少使用）和FIFO（先进先出）。
Ehcache还支持磁盘持久化和分布式缓存。
4. Guava Cache： Guava Cache是Google开发的一个轻量级缓存库，可以在本地JVM中实现缓存功能。
它具有内存敏感的淘汰策略和异步加载机制，可以优化资源利用和应用程序响应时间。
5. Caffeine： Caffeine是另一个基于本地内存的缓存库，由Google开发。
它被设计为高性能、无锁的缓存框架，并且具有比Guava Cache更高的吞吐量和更低的延迟。
6. Hazelcast： Hazelcast是一个分布式缓存框架和数据网格，可以在多个服务器上共享缓存数据。
它提供了分布式数据结构和分布式计算功能，并支持高可用性和容错性。
7. Infinispan： Infinispan是另一个开源的分布式缓存框架，用于构建高性能和高可靠性的应用程序。
浅谈网站架构中缓存的应用
访问需要的时钟周期
缓存的基本知识
缓存（CACHE）和缓冲（BUFFER） 缓存：可以共享，多种数据，大小不固定，可以重复使用，已知数据，用于提高IO 效率。 缓冲：不可以共享，单一数据，大小固定，读取后失效，命中100%，未知数据，用 于减少IO次数。 缓存的属性 命中率：从缓存中返回正确数据的次数/总请求次数。 容量：超过这个值启用一定的策略：转移到磁盘；转移到远端；清空部分。 存储介质：内存、磁盘。 成本：开发成本、部署成本、硬件成本。 效率：SET效率、GET效率、序列化、哈希算法、分布式算法。 缓存的限制 由于价格的因素，缓存实现依赖的存储往往有大小限制——保存什么，舍弃什么， 命中率。 缓存往往是从无到有的——在最初阶段不能发挥作用，在不命中的时候性能颠簸。
分布式缓存系统的需求
为什么选择分布式架构？太多的理由！ 单台服务器的资源（内存）不足以支撑我们的应用。 负载均衡的服务器缓存了大量相同的拷贝。 负载均衡的服务器缓存需要同步，或者多点更新。 负载均衡的服务器在缓存丢失的时候对数据库同时发起“攻击”。 我们有很多服务器CPU资源紧张而内存资源充足，得不到有效利用。 为什么存储方式选择内存？内存真不贵！ 主要用于解决磁盘速度太慢。 使用CPU缓存不太现实，即使可以速度也和网络不匹配 ☺。 为什么存储结构选择哈希表（Key-Value）？ 快速——时间复杂度O(1)。 稳定——一直是O(1)。 简单——GET/SET/DEL。 天生就适合分布式——不需要考虑如何拆分，Key-Value的粒度足够小。 不过——我们要针对Key和Value的设计做很多工作，这又关于缓存的贡献度。 于是乎，我们想到了Memcache
有什么应对方法？
考虑让缓存永不失效，主动更新缓存，采用替换引用方式更新（主/次缓存）， 而不是先删除。 对于大块缓存的初始化考虑按需加载（延迟加载），或是尽量避免同时重启初始 化服务。 压力测试考虑无缓存服务的情况。 还要注意尽量让外界无法干扰KEY的生成，否则可能会带来过多无效数据穿透缓 存（比如直接根据querystring作为key来查询缓存不是好办法，不信任或不直 接使用任何来自客户端的东西）。
Web开发中的缓存
•
注意
– –
Cache-Control比Expires可以控制的多一些 Cache-Control的优先级比Expires高，Cache-Control会重写后者的规则
游览器缓存 •
Last-Modified/If-Modified-Since和ETag/If-None-Match
1. Request Header: If-Modified-Since:Fri, 08 Mar 2013 10:37:22 GMT If-None-Match:-9zum9zhe17n2ds 2. Response Header: Etag:-9zum9zhe17n2ds Last-Modified:Fri, 08 Mar 2013 10:37:22 GMT
Web开发中的缓存
继风 jifeng.zjd@
大纲
• 绪论
• 游览器缓存
• 服务器缓存
• 交流
为什么需要使用缓存？
绪论 •
• •
减少网络延迟，加快页面打开速度 降低服务器压力 减少网络带宽消耗
游览器缓存 •
•
Expires
Expires:Fri, 28 Mar 2014 06:58:19 GMT
注意 – –
是格林威治时 间（GMT），而不是本地时间 使用过期时间属性一定要确认你的Web服务器时间设置正确数据合并
游览器缓存 •
•
Cache-Control
Cache-Control:x-age=[秒] — 执行缓存被认为是最新的最长时间。 no-cache — 强制每次请求直接发送给源服务器 must-revalidate — 告诉缓存必须遵循所有你给予副本的新鲜度
•
缺点 – 进程间，服务器间共享比较麻烦 –维护起来比较麻烦（缓存过期；数据量大时又隐患，gc）
大型WEB网站架构深入分析_缓存
缓存1介绍缓存就是利用本地参考原则：当CPU要读取一个数据时，首先从缓存中查找，找到就立即读取并送给CPU处理；没有找到，就用相对慢的速率从内存中读取并送给CPU处理，同时把这个数据所在的数据块调入缓存中，可以使得以后对整块数据的读取都从缓存中进行，不必再调用内存。
它们几乎被用在每一个计算层上：硬件、操作系统、Web浏览器、Web应用程序等。
一个缓存就相当于是一个临时内存：它有一个有限的空间量，但访问它比访问原始数据速度要快。
缓存也可以存在于各个层的架构中，但经常在离前端最近的那个层上发现，在那里可以快速实现并返回数据，无需占用下游层数据。
那么如何利用缓存使数据访问更快呢在这种情况下，有许多地方可以插入缓存。
一种是在请求层节点上插入缓存，如图1所示。
图 1 在请求层节点插入缓存在请求层节点上放置一个缓存，即可响应本地的存储数据。
当对服务器发送一个请求时，如果本地存在所请求数据，那么该节点即会快速返回本地缓存数据。
如果本地不存在，那么请求节点将会查询磁盘上的数据。
请求层节点缓存即可以存在于内存中（这个非常快速）也可以位于该节点的本地磁盘上（比访问网络存储要快）。
图2 多个缓存]当扩展到许多节点的时候，会发生什么呢如图2所示，如果请求层被扩展为多个节点，它仍然有可能访问每个节点所在的主机缓存。
然而，如果你的负载均衡器随机分布节点之间的请求，那么请求将会访问各个不同的节点，因此缓存遗漏将会增加。
这里有两种方法可以克服这个问题：全局缓存和分布式缓存。
1.1全局缓存顾名思义，全局缓存是指所有节点都使用同一个缓存空间。
这包含添加一台服务器或某种类型的文件存储，所有请求层节点访问该存储要比原始存储快。
每个请求节点会以同种方式查询缓存，这种缓存方案可能有点复杂，随着客户机和请求数量的增加，单个缓存（Cache）很容易溢出，但在某些结构中却是非常有效的（特别是那些特定的硬件，专门用来提升全局缓存速度，或者是需要被缓存的特定数据集）。
web缓存技术总结
1 web缓存的简介1.1 采取Web加速技术措施采取Web加速技术，减少用户访问的延迟。
如采用Web缓存[8](Web Caching )技术、Web预取(Web Prefetching)技术、CDN ( Content Delivery Network)技术等，以此来降低用户可感知的网络访问延迟，提高网络服务质量。
典型的缓存体系结构有IRCache, Summary Cache, AWC ( Adaptive WebCaching), CRSP (Caching and Replication for Internet Service Performance) 计划等;代表性的缓存协议有ICP ( Internet Cache Protocol，应用最广泛的Web缓存协议)、CARP ( Cache Array Routing Protocol)、HICP( Hyper Text Cache Protocol),WCCP ( Web Cache Control Protocol )等1.2 Web缓存分类根据Web缓存所在的网络位置:服务器端、代理服务器端、客户端，可将Web缓存分为以下三类:1)服务器端缓存(Cache A )2)代理服务器端缓存(Cache B )3)客户端缓存(Cache C)设计Web缓存系统经常面临以下问题:1)缓存体系结构:研究如何按层次式、分布式、混合式组织缓存系统结构。
2)缓存策略:研究如何缓有及缓存哪些对象3)预取技术:研究如何建立预测模型和预取控制的模型。
4)动态信息缓存及缓存4致性:对于动态对象，研究如何缓存动态对象及如何保持动态对象与源服务器对象一致性1.3 Web缓存体系结构以代理服务器端缓存为主的典型缓存体系可分为以下两类:单点Web缓存系统和协作Web缓存系统。
1.3.1 单点Web缓存系统若用户请求的内容不在缓存中，Web缓存将请求转发到Internet中的原始服务器，并根据一定的缓存替换算法决定是否把对象保存到Web缓存上，然后把请求对象发送给用户。
最全面的缓存架构设计（全是干货）
最全面的缓存架构设计（全是干货）1：缓存技术和框架的重要性互联网的一些高并发，高性能的项目和系统中，缓存技术是起着功不可没的作用。
缓存不仅仅是key-value的简单存取，它在具体的业务场景中，还是很复杂的，需要很强的架构设计能力。
我曾经就遇到过因为缓存架构设计不到位，导致了系统崩溃的案例。
2：缓存的技术方案分类1）是做实时性比较高的那块数据，比如说库存，销量之类的这种数据，我们采取的实时的缓存数据库双写的技术方案，双写一致性保障的方案。
2）是做实时性要求不高的数据，比如说商品的基本信息，等等，我们采取的是三级缓存架构的技术方案，就是说由一个专门的数据生产的服务，去获取整个商品详情页需要的各种数据，经过处理后，将数据放入各级缓存中。
3：高并发以及高可用的复杂系统中的缓存架构都有哪些东西1）在大型的缓存架构中，redis是最最基础的一层。
高并发，缓存架构中除了redis，还有其他的组成部分，但是redis至关重要。
•如果你的数据量不大（10G以内），单master就可以。
redis持久化备份方案容灾方案 replication（主从读写分离） sentinal（哨兵集群，3个节点，高可用性）•如果你的数据量很大（1T ），采用redis cluster。
多master分布式存储数据，水平扩容,自动进行master -> slave的主备切换。
2）最经典的缓存数据库读写的模式，cache aside pattern。
读的时候，先读缓存，缓存没有的话，那么就读数据库。
更新缓存分以下两种方式：•数据发生变化时，先更新缓存，然后再更新数据库。
这种适用于缓存的值相对简单，和数据库的值一一对应，这样更新比较快。
•数据发生变化时，先删除缓存，然后再更新数据库，读数据的时候再设置缓存。
这种适用于缓存的值比较复杂的场景。
比如可能更新了某个表的一个字段，然后其对应的缓存，是需要查询另外两个表的数据，并进行运算，才能计算出缓存最新的值的。
WEB缓存加速
Web Workers和WebAssembly
并发处理
性能优化
安全性
Web Workers和 WebAssembly都提供了在浏 览器端进行并发处理的能力， 使得可以同时执行多个任务而 不会阻塞用户界面。
Web Workers和 WebAssembly都可以用于优 化Web应用程序的性能，特别 是在处理大量计算任务时。
web缓存加速
2023-11-08
目 录
• web缓存概述 • 客户端缓存 • 服务器端缓存 • 数据库缓存 • 前端缓存技术 • 后端缓存技术 • 缓存的监控和维护
01
web缓存概述
什么是web缓存
• Web缓存是指将Web资源（如网页、图像、视频等）存储在本 地或远程服务器上，以便在后续请求时能够更快地提供给用户 。这种缓存机制可以减少网络延迟，提高用户访问速度，并减 轻服务器的负载。
缓存查询结果
01
缓存数据库查询结果可以避免重复查询，提高响应速度。
02
使用内存数据库作为缓存：内存数据库的读写速度比磁盘数据
库快很多，可以将经常使用的数据存储在内存数据库中。
使用分布式缓存：对于大型网站，可以考虑使用分布式缓存来
03
提高缓存效率。
NoSQL数据库的应用
01
02
03
NoSQL数据库是一种非 关系型数据库，适用于 处理大量数据和高并发
IndexedDB
存储结构
IndexedDB是一种基于事务的持久化键值对 存储数据库，支持在浏览器端存储大量结构 化数据。
数据查询
IndexedDB支持通过使用索引来查询数据，这使得 它能够高效地处理大量数据。
异步操作
IndexedDB的操作是异步的，可以使用回调 函数或Promise来处理结果。
wkwebivew 缓存机制
WebKit 视图（WKWebView）缓存机制详解一、引言在移动应用开发中，为了提高用户体验，经常需要使用到网页浏览功能。
在这个过程中，缓存机制则扮演着重要的角色。
本文将详细介绍苹果提供的WKWebView 的缓存机制，包括其工作机制，如何设置，以及可能出现的问题和解决方案。
二、WKWebView 缓存机制简介WKWebView 是iOS 和macOS 系统中用于显示网页内容的组件，它继承自UIWebView，并提供了更多的接口和更好的性能。
在WKWebView 中，缓存机制是非常重要的一部分，它可以有效地减少网络请求，提高网页加载速度，提升用户体验。
三、WKWebView 缓存机制的工作原理1. 内存缓存：WKWebView 首先会查看内存缓存中是否有请求过的页面数据，如果有，则直接从内存缓存中获取，不再发起网络请求。
2. 磁盘缓存：如果内存缓存中没有找到请求的页面数据，WKWebView 会查看磁盘缓存。
磁盘缓存通常存储的是离线的网页数据，可以在没有网络连接的情况下访问。
3. 网络请求：如果内存缓存和磁盘缓存都没有找到请求的页面数据，WKWebView 会发起网络请求，从服务器获取页面数据。
四、如何设置WKWebView 的缓存策略你可以通过设置WKPreferences 的defaultCachePolicy、diskCachePolicy 和memoryCachePolicy 属性来控制WKWebView 的缓存策略。
1. defaultCachePolicy：默认缓存策略。
当WKWebView 收到一个网络请求时，如果没有设置diskCachePolicy 或memoryCachePolicy，就会使用这个策略。
2. diskCachePolicy：磁盘缓存策略。
当WKWebView 收到一个网络请求时，如果设置了这个策略，就会按照这个策略来决定是否将请求的数据存入磁盘缓存。
3. memoryCachePolicy：内存缓存策略。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
用户 – 浏览器
nginx
用户 – 浏览器
nginx
面对静态的缓存
用户 – 浏览器
nginx
• • • •
Nginx: proxy_cache Apache: mod_cache Squid Varnish
用户 – 浏览器
nginx
用户 – 浏览器
Squid
超市
面对静态的缓存
nginx
nginx
php
mysql
• • • • •
PHP: APC PHP: Accelerator PHP: xcache memcache redis
nginx
php
mysql
面对动态的缓存 – 伪动态
面对动态的缓存 – 伪动态
mysql
• query_cache_size
MYSQL的缓存 – 伪动态
• 缓存命中率 • 缓存粒度 • 缓存体量
服务器 缓存机 用户
服务器
用户
缓存机 用户
缓存机 用户
为什么要缓存
服务器负担太重
展现速度
家
超市
工厂
内容时效性
为什么要缓存
离用户越近越好
我是好多css/js文件... 用户：________ 我是好多文本 我是好多链接 我是好多文本 我是好多链接 我是好多文本 我是好多链接 密码： ________ 我是一张图片 我是一张图片 我是一张图片 我是一张图片 我是一张图片 我是一张图片 登录 我是一段视频 我是一段视频 我是一段视频 我是一段视频 我是一段视频 我是一段视频
图片用途 新闻 电商 页面tips
有效期 1个月 - 1年 1个月 - 1年 3个月 - 3年
广告 主页图片
Logo
1周 - 3个月 1天 - 一个月
1年 - ?
图片 – 为什么要缓存
视频 - 为什么要缓存
用户 – 浏览器
nginx
php
mysql
用户 – 浏览器
nginx
php
mysql
一次常见的WEB访问
缓存机 用户
服务器
缓存机 用户
缓存机 用户
关于缓存
一个常见的WEB页面
网址
Chrome Ctrl+S 保存大小 609KB 542KB 408KB 78.4KB 93.5KB
3.1KB
文本和链接 - 为什么要缓存