Java web 负载均衡 和 缓存?
?
1 apache + tomcat ?- 最常见和常用的方式?
apache在前端，接受请求后，通过mod_jk中配置的不同worker分发请求到不同的tomcat进一步处理。
一般是1个apache + n个tomcat ，基于tomcat自身的集群功能和mod_jk。
2 nginx + tomcat - 主流方式之一?
nging在前端，加上后端的tomcat(数量一般小于5)，构成负载均衡集群方案。
?
实例： http://hi.baidu.com/hxsnoopy/blog/item/9f0011ef9cfe15fece1b3e38.html?
?
?
3 第三方工具： ?
- http://www.terracotta.org 商业方案?
?
Terracotta DSO, an advanced distributed-computing technology aimed at meeting special clustering requirements.
?
Terracotta Distributed Shared Objects (DSO) is at the core of operations in Terracotta clusters that require object identity, Terracotta object-graph roots, and other DSO technology.?
Terracotta DSO documentation describes the function, implementation, and usage of DSO in a Terracotta cluster.
?
?
4 服务器方案
- 单物理主机
- 一个apache + 多个tomcat ，使用ajp mod_jk ?实例： http://hi.baidu.com/luodaijun/blog/item/5bbe4cfb5ffef864034f56a1.html?
- 虚拟化 ?：
- 多物理主机方案
- 非虚拟化：
- 虚拟化 ?： 每台物理主机虚拟化，获得多台逻辑主机 ；在逻辑主机上部署不同的服务器，构建cluster 。
?
5 负载均衡的策略
- 基于DNS - DNS轮询，成本低?
- 反向代理 - mod_jk2 ?
- 基于NAT（Network Address Translation） - 虚拟化技术 ， LVS - Linux Virtual Server?
- 硬件负载均衡 - 已较少使用，被软件方案替代
?
?
?
PS: 缓存经常：与负载均衡等话题一起出现的话题之一?
- 缓存的层次：
数据库层：空间换时间 ； 方式：普通表，内存表
应用层： 常见有 数据库查询结构缓存，磁盘文件数据缓存，耗时计算的数据缓存；?
按架构 分为 嵌入式 和 分布式 ；
分布式缓存 可分：
按应用切分数据到不同缓存服务器，
按规则(hash, route)把数据存储到不同的缓存服务器，
代理模式：应用在获取数据的时候都由代理透明的处理，缓存机制有代理服务器来处理
工具：Memcache、共享文件服务器、MemcacheDb、Tokyo Tyrant；以及语言相关的其他实现。
前端：主要对静态文件缓存，如CDN技术，squid等 ； 工具：squid,Varnish Cache,ncache
客户端：浏览器缓存?
- 缓存：更新 - 被动，主动，二者结合 ；过期 - 时间过期，基于规则的过期 ?
- 缓存评价：速度、及时性、命中率
- 缓存方案：Memcached, Tokyo Tyrant?
?
- 对于负载的分发有多种算法,下面是一些较为常用的算法:
round-robin轮循
random随机
weight-based权重
minimumload最小负载
lastaccesstime最后访问时间
programmaticparameter-based负载均衡器根据方法中的参数来选择服务器