负载均衡原理

网络地址翻译技术实现虚拟服务器，当用户请求到达调度器时，调度器将请求报文的目标地址（即虚拟IP地址）改写成选定的RealServer地址，
同时报文的目标端口也改成选定的RealServer的相应端口，最后将报文请求发送到选定的RealServer。
在服务器端得到数据后，RealServer返回数据给用户时，需要再次经过负载调度器将报文的源地址和源端口改成虚拟IP地址和相应端口，然后把数据发送给用户，完成整个负载调度过程。
可以看出，在NAT方式下，用户请求和响应报文都必须经过DirectorServer地址重写，当用户请求越来越多时，调度器的处理能力将称为瓶颈。

优点：集群中的物理服务器可以使用任何支持TCP/IP操作系统，物理服务器可以分配Internet的保留私有地址，只有负载均衡器需要一个合法的IP地址。

缺点：扩展性有限。当服务器节点（普通PC服务器）数据增长到20个或更多时,负载均衡器将成为整个系统的瓶颈，因为所有的请求包和应答包都需要经过负载均衡器再生。假使TCP包的平均长度是536字节的话，平均包再生延迟时间大约为60us（在Pentium处理器上计算的，采用更快的处理器将使得这个延迟时间变短），负载均衡器的最大容许能力为93M/s，假定每台物理服务器的平台容许能力为400K/s来计算，负责均衡器能为22台物理服务器计算。

IP隧道技术实现虚拟服务器。它的连接调度和管理与VS/NAT方式一样，只是它的报文转发方法不同，
VS/TUN方式中，调度器采用IP隧道技术将用户请求转发到某个RealServer，而这个RealServer将直接响应用户的请求，不再经过前端调度器.
此外，对RealServer的地域位置没有要求，可以和DirectorServer位于同一个网段，也可以是独立的一个网络。因此，在TUN方式中，调度器将只处理用户的报文请求，集群系统的吞吐量大大提高。

优点：负载均衡器只负责将请求包分发给物理服务器，而物理服务器将应答包直接发给用户。
所以，负载均衡器能处理很巨大的请求量，这种方式，一台负载均衡能为超过100台的物理服务器服务，负载均衡器不再是系统的瓶颈。使用VS-TUN方式，如果你的负载均衡器拥有100M的全双工网卡的话，就能使得整个VirtualServer能达到1G的吞吐量。

缺点：这种方式需要所有的服务器支持”IP Tunneling”(IP Encapsulation)协议，仅在Linux系统上实现了。

即用直接路由技术实现虚拟服务器。它的连接调度和管理与VS/NAT和VS/TUN中的一样，
但它的报文转发方法又有不同，VS/DR通过改写请求报文的MAC地址，将请求发送到RealServer，而RealServer将响应直接返回给客户，免去了VS/TUN中的IP隧道开销。
这种方式是三种负载调度机制中性能最高最好的，但是必须要求DirectorServer与RealServer都有一块网卡连在同一物理网段上。

优点：和VS－TUN一样，负载均衡器也只是分发请求，应答包通过单独的路由方法返回给客户端。
与VS-TUN相比，VS-DR这种实现方式不需要隧道结构，因此可以使用大多数操作系统做为物理服务器，

缺点：要求负载均衡器的网卡必须与物理网卡在一个物理段上

当用户发来请求的时候，Web服务器通过修改HTTP响应头中的Location标记来返回一个新url，然后浏览器再继续请求这个新url，实际上就是页面重定向。
通过重定向，来达到“负载均衡”的目标这个方式非常容易实现，并且可以自定义各种策略，但是，它在大规模访问量下，性能不佳，而且，给用户的体验也不好，实际请求发生重定向，增加了网络延时所以此方式了解即可，实际应用较少

反向代理服务的核心工作主要是转发HTTP请求，扮演了浏览器端和后台Web服务器中转的角色。因为它工作在HTTP层（应用层），也就是网络七层结构中的第七层，因此也被称为“七层负载均衡”。
可以做反向代理的软件很多，比较常见的一种是Nginx，Nginx是一种非常灵活的反向代理软件，可以自由定制化转发策略，分配服务器流量的权重等

优点：实现和部署非常简单，性能也很好，可以方便的自定义转发规则

缺点：有“单点故障”的问题，如果挂了，会带来很多的麻烦，而且，随着Web服务器继续增加，它本身可能成为系统的瓶颈

原理：它是对IP层的数据包的IP地址和端口信息进行修改，达到负载均衡的目的在负载均衡服务器收到客户端的IP包的时候，会修改IP包的目标IP地址或端口，然后原封不动地投递到内部网络中，数据包会流入到实际Web服务器。
实际服务器处理完成后，又会将数据包投递回给负载均衡服务器，它再修改目标IP地址为用户IP地址，最终回到客户端。因为它工作在网络层，也就是网络七层结构中的第4层，因此也被称为“四层负载均衡”。
常见的负载均衡方式，是LVS（LinuxVirtual Server，Linux虚拟服务），通过IPVS（IP Virtual Server，IP虚拟服务）来实现。

优点：性能比反向代理负载均衡高很多，非常稳定缺点：功能单一，配置复杂

DNS（Domain Name System）负责域名解析的服务，域名url实际上是服务器的别名，实际映射是一个IP地址，解析过程，就是DNS完成域名到IP的映射。而一个域名是可以配置成对应多个IP的。
因此，DNS也就可以作为负载均衡服务优点：配置简单，性能极佳缺点：不能自由定义规则，而且，变更被映射的IP或者机器故障时很麻烦，还存在DNS生效延迟的问题

public class Random
{
   public static String getServer()
   {
       // 重建一个Map，避免服务器的上下线导致的并发问题
       Map<String, Integer> serverMap = 
               new HashMap<String,Integer>();
       serverMap.putAll(IpMap.serverWeightMap);
        // 取得Ip地址List
       Set<String> keySet = serverMap.keySet();
       ArrayList<String> keyList = newArrayList<String>();
       keyList.addAll(keySet);
        java.util.Randomrandom = new java.util.Random();
       int randomPos = random.nextInt(keyList.size());
        returnkeyList.get(randomPos);
   }
}

public class RoundRobin
{
   private static Integer pos = 0;
    public static String getServer()
   {
       // 重建一个Map，避免服务器的上下线导致的并发问题
       Map<String, Integer> serverMap = 
               new HashMap<String,Integer>();
       serverMap.putAll(IpMap.serverWeightMap);
 
       // 取得Ip地址List
       Set<String> keySet = serverMap.keySet();
       ArrayList<String> keyList = newArrayList<String>();
       keyList.addAll(keySet);
 
       String server = null;
       synchronized (pos)
       {
           if (pos > keySet.size())
               pos = 0;
           server = keyList.get(pos);
           pos ++;
       }
 
       return server;
   }
}

public class WeightRoundRobin
{
   private static Integer pos;
 
   public static String getServer()
   {
       // 重建一个Map，避免服务器的上下线导致的并发问题
       Map<String, Integer> serverMap = 
               new HashMap<String,Integer>();
       serverMap.putAll(IpMap.serverWeightMap);
 
       // 取得Ip地址List
       Set<String> keySet = serverMap.keySet();
       Iterator<String> iterator = keySet.iterator();
 
       List<String> serverList = newArrayList<String>();
       while (iterator.hasNext())
       {
           String server = iterator.next();
           int weight = serverMap.get(server);
           for (int i = 0; i < weight; i++)
               serverList.add(server);
       }
 
       String server = null;
       synchronized (pos)
       {
           if (pos > keySet.size())
               pos = 0;
           server = serverList.get(pos);
           pos ++;
       }
        return server;
   }
}  

public class Hash
{
   public static String getServer()
   {
       // 重建一个Map，避免服务器的上下线导致的并发问题
       Map<String, Integer> serverMap = 
               new HashMap<String,Integer>();
       serverMap.putAll(IpMap.serverWeightMap);
 
       // 取得Ip地址List
       Set<String> keySet = serverMap.keySet();
       ArrayList<String> keyList = newArrayList<String>();
       keyList.addAll(keySet);
 
       // 在Web应用中可通过HttpServlet的getRemoteIp方法获取
       String remoteIp = "127.0.0.1";
       int hashCode = remoteIp.hashCode();
       int serverListSize = keyList.size();
       int serverPos = hashCode % serverListSize;
        returnkeyList.get(serverPos);
   }
}