Javaweb应用使用限流处理大量的并发请求详解

所属分类: 软件编程 / java 阅读数: 29
收藏 0 赞 0 分享

在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。

第一种方法:在容器中配置最大请求数,如果大于改请求数,则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统,但对用户不友好。

第二种方法:使用过滤器,保证一定数量的请求能够正常访问系统,多余的请求先跳转到排队页面,由排队页面定时发起请求。过滤器实现如下:

public class ServiceFilter implements Filter {
	
	private static final int MAX_COUNT = 20;
	
	private AtomicInteger filterCount = 0;

	public void doFilter(ServletRequest request, ServletResponse response,
			FilterChain chain) throws IOException, ServletException {
		System.out.println("before"+filterCount);
		if(filterCount > MAX_COUNT) {
			//请求个数太多,跳转到排队页面
			request.getRequestDispatcher("index.jsp").forward(request, response);
		} else {
			//请求个数加1
			filterCount.incrementAndGet();

			chain.doFilter(request, response);
			//访问结束,请求个数减1
			filterCount.decrementAndGet();
		}
	}

此种方式的实现就是限流。可以参考RateLimiter的令牌桶限流策略的实现。

public class RateLimiterUtils {
	private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
	private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap = 
			new ConcurrentHashMap<String, RateLimiter>();
	
	/**
	 * 限流
	 * @param resource 需要限流的对象的标识
	 * @return true表示得到了许可,没有达到限流阀值,false表示得不到许可,达到了限流阀值。
	 * @author: hejinen
	 * @date:2016年10月19日 上午11:08:49
	 */
	public static boolean rateLimit(String resource) {
		RateLimiter limit = getRateLimit(resource);
		return limit.tryAcquire();
	}
    /**
	 * 获取某个需限流对象的RateLimiter,如不存在则创建新的
	 * @param resouce 需要限流的对象标识
	 */
	public static RateLimiter getRateLimit(String resource) {
		RateLimiter limit = resourceLimitMap.get(resource);	
		if(limit == null) {
			synchronized(RateLimiterUtils.class) {
				limit = resourceLimitMap.get(resource);
				double qps = getQpsByResource(resource);
				if(limit == null) {
					limit = RateLimiter.create(qps);
					resourceLimitMap.put(resource, limit);
					LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps);
				}
			}
		}
		return resourceLimitMap.get(resource);
	}
}

总结

以上就是本文关于Javaweb应用使用限流处理大量的并发请求详解的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:javaweb设计中filter粗粒度权限控制代码示例Javaweb项目session超时解决方案Javaweb使用cors完成跨域ajax数据交互等,有什么问题可以随时留言,小编会及时回复大家的。感谢朋友们对本站的支持!

更多精彩内容其他人还在看

Java concurrency之锁_动力节点Java学院整理

这篇文章主要为大家详细介绍了Java concurrency之锁的相关资料,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
收藏 0 赞 0 分享

Java8新特性之StampedLock_动力节点Java学院整理

本文从synchronized、Lock到Java8新增的StampedLock进行对比分析,对Java8新特性之StampedLock相关知识感兴趣的朋友一起看看吧
收藏 0 赞 0 分享

Java8新特性之lambda的作用_动力节点Java学院整理

我们期待了很久lambda为java带来闭包的概念,但是如果我们不在集合中使用它的话,就损失了很大价值。现有接口迁移成为lambda风格的问题已经通过default methods解决了,在这篇文章将深入解析Java集合里面的批量数据操作解开lambda最强作用的神秘面纱。
收藏 0 赞 0 分享

Java8新特性之Base64详解_动力节点Java学院整理

这篇文章主要为大家详细介绍了Java8新特性之Base64的相关资料,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
收藏 0 赞 0 分享

Java8新特性之JavaFX 8_动力节点Java学院整理

这篇文章主要介绍了Java8新特性之JavaFX 8的相关知识,非常不错,具有参考借鉴价值,需要的朋友参考下吧
收藏 0 赞 0 分享

将本地jar包安装进入maven仓库(实现方法)

下面小编就为大家带来一篇将本地jar包安装进入maven仓库(实现方法)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
收藏 0 赞 0 分享

浅谈Java finally语句到底是在return之前还是之后执行(必看篇)

下面小编就为大家带来一篇浅谈Java finally语句到底是在return之前还是之后执行(必看篇)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
收藏 0 赞 0 分享

基于Java并发容器ConcurrentHashMap#put方法解析

下面小编就为大家带来一篇基于Java并发容器ConcurrentHashMap#put方法解析。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
收藏 0 赞 0 分享

详解Spring Boot Profiles 配置和使用

本篇文章主要介绍了详解Spring Boot Profiles 配置和使用,具有一定的参考价值,有兴趣的可以了解一下
收藏 0 赞 0 分享

详解Spring Boot 属性配置和使用

本篇文章主要介绍了详解Spring Boot 属性配置和使用,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
收藏 0 赞 0 分享
查看更多