【方案优化】一、OpenResty 结合 Lua、Redis 实现请求高并发策略

   日期:2020-05-31     浏览:115    评论:0    
核心提示:一、整体架构1. OpenResty、Lua、Redis实现二级缓存2. 缓存预热/冷启动 => 数据库崩溃 => 激活方式: 1. 服务激活 2. 配置Lua,手动激活3. Nginx限流lua

目录

一、整体架构描述

1.1 方案v1.0

1.2 方案v1.0优化

1.3 方案对比

二、方案2.0部署

2.1 OpenResty 安装

2.2 Lua脚本编写

2.3 配置 OpenResty

三、测试

一、整体架构描述

1.1 方案v1.0

在优化旧的设计框架前,先看一下常见的查询请求处理

  

步骤如下:

  • ① 请求到 Nginx 或 restApi 服务后, 向 Redis 请求数据
  • ②、③ Redis 查看缓存中是否有数据,若有数据则直接进入流程⑥,没有则进入流程④
  • ④ 、⑤ 查询数据库数据,并更新数据到 Redis ,以免下次还需要访问数据库
  • ⑥ 返回数据给用户

 

1.2 方案v1.0优化

在方案v1.0,存在了大量简单的请求,如在IM软件中查询用户/群组信息、在商城项目中查询商品信息等,这些简单的查询却频繁的查询无疑会对服务造成一定压力。那么是否有办法进行优化呢。

对方案v1.0进行优化后,方案v2.0结合了 OpenResty、Lua、Redis 实现了二级缓存。利用 Nginx 高并发的特性,使得上述这些请求无需再通过 restAPI 服务,而是通过Lua脚本直接查询和操作 redis 和 mysql,降低服务压力。

  

步骤如下:

  • ①、② 请求到 Nginx 后,Nginx 先查询 Nginx-Cache,若缓存中没有数据,则调用对应的 Lua 脚本
  • ③、④ Lua 脚本查询 Redis,若Redis 缓存中有数据则直接返回并更新Nginx缓存, 没有数据则调用 Lua脚本,查询数据库
  • ⑤ 查询数据库数据并更新Redis缓存

注意:

方案v2.0 采用的是逐级缓存的方式:

  • 第一次访问:nginx 和 redis 中均没有缓存,数据从数据库中查出,并存入 redis 缓存
  • 第二次访问:nginx 中没有缓存,数据从 redis 中查出,并存入 nginx 缓存
  • 第三次访问:数据从 nginx 中查出

这样做有以下原因:

  • nginx 缓存过期时间小于 redis 缓存过期时间,有利于降低 redis 雪崩的危险
  • 若同时对 nginx 和 redis 设置缓存,则数据访问到的都是 nginx。当数据库变化时,无法在不访问数据库的情况下实现快速响应。解决方案为使用 Canal 实现数据库和 redis 的数据同步,将 nginx 的有效时间设置得更短,做到防止大量并发请求到数据库的同时,又能拿到最新数据

 

1.3 方案对比

根据不同的项目需求和实际方案,选择使用哪一种方案。

  方案v1.0 方案v2.0
灵活性 访问 redis 和数据库由 restApi 控制,可处理复杂请求。但如果有修改必须重启服务

利用 Nginx 高并发特性处理大量简单请求,且修改脚本无需重启后端服务,只要重新加载 Nginx 即可。

但只能处理简单的请求,且需要有特殊的识别方式,如加特定的 API

并发性 高,相对来说肯定比方案v1.0高,但要根据实际情况使用,而不是为了炫技而部署
部署难度 简单 中等。需要学习 OpenResty框架和Lua语言
适用场景 通用场景

更适用于存在大量简单的查询请求的项目,如仓库管理系统、商城系统等。

同时这个方案还可以处理权限控制,如直接在 Nginx 拒绝不携带 token 的请求,或进行 token 验证等。

 

二、方案2.0部署

2.1 OpenResty 安装

安装流程:https://blog.csdn.net/qq_34416331/article/details/106421783

 

2.2 Lua脚本编写

Lua 的基本用法:https://blog.csdn.net/qq_34416331/article/details/106419100

Lua 脚本编写:

# 创建存放 lua 脚本的文件夹,名字自定义
mkdir /usr/local/lua_conf

# 进入文件夹
cd /usr/local/lua_conf

# 创建 lua 脚本
vim read_conf.lua
ngx.header.content_type="application/json;charset=utf8"
local uri_args = ngx.req.get_uri_args();
local id = uri_args["id"];
-- 加载nginx缓存模块
local cache_ngx = ngx.shared.dis_cache;
-- 根据ID获取本地缓存数据
local contentCache = cache_ngx:get('content_cache_'..id);

-- 获取IP信息,可删除
-- [[
local headers=ngx.header;
local ip=headers["X-REAL-IP"] or headers["X_FORWARDED_FOR"] or ngx.var.remote_addr or "0.0.0.0"
ngx.say(ip)
ngx.say(contentCache)
]]--

-- 若nginx中没有相应的缓存信息
if contentCache == "" or contentCache == nil then

    -- 获取redis模块
    local redis = require("resty.redis");
    local red = redis:new()
    red:set_timeout(2000)
    red:connect("192.168.47.142", 6379)
    local rescontent=red:get("content_"..id);

    -- 若redis模块也没有这个信息
    if ngx.null == rescontent then
        -- 从数据库中获取数据
        local cjson = require("cjson");
        local mysql = require("resty.mysql");
        local db = mysql:new();
        db:set_timeout(2000)
        local props = {
            host = "192.168.47.142",
            port = 3306,
            database = "changgou_content",
            user = "root",
            password = "123456"
        }
        local res = db:connect(props);
        local select_sql = "select url,pic from tb_content where status ='1' and category_id="..id.." order by sort_order";
        res = db:query(select_sql);
        local responsejson = cjson.encode(res);

        -- 存储到redis中
        red:set("content_"..id,responsejson);

        -- 返回数据
        ngx.say(responsejson);
        -- 关闭数据库连接
        db:close()
    else
        -- 若redis中有缓存,则设置的到nginx缓存中,并返回
        -- 2*60 表示设置 nginx 缓存时间为2分钟,应根据实际情况修改
        cache_ngx:set('content_cache_'..id, rescontent, 2*60);
        ngx.say(rescontent)
    end
    -- 关闭redis连接
    red:close()
else
-- 若nginx中有对应的信息,则返回
    ngx.say(contentCache)
end

 

2.3 配置 OpenResty

要让 OpenResty 来使用 Lua 脚本,只需要配置 Nginx 的配置文件即可。

### 修改 Nginx 配置文件 ###
# 进入 OpenResty 自带的 Nginx 目录
cd /usr/local/openresty/nginx/conf

# 编辑配置文件
vim nginx.conf

  

 lua_shared_dict 的作用是声明一个共享内存区域 name,以充当基于 Lua 字典的共享存储。简单来说就是当nginx运行时的 lua 脚本缓存空间大小

  

在http中配置要访问的接口:

  

重启 nginx

# 重新加载 nginx
/usr/local/openresty/nginx/sbin/nginx -s reload

 

三、测试

修改 read_content.lua

ngx.header.content_type="application/json;charset=utf8"
local uri_args = ngx.req.get_uri_args();
local id = uri_args["id"];
-- 加载nginx缓存模块
local cache_ngx = ngx.shared.dis_cache;
-- 根据ID获取本地缓存数据
local contentCache = cache_ngx:get('content_cache_'..id);

--[[
local headers=ngx.header;
local ip=headers["X-REAL-IP"] or headers["X_FORWARDED_FOR"] or ngx.var.remote_addr or "0.0.0.0"
ngx.say(ip)
ngx.say(contentCache)
]]--

if contentCache==nil then
  ngx.say("nginx缓存为空")
else 
  ngx.say("从nginx缓存中查到了数据")
end

-- 若nginx中没有相应的缓存信息
if contentCache == "" or contentCache == nil then

    -- 获取redis模块
    local redis = require("resty.redis");
    local red = redis:new()
    red:set_timeout(2000)
    red:connect("192.168.47.142", 6379)
    local rescontent=red:get("content_"..id);

    if ngx.null == rescontent then
       ngx.say("redis为空")
    else
       ngx.say("nginx为空,从redis中查到了数据")
    end
    -- 若redis模块也没有这个信息
    if ngx.null == rescontent then
        -- 从数据库中获取数据
        local cjson = require("cjson");
        local mysql = require("resty.mysql");
        local db = mysql:new();
        db:set_timeout(2000)
        local props = {
            host = "192.168.47.142",
            port = 3306,
            database = "changgou_content",
            user = "root",
            password = "123456"
        }
        local res = db:connect(props);
        local select_sql = "select url,pic from tb_content where status ='1' and category_id="..id.." order by sort_order";
        res = db:query(select_sql);
        local responsejson = cjson.encode(res);

        -- 存储到redis中
        red:set("content_"..id,responsejson);

        -- 返回数据
        ngx.say(responsejson);
        -- 关闭数据库连接
        db:close()
    else
        -- 若redis中有缓存,则设置的到nginx缓存中,并返回
        cache_ngx:set('content_cache_'..id, rescontent, 30);
    end
    -- 关闭redis连接
    red:close()
else
-- 若nginx中有对应的信息,则返回
    ngx.say(contentCache)
end

清理redis

访问:

第一次访问

第二次访问:

第三次访问:

 

 

 
打赏
 本文转载自:网络 
所有权利归属于原作者,如文章来源标示错误或侵犯了您的权利请联系微信13520258486
更多>最近资讯中心
更多>最新资讯中心
0相关评论

推荐图文
推荐资讯中心
点击排行
最新信息
新手指南
采购商服务
供应商服务
交易安全
关注我们
手机网站:
新浪微博:
微信关注:

13520258486

周一至周五 9:00-18:00
(其他时间联系在线客服)

24小时在线客服