ipd

查询ip地理信息,多种查询模式,高效,具有缓存机制,并可使用elasticsearch构建自己的ip数据库

View the Project on GitHub xin053/ipd

ipd

批量ip反查服务, 批量获取ip的地理位置信息,包括国家,省份,城市,ISP以及地理位置,支持国内外ip，目前仅支持ipv4.

基于gin框架构建, 默认端口6789,可在config.toml中修改服务端口以及其他配置项

从源代码构建

  1. 下载包管理器dep

     go get -u github.com/golang/dep/cmd/dep

    确保dep在环境变量PATH中

  2. 下载ipd源码

     export GOPATH=`pwd`
 go get -d github.com/golang/xin053/ipd

  3. 安装依赖

     dep ensure

  4. 构建ipd可执行文件

     cd github.com/golang/xin053/ipd
 go build ipd.go

    或者

     go build -ldflags "-w -s" ipd.go

  5. 使用

     # 运行
 ./ipd
 # 停止
 kill -2 pid

使用

ipd提供四种ip反查的方式:

  1. 通过纯真ip数据库(目前更新到2018-09-25)

    纯真ip数据库官网,下载可能需要翻墙,下载后安装会释放出qqwry.dat文件,也可以使用 UniExtract2 直接解压出文件

  2. 通过GeoLite2数据库
  3. 通过ip2region数据库,启动服务时会自动从github下载最新的数据库文件(最优先)

  4. 通过公开的 REST API方式, 目前支持四种接口:

    1. 淘宝ip查询接口:http://ip.taobao.com/service/getIpInfo.php?ip=
    2. 新浪ip查询接口:http://int.dpool.sina.com.cn/iplookup/iplookup.php?format=json&ip=
    3. 太平洋ip查询接口:http://whois.pconline.com.cn/ipJson.jsp?ip=
    4. 百度ip查询接口:http://api.map.baidu.com/location/ip?ak=yourAK&ip=

API

  1. 从公共API获取ip信息

    接口

    POST /v1/api

    请求头

    1. Authorization = thisisaveryimportantkey(key可在config.go中配置)
    2. Content-Type = application/json

    Body

     {
     "ip":
         ["111.111.111.111", "8.8.8.8"]
 }

    返回

     [
     {
         "ip": "8.8.8.8",
         "country": "美国",
         "region": "",
         "city": "",
         "isp": "Google公共DNS",
         "geo_x": 0,
         "geo_y": 0
     },
     {
         "ip": "111.111.111.111",
         "country": "",
         "region": "",
         "city": "",
         "isp": "日本东京市KDDI通信公司",
         "geo_x": 0,
         "geo_y": 0
     }
 ]

  2. 从纯真ip数据库获取ip信息

    接口

    POST /v1/db

    请求头

    1. Authorization = thisisaveryimportantkey(key可在config.go中配置)
    2. Content-Type = application/json

    Body

     {
     "ip":
         ["111.111.111.111", "8.8.8.8"]
 }

    返回

     [
     {
         "ip": "8.8.8.8",
         "country": "美国",
         "region": "",
         "city": "",
         "isp": "Google公共DNS",
         "geo_x": 0,
         "geo_y": 0
     },
     {
         "ip": "111.111.111.111",
         "country": "",
         "region": "",
         "city": "",
         "isp": "日本东京市KDDI通信公司",
         "geo_x": 0,
         "geo_y": 0
     }
 ]

  3. 从GeoLite2数据库获取ip信息

    接口

    POST /v1/db2

    请求头

    1. Authorization = thisisaveryimportantkey(key可在config.go中配置)
    2. Content-Type = application/json

    Body

     {
     "ip":
         ["111.111.111.111", "8.8.8.8"]
 }

    返回

     [
     {
         "ip": "8.8.8.8",
         "country": "美国",
         "region": "",
         "city": "",
         "isp": "Google公共DNS",
         "geo_x": 0,
         "geo_y": 0
     },
     {
         "ip": "111.111.111.111",
         "country": "",
         "region": "",
         "city": "",
         "isp": "日本东京市KDDI通信公司",
         "geo_x": 0,
         "geo_y": 0
     }
 ]

  4. 从ip2region数据库获取ip信息

    接口

    POST /v1/db3

    请求头

    1. Authorization = thisisaveryimportantkey(key可在config.go中配置)
    2. Content-Type = application/json

    Body

     {
     "ip":
         ["111.111.111.111", "8.8.8.8"]
 }

    返回

     [
     {
         "ip": "8.8.8.8",
         "country": "美国",
         "region": "",
         "city": "",
         "isp": "Google公共DNS",
         "geo_x": 0,
         "geo_y": 0
     },
     {
         "ip": "111.111.111.111",
         "country": "",
         "region": "",
         "city": "",
         "isp": "日本东京市KDDI通信公司",
         "geo_x": 0,
         "geo_y": 0
     }
 ]

  5. 整合以上四种方式获取ip信息,先异步查ip2region数据库(默认的主数据库),查不到的ip再查纯真, 再查GeoLite2数据库,最后通过api查询

    主数据库可在配置文件中配置(config.toml中的request_order配置)

    接口

    POST /v1/ip

    请求头

    1. Authorization = thisisaveryimportantkey(key可在config.go中配置)
    2. Content-Type = application/json

    Body

     {
     "ip":
         ["111.111.111.111", "8.8.8.8"]
 }

    返回

     [
     {
         "ip": "8.8.8.8",
         "country": "美国",
         "region": "",
         "city": "",
         "isp": "Google公共DNS",
         "geo_x": 0,
         "geo_y": 0
     },
     {
         "ip": "111.111.111.111",
         "country": "",
         "region": "",
         "city": "",
         "isp": "日本东京市KDDI通信公司",
         "geo_x": 0,
         "geo_y": 0
     }
 ]

项目结构

api\
   |api.go                      # api 方式查询 ip 信息主文件
   |baidu.go                    # 百度 ip API 服务解析
   |base.go                     # 通用接口
   |pconline.go                 # 太平洋 ip API 服务解析
   |sina.go                     # 新浪 ip API 服务解析
   |taobao.go                   # 淘宝 ip API 服务解析
config\
      |config.go                # 从 config.toml 读取配置以及其他配置
es\
  |es.go                        # elasticsearch 存储相关
geolite2\
        |geolite2.go            # db2 方式查询 ip 信息主文件
ip2region\
         |ip2region             # db3 方式查询 ip 信息主文件
         |lib                   # 解析 ip2region.db 的库文件
middleware\
          |auth.go              # 简单授权验证中间件
          |cors.go              # cors 跨域中间件
          |json_logger.go       # 日志服务中间件
          |sentry.go            # sentry 服务
qqwry\
     |qqwry.go                  # db 方式查询 ip 信息主文件
server\
     |server.go                 # /v1/ip 接口主文件
utils\
     |utils_test.go             # 工具包测试
     |utils.go                  # 工具包
config.toml                     # ipd 服务使用的配置文件
GeoLite2-City.mmdb              # geolite2 数据库二进制文件
Gopkg.lock                      # dep 包管理器 lock 文件
Gopkg.toml                      # dep 包管理器 toml 文件
ip2region.db                    # ip2region 数据库二进制文件
ipd.go                          # ipd 服务 main 包
qqwry.dat                       # 纯真 ip 数据库二进制文件
README.md                       # README

构建自己的ip信息数据库

ipd服务支持将查询过的ip信息添加到elasticsearch数据库,作后续其他的使用.默认启用elasticsearch存储

  1. 安装elasticsearch,建议安装最新版
  2. 修改config.toml中的elasticsearch段的url, 如果不想使用存储ip功能,将elasticsearch段注释即可

其他事项

  1. 程序默认使用sentry服务, 修改config.go中的dsn以使用自己的sentry,也可以注释掉config.toml中的sentry段来禁用sentry
  2. 更多设置请查看config.toml的备注说明

TODO