数据治理
[TOC]
# [数据治理接口]
## 1. /database/ds/execute1
### 1.1. 接口功能
> 执行sql语句
### 1.2. 请求方式
> post
### 1.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|dsId|true|varchar|数据库ID|
|dsName|true|varchar|数据库名称(与dsId 二选一)|
|sqlCode|true|varchar|sql代号|
|xxx|true|varchar|sql参数|
## 2. http://www.oa.enfiep.com:8096/database/getDatabaseList
### 2.1. 接口功能
> 获取所有数据库列表
### 2.2. 请求方式
> post
### 2.3. 请求参数 无
|参数|必选|类型|说明|
### 2.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571275998118,
"data": [
{
"idDatabase": "1141970559445073920", --数据库ID
"name": "jeesite4", --名称
"idDatabaseType": "MYSQL", --数据库类型
"idDatabaseContype": "Native", --链接类型
"hostName": "47.110.127.102", --地址
"databaseName": "jeesite4", --数据库名称
"port": 3306, --端口号
"username": "root", --用户名
"password": "Wind@2015", --密码
"servername": null,
"dataTbs": null,
"indexTbs": null
},
{}
]
}
## 3. http://www.oa.enfiep.com:8096/database/getTableList
### 3.1. 接口功能
> 根据数据库ID获取数据库中表列表
### 3.2. 请求方式
> post
### 3.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|idDatabase|true|varchar|数据库ID|
### 3.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571276223611,
"data": [
{
"name": "act_evt_log", --数据库表名
"pId": "TABLE", --类型
"id": "act_evt_log", --表ID
"title": "" --数据库表中文名
},
{}
]
}
## 4. http://www.oa.enfiep.com:8096/database/getColumnList
### 4.1. 接口功能
> 根据数据库ID和表名获取表下所有字段列表
### 4.2. 请求方式
> post
### 4.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|idDatabase|true|varchar|数据库ID|
|tableName|true|varchar|数据库表名|
### 4.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571276414495,
"data": [
{
"tableName": "menu_query", --数据库表名
"tableCat": "jeesite4", --数据库名称
"columnDef": null,
"columnName": "factory", --字段名
"typeName": "VARCHAR", 字段类型
"columnSize": 255, --字段长度
"decimalDigits": 0,
"nullable": 1,
"remarks": "" --字段备注
},
{}
]
}
## 5. http://www.oa.enfiep.com:8096/database/saveDatabaseAlreadyConfigTable
### 5.1. 接口功能
> 添加已配置规则的数据库表
### 5.2. 请求方式
> post
### 5.3. 请求参数 json格式提交
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|dbListId|true|varchar|数据库ID|
|tableName|true|varchar|数据库表名|
|chTableName|false|varchar|数据库表备注名|
### 5.4. 请求案例
{
"dbListId":"1141970559445073920",
"tableName":"t_tbl_warning_config"
"chTableName":"预警配置表"
}
## 6. http://www.oa.enfiep.com:8096/database/databaseAlreadyConfigTableList
### 6.1. 接口功能
> 根据数据库ID查询已配置规则的表的列表 不传参数时查询所有数据
### 6.2. 请求方式
> post
### 6.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|idDatabase|false|varchar|数据库ID|
### 6.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571277051699,
"data": [
{
"id": 2, --ID
"dbListId": "1141970559445073920", --数据库ID
"tableName": "t_tbl_warning_config", --数据库表名
"chTableName": "预警配置表", --数据库表备注名
"createTime": "2019-10-17 09:27:06",
"updateTime": "2019-10-17 09:27:06",
"createUserId": null,
"updateUserId": null
}
]
}
## 7. http://www.oa.enfiep.com:8096/database/deleteDatabaseAlreadyConfigTable
### 7.1. 接口功能
> 根据ID删除已配置规则的表数据
### 7.2. 请求方式
> post
### 7.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|id|true|Integer|已配置规则的表的ID|
### 7.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571277051699,
}
## 8. http://www.oa.enfiep.com:8096/database/saveDatabaseBasisInfo
### 8.1. 接口功能
> 添加规则
### 8.2. 请求方式
> post
### 8.3. 请求参数 json格式提交
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|alreadyConfigTableId|true|int|已配置规则表ID|
|rulesType|true|int|数据规则 1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查|
|dbListId|true|varchar|数据库ID|
|tableName|true|varchar|表名|
|remark|true|varchar|检查描述|
|level|true|int|重要等级 等级分为1、2、3、4、5|
|moreSet|true|varchar|更多设置,主要是sql|
|databaseDetailNullValueList|true|Array(Object)|当rulesType=2时,空值检查列表|
|--fieldName|true|varchar|字段名|
|databaseValueThresholdCheckList|true|Array(Object)|当rulesType=4时,值域检查列表|
|--fieldName|true|varchar|字段名|
|--low|true|double|下限,精确小数点后四位
|--high|true|double|上限,精确小数点后四位
### 8.4. 请求案例
### 空值检查提交案例
{
"alreadyConfigTableId":2,
"rulesType":2,
"dbListId":"1141970559445073920",
"tableName":"menu_query",
"remark":"测试一下remark",
"level":5,
"moreSet":"测试一下moreSet",
"databaseDetailNullValueList":[{
"fieldName":"factory"
},{
"fieldName":"name"
},{
"fieldName":"tag"
}
]
}
### 值域检查提交案例
{
"alreadyConfigTableId":2,
"rulesType":4,
"dbListId":"1141970559445073920",
"tableName":"menu_query",
"remark":"测试一下remark",
"level":5,
"moreSet":"测试一下moreSet",
"databaseValueThresholdCheckList":[{
"fieldName":"factory",
"low":1.2324,
"high":2.3434
},{
"fieldName":"name",
"low":1.2324,
"high":2.3434
},{
"fieldName":"tag",
"low":1.2324,
"high":2.3434
}
]
}
## 9. http://www.oa.enfiep.com:8096/database/getDatabaseBasisInfoList
### 9.1. 接口功能
> 根据已配置规则表ID查询规则列表 当参数都为空时,查询全部;alreadyConfigTableId为空时查询当前数据下配置的规则列表
### 9.2. 请求方式
> post
### 9.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|dbListId|false|varchar|数据库ID|
|alreadyConfigTableId|false|Integer|已配置规则的表的ID|
### 9.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571282993250,
"data": [
{
"id": 2, --主键
"alreadyConfigTableId": 2, --已配置规则的表的ID
"rulesType": 2, --数据规则 1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查
"dbListId": "1141970559445073920", --数据库ID
"tableName": "menu_query", --数据库表名
"remark": "测试一下remark", --检查描述
"level": 5, --重要等级 等级分为1、2、3、4、5
"moreSet": "测试一下moreSet", --更多设置,主要是sql
"status": 0, --状态 1启用0禁用 默认为0
"createTime": "2019-10-17 10:58:57",
"updateTime": "2019-10-17 10:58:57",
"createUserId": null,
"updateUserId": null,
"databaseDetailNullValueList": null,
"databaseValueThresholdCheckList": null
},
{},
{}
]
}
## 10. http://www.oa.enfiep.com:8096/database/detailDatabaseBasisInfo
### 10.1. 接口功能
> 根据规则ID查看规则详情 级联子表
### 10.2. 请求方式
> post
### 10.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|id|true|Integer|规则表的ID|
### 10.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571294122442,
"data": {
"id": 2, --主键
"alreadyConfigTableId": 2, --已配置规则的表的ID
"rulesType": 2, --数据规则 1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查
"dbListId": "1141970559445073920", --数据库ID
"tableName": "menu_query", --数据库表名
"remark": "测试一下remark", --检查描述
"level": 5, --重要等级 等级分为1、2、3、4、5
"moreSet": "测试一下moreSet", --更多设置,主要是sql
"status": 0, --状态 1启用0禁用 默认为0
"createTime": "2019-10-17 10:58:57",
"updateTime": "2019-10-17 10:58:57",
"createUserId": null,
"updateUserId": null,
"databaseDetailNullValueList": [//空值检查列表 当rulesType=2时存在
{
"id": "1", --主键
"basisInfoId": 2, --规则表ID
"fieldName": "factory", --字段名
"createTime": "2019-10-17 10:58:58",
"updateTime": "2019-10-17 10:58:58"
},
{},
{}
],
"databaseValueThresholdCheckList": [
{
"id": "1", --主键
"basisInfoId": 3, --规则表ID
"fieldName": "factory", --字段名
"low": 1.2324, --下限
"high": 2.3434, --上限
"createTime": "2019-10-17 11:26:57",
"updateTime": "2019-10-17 11:26:57"
},
{},
{}
]
}
}
## 11. http://www.oa.enfiep.com:8096/database/updateDatabaseBasisInfoStatus
### 11.1. 接口功能
> 根据ID修改规则表状态
### 11.2. 请求方式
> post
### 11.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|id|true|Integer|规则表的ID|
|status|true|Integer|状态 1启用0禁用|
### 11.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571294122442,
}
## 12. http://www.oa.enfiep.com:8096/database/updateDatabaseBasisInfo
### 12.1. 接口功能
> 修改规则 修改前先删除子表,然后添加子表
### 12.2. 请求方式
> post
### 12.3. 请求参数 json格式提交
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|id|true|int|规则表ID|
|alreadyConfigTableId|true|int|已配置规则表ID|
|rulesType|true|int|数据规则 1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查|
|dbListId|true|varchar|数据库ID|
|tableName|true|varchar|表名|
|remark|true|varchar|检查描述|
|level|true|int|重要等级 等级分为1、2、3、4、5|
|moreSet|true|varchar|更多设置,主要是sql|
|databaseDetailNullValueList|true|Array(Object)|当rulesType=2时,空值检查列表|
|--fieldName|true|varchar|字段名|
|databaseValueThresholdCheckList|true|Array(Object)|当rulesType=4时,值域检查列表|
|--fieldName|true|varchar|字段名|
|--low|true|double|下限,精确小数点后四位
|--high|true|double|上限,精确小数点后四位
### 12.4. 请求案例
### 空值检查提交案例
{
"id":2,
"alreadyConfigTableId":2,
"rulesType":2,
"dbListId":"1141970559445073920",
"tableName":"menu_query",
"remark":"测试一下remark",
"level":5,
"moreSet":"测试一下moreSet",
"databaseDetailNullValueList":[{
"fieldName":"factory"
},{
"fieldName":"name"
},{
"fieldName":"tag"
}
]
}
### 值域检查提交案例
{
"id":3,
"alreadyConfigTableId":2,
"rulesType":4,
"dbListId":"1141970559445073920",
"tableName":"menu_query",
"remark":"测试一下remark",
"level":5,
"moreSet":"测试一下moreSet",
"databaseValueThresholdCheckList":[{
"fieldName":"factory",
"low":1.2324,
"high":2.3434
},{
"fieldName":"name",
"low":1.2324,
"high":2.3434
},{
"fieldName":"tag",
"low":1.2324,
"high":2.3434
}
]
}
## 13. http://www.oa.enfiep.com:8096/database/deleteDatabaseBasisInfo
### 13.1. 接口功能
> 根据ID删除规则 需删除子表
### 13.2. 请求方式
> post
### 13.3. 请求参数
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|id|true|Integer|规则表的ID|
|rulesType|true|Integer|1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查|
### 11.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571294122442,
}
## 14. http://www.oa.enfiep.com:8096/database/getQualityCheckStat
### 14.1. 接口功能
> 质量检查报表 5个
### 14.2. 请求方式
> post
### 14.3. 请求参数 无
### 14.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571390749180,
"data": {
"databaseStatQualityDataTrendList": [ --数据质量走势列表
{
"id": "1", --主键
"allCount": 1000000, --检查总数
"exceptionCount": 100, --异常数
"exceptionPercent": 0.01, --异常率
"date": "2019-10-16", --检查日期
"createTime": "2019-10-18 15:51:59" --创建时间
},{},{}
],
"databaseStatRulesQuestionList": [ --各个规则发现问题数、问题率列表
{
"id": "3", --主键
"rulesType": 2, --数据规则 1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查
"allCount": 1000000, --检查总数
"questionCount": 150, --问题数
"questionPercent": 0.015, --问题率
"date": "2019-10-17", --检查日期
"createTime": "2019-10-18 16:01:06" --创建时间
},{},{},{},{},{},{},{}
],
"databaseStatTableQuestionList": [ --各表发现问题数、问题率列表
{
"id": "2", --主键
"dbListId": "1141970559445073920", --数据库ID
"tableName": "t_tbl_user_cockpit_config", --表名
"chTableName": "用户驾驶舱指标设置表", --中文表名
"allCount": 1000000, --检查总数
"questionCount": 150, --问题数
"questionPercent": 0.015, --问题率
"date": "2019-10-17", --检查日期
"createTime": "2019-10-18 16:34:48" --创建时间
},{}
]
}
}
## 15. http://www.oa.enfiep.com:8096/database/getStatTrendDetailList?page=1&size=10&sort=createTime,desc
### 15.1. 接口功能
> 质量检查明细表 分页
### 15.2. 请求方式
> post
### 15.3. 请求参数 json格式提交
|参数|必选|类型|说明|
|:----- |:-------|:-----|:-----|
|dbListId|false|varchar|数据库ID|
|rulesType|false|Integer|1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查|
|tableName|false|varchar|表名|
|status|false|int|状态 1成功0失败|
|date|false|varchar|日期批次 格式 2019-01-01|
### 15.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571391454709,
"data": {
"content": [
{
"id": "1", --主键
"dbListId": "1141970559445073920", --数据库ID
"dbName": "jeesite4", --数据库名称
"tableName": "t_tbl_user_cockpit_config", --表名
"rulesType": 1, ----数据规则 1数据量比对、2空值检查、3引用完整性检查、4值域检查、5重复数据检查、6脚本检查、7规范检查、8波动检查
"remark": "出错了", --检查描述
"date": "2019-10-16", --日期批次,格式 2019-01-01
"status": 1, --检查情况 1成功0失败
"startTime": "2019-10-18 17:02:07", --开始时间 精确到时分秒
"endTime": "2019-10-18 17:02:07", --结束时间 精确到时分秒
"createTime": "2019-10-18 17:02:07" --创建时间
},
{},{},{},{},{},{},{},{},{}
],
"pageable": {
"sort": {
"unsorted": false,
"sorted": true,
"empty": false
},
"offset": 0,
"pageSize": 10,
"pageNumber": 0,
"paged": true,
"unpaged": false
},
"totalPages": 2, --总页数
"totalElements": 16, --总条数
"last": false,
"number": 0,
"size": 10,
"sort": {
"unsorted": false,
"sorted": true,
"empty": false
},
"numberOfElements": 10,
"first": true,
"empty": false
}
}
## 16. http://www.oa.enfiep.com:8096/database/getDataAssetsData
### 16.1. 接口功能
> 获取数据资产视图数据
### 16.2. 请求方式
> post
### 16.3. 请求参数 无
### 16.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571456759999,
"data": {
"dataPriorityStat": { --数据优先级
"l_count": 61, --低级任务总数
"m_count": 56, --中级任务总数
"h_count": 137 --高级任务总数
},
"taskTotalCount": { --任务总数(本月)
"total_job": 2605
},
"taskRunRankList": [ --任务运行排行,此处取前十条,页面显示前6条
{
"job_name": "year_wuni_cost truncate", --任务名称
"cost_time": "1" --花费时间 秒
},{},{},{},{},{},{}
],
"taskSituationList": [ --任务概况列表 只用取最新数据即可(第一条数据)
{
"date": "20191019", --日期
"total": 254, --总计任务数(每日)
"failed": 2, --失败任务数(每日)
"succeeded": 243, -- 成功任务数(每日)
"running": 9 - 进行中任务数(每日)
},{},{},{},{}
],
"taskCountStat": { --运行、调用、完成、新增任务数
"total_job": 278, --运行任务数(今日)、调用任务数(今日)
"succeeded_job": 272, --完成任务数(今日)
"new_job": 25 --新增任务
},
"taskRunAllTrendList": [ --任务运行总体趋势
{
"date": "20191008", --日期
"percent": 1.0000 --任务运行完成率
},{},{},{},{},{},{},{},{},{},{},{}
],
"taskMonitorStatList": [ --ETL任务监控统计 只用取最新数据即可(第一条数据)
{
"date": "20191019", --日期
"failed": 0.79, -- 失败任务占比(每日)
"succeeded": 95.67, -- 成功任务占比(每日)
"running": 3.54 -- 进行中任务占比(每日)
},{},{},{}
]
}
}
## 17. http://www.oa.enfiep.com:8096/database/getDataAssetsFlowData
### 17.1. 接口功能
> 获取数据资产流图数据
### 17.2. 请求方式
> post
### 17.3. 请求参数 无
### 17.4. 结果
{
"status": 200,
"message": "",
"error": "",
"error_description": "",
"timestamp": 1571468862782,
"data": {
"countStat": {
"table_num": 74.0, -- 接口数
"fields_num": 1795.0, -- 字段数
"counts_num": 9.8579127E7, -- 数据条数
"size": "42.469G", -- 数据总量(不含备份)
"total_size": "127.529G", -- 数据总量(不含备份)
"success_job": 54, -- 任务运行成功数量
"run_job": 0, -- 任务正在运行数量
"total_job": 56, -- 总任务量
"job_state": 96.4286 -- 任务运行成功率
},
"databaseStatQualityDataTrendList": [ --问题数列表 取第一条
{
"id": "4",
"allCount": 1000000,
"exceptionCount": 300, --问题数
"exceptionPercent": 0.03,
"date": "2019-10-19",
"createTime": "2019-10-19 15:37:46"
},{},{},{}
],
"cleanDataTotalList": [ --数据清洗后总量列表,取第一条数据 (单位M)
{
"date": "20191019", --日期
"size": "42468.928M", --数据总量(不含备份)
"total_size": "127528.670M" -- 数据总量(包含备份)
},{},{}
],
"dataGovernTotalList": [ --数据治理总量列表,取第一条数据 (单位M)
{
"date": "20191019", --日期
"size": "42468.928M", --数据总量(不含备份)
"total_size": "127528.670M" -- 数据总量(包含备份)
},{},{}
]
}
}