Python导出Hive数据表Schema的完整实现方案

温以宁

发布时间：2026-10-13 | 2人浏览过

原创

本文介绍如何使用Python脚本自动导出Hive数据表的字段及类型信息。通过连接Hive并遍历所有表，获取每表的列名与数据类型，最终生成包含表结构详情的Excel文件，旨在为运营团队提供清晰的HUE查询支持。

本文探讨的核心议题是利用Python语言提取Hive数据表的Schema信息，并提供了具体的实现代码供参考。

为了应对运营部门频繁且无休止的查询请求，团队决定将具备查询价值的数据从MySQL迁移至Hive，并引导运营人员使用开源工具HUE进行数据查询。鉴于运营人员对表结构缺乏深入了解，我们需要提供一份详细的表结构说明。为此，我们编写了一个脚本，能够从Hive数据库中检索每张表的字段名称及其对应的数据类型，具体实现代码如下：

#coding=utf-8 
import pyhs2 
from xlwt import * 
 
hiveconn = pyhs2.connect(host='10.46.77.120', 
         port=10000, 
         authMechanism='PLAIN', 
         user='hadoop', 
         database='hibiscus_data', 
         ) 
 
def create_excel(): 
  sql = 'show tables' 
  tables = [] 
  with hiveconn.cursor() as cursor: 
    cursor.execute(sql) 
    res = cursor.fetch() 
    for table in res: 
      tables.append(table[0]) 
   
  tableinfo = [] 
  for table in tables: 
    tableinfo.append(get_column_info(table)) 
 
  create_excel_ex(tableinfo) 
 
def create_excel_ex(tableinfo): 
  w = Workbook() 
  sheet = w.add_sheet(u'表结构') 
  row = 0 
  for info in tableinfo: 
    row = write_tale_info(info,sheet,row) 
  w.save('hive_schema.xls') 
 
def write_tale_info(tableinfo,sheet,row): 
  print row 
  sheet.write_merge(row,row,0,2,tableinfo['table']) 
   
  row += 1 
  sheet.write(row,0,u'名称') 
  sheet.write(row,1,u'类型') 
  sheet.write(row,2,u'解释') 
  row += 1 
 
  fields = tableinfo['fields'] 
  for field in fields: 
    sheet.write(row,0,field['name']) 
    sheet.write(row,1,field['type']) 
    row += 1 
 
  return row + 1  
   
   
def get_column_info(table): 
  sql = 'desc {table}'.format(table=table) 
  info = {'table':table,'fields':[]} 
  with hiveconn.cursor() as cursor: 
    cursor.execute(sql) 
    res = cursor.fetch() 
    for item in res: 
      if item[0] == '': 
        break 
      info['fields'].append({'name':item[0],'type':item[1]}) 
 
  return info 
 
if __name__ == '__main__': 
  create_excel()

事实上，我们的Hive数据库将所有元数据存储在MySQL中。通过分析这些元数据，同样可以获取到表结构的相关信息。

总结

以上是关于Python导出Hive数据表Schema的完整代码示例，希望能对大家有所帮助。欢迎感兴趣的朋友继续浏览本站其他相关专题。如有任何不足之处，敬请留言指正。感谢各位对本站的支持！