python处理数据处理数据,存进存进hive表的方法表的方法
今天小编就为大家分享一篇python处理数据,存进hive表的方法,具有很好的参考价值,希望对大家有所帮助。
一起跟随小编过来看看吧
首先,公司的小组长给了我一个任务,把一个txt的文件中的部分内容,存进一个在hive中已有的表的相同结构的表中。所以我
的流程主要有三个,首先,把数据处理成和hive中表相同结构的数据,然后仿照已有的hive中表的结构再创建一张新的数据
表,最后把本地的txt文件上传到hive中新建的数据表中。
1:已有的数据表的结构和在:已有的数据表的结构和在hive表中的结构完全对不上,下面的图是原来表中的结构完全对不上,下面的图是原来hive中表的结构和小组长给我的中表的结构和小组长给我的txt中表的结构:中表的结构:
大家可以看出,我们原来的大家可以看出,我们原来的hive中表的字段一共有中表的字段一共有17个,而组长给我的表中的字段一共有个,而组长给我的表中的字段一共有9个,其中最后一个为个,其中最后一个为json结构,而结构,而
且顺序还不对,所以我们要进行筛选,把对应上的字段放到相应位置,对应不上的字段写成空。且顺序还不对,所以我们要进行筛选,把对应上的字段放到相应位置,对应不上的字段写成空。
大家要注意几个地方,原来的数据是按照tab来划分的,所以我们要数好对应的tab的数目,好来计算出来数据的实际的位置信
息,然后我们按照原来hive表中的数据顺序,重新排列我们新建表的数据的顺序,下面给大家看看结果:
评论1
最新资源