没有合适的资源?快使用搜索试试~ 我知道了~
MD5文件自动上传脚本,包含注释 脚本片段: #查看oldfiles.log日志是否存在 then md5=`md5sum wendang/${filename[$i]}|awk '{print $1}'` #取出对应行文件的唯一标识MD5值 cat oldfiles.log|grep "$md5" >/dev/null #查看日志中是否有相同的MD5值
资源推荐
资源详情
资源评论
#!/bin/ksh
cd /home/hadoop/tt
#进入目标目录tt
filename=($(ls -lt wendang |grep "^-"|awk '{print $9}'))
#列出目录wendang下所有文件名
number=${#filename[@]}
#number赋值为目录中文件数量
for((i=0;i<$number;i++))
#循环
do
if [ -f oldfiles.log ]
#查看oldfiles.log日志是否存在
then
md5=`md5sum wendang/${filename[$i]}|awk '{print $1}'`
#取出对应行文件的唯一标识MD5值
cat oldfiles.log|grep "$md5" >/dev/null
#查看日志中是否有相同的MD5值
if [ $? -eq 1 ]
#判断
then
hadoop fs -put wendang/${filename[$i]} /data
#没有对应值则执行hadoop命令上传文件
if [ $? -eq 0 ]
then
echo $md5 >> oldfiles.log
rm wendang/${filename[$i]}
#上传成功则把MD5值记录入oldfiles.log并删除文件
else
echo fail
fi
cd /home/hadoop/tt
#进入目标目录tt
filename=($(ls -lt wendang |grep "^-"|awk '{print $9}'))
#列出目录wendang下所有文件名
number=${#filename[@]}
#number赋值为目录中文件数量
for((i=0;i<$number;i++))
#循环
do
if [ -f oldfiles.log ]
#查看oldfiles.log日志是否存在
then
md5=`md5sum wendang/${filename[$i]}|awk '{print $1}'`
#取出对应行文件的唯一标识MD5值
cat oldfiles.log|grep "$md5" >/dev/null
#查看日志中是否有相同的MD5值
if [ $? -eq 1 ]
#判断
then
hadoop fs -put wendang/${filename[$i]} /data
#没有对应值则执行hadoop命令上传文件
if [ $? -eq 0 ]
then
echo $md5 >> oldfiles.log
rm wendang/${filename[$i]}
#上传成功则把MD5值记录入oldfiles.log并删除文件
else
echo fail
fi
资源评论
康康can
- 粉丝: 14
- 资源: 4
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- UIGF_200852355_202404242026.json
- 基于STM32单片机的智能停车场设计源码+全部资料.zip
- 基于Python+Opencv+keras的实时手势识别系统+源码+文档(期末大作业&课程设计&项目开发)
- 基于LabView+MATLAB的说话人识别系统.zip
- 基于树莓派+OpenCV+Python语言的人脸识别+源码+开发文档(毕业设计&课程设计&项目开发)
- 前端vue框架,后端ssm+springboot框架,网站开发.zip
- 基于springboot的快速开发框架.zip
- 基于springboot的分布式权限管理系统,易读易懂、界面简洁美观.zip
- 基于SpringBoot Mybatis-Plus TypeScript的微服务多租户SaaS管理快速开发框架 .zip
- 论文复现:QA-GNN: Reasoning with Language Models and Knowledge
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功