Linux查看日志文件写入速度的4种方法详解

目录
  • 简介
    • 使用dd
    • 使用pv
    • 使用cv命令
    • 编写小脚本
  • 举一反三

简介

有时，我们需要查看某个文件的增长速度，如日志文件，以此来感受系统的负载情况，因为一般情况下，日志写入越快，说明系统负载越重。

本文就来介绍下Linux中查看日志增长速度的几种方法，如下：

使用dd

首先要介绍的是dd，因为dd命令几乎所有主流发行版都自带，无需额外安装，如下：

$ tail -F app.log | dd of=/dev/null status=progress
3875840 bytes (3.9 MB) copied, 8.228797 s, 471 kB/s

如上，使用tail -F获取新写入的数据，然后用管道将数据交给dd，dd将数据拷贝到/dev/null，其中status=progress是用来显示拷贝速度的，可见，我们日志的写入速度是471 kB/s。

使用pv

pv命令可以看做是带进度的cp，如下：

$ yum install -y pv

$ tail -F app.log | pv >/dev/null
2.05MiB 0:00:03 [ 330kiB/s] [       <=>                                ]

原理与dd类似，不过命令换成了pv。

使用cv命令

由于日志数据都是程序(如java)写入的，而在如下的伪文件中，存放着程序打开的文件信息，如下：

  • /proc/<pid>/fd：存放着打开的文件描述符
  • /proc/<pid>/fdinfo：存放着文件描述符写入到的offset

于是定期的读取这个offset就可以知道文件的写入速度了，这也是cv命令的实现原理，如下：

$ yum install -y cv

$ cv -mc java
[    1] java app.log 100.0% (6.1 GiB / 6.1 GiB) 390.2 KiB/s

# 实际上，由于Linux上大多数命令(如cp)没自带进度查看功能，而cv就成了很好的补充
# 比如查看cp复制文件的进度
$ cp app.log app.log.bak & cv -mc cp 

新版cv命令已经改名为progress，安装不到cv包时，可试着安装progress包。

编写小脚本

通过写一个小脚本，定期观察文件大小，也可查看文件写入速度，如下：

# 每秒获取文件大小，通过减去上一秒的大小，即可计算出速度
while sleep 1; do  \
  sz=`stat -c %s app.log`; \
  numfmt --from=auto --to=iec $((sz-psz)); \
  psz=$sz; \
done

492K
750K
370K

通过watch再加上观察，也能大致看出速度，如下：

watch -d -t -n1 du app.log

watch_du

举一反三

其实转念一想，如果我们在某个函数中打上日志，然后通过grep过滤出此日志，然后我们只要计算每秒输出的日志行数，这岂不就是函数执行的QPS了！

# 使用grep过滤出日志，tr删除非换行符，所以dd显示的是换行符的个数！
$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | stdbuf -oL tr -dc '\n' \                     
    | dd of=/dev/null bs=1 status=progress

151 bytes (151 B) copied, 15.523018 s, 0.0 kB/s

这里可以通过151/15计算出QPS是10，由于没有超过1000，所以看到的是0.0kB/s，如果使用pv命令，会更简单一些，如下：

$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | pv -l >/dev/null
    
144  0:00:03 [11.5 /s] [       <=>                

到此这篇关于Linux查看日志文件写入速度的4种方法详解的文章就介绍到这了,更多相关Linux查看日志文件写入速度内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！

赞 (0)

相关推荐

  • Linux日志式文件系统面面观

    文件系统是用来管理和组织保存在磁盘驱动器上的数据的系统软件,其实现了数据完整性的保 证,也就是保证写入磁盘的数据和随后读出的内容的一致性.除了保存以文件方式存储的数据以外,一个文件系统同样存储和管理关于文件和文件系统自身的一些重要信息(例如:日期时间.属主.访问权限.文件大小和存储位置等等).这些信息通常被称为元数据(metadata). 由于为了避免磁盘访问瓶颈效应,一般文件系统大都以异步方式工作,因此如果磁盘操作被突然中断可能导致数据被丢失.例如如果出现这种情况:如果当你处理一个在linux

  • Linux使用shell脚本定时删除历史日志文件

    1.tools目录文件结构 [root@www tools]# tree tools/ tools/ ├── bin │ ├── del_history_files │ └── etc ├── del_history_files.cfg 2 directories, 2 files 2.删除历史文件脚本 del_history_files [root@www tools]# more tools/bin/del_history_files #!/bin/sh # 删除指定目录下,文件时间早于指定

  • linux系统中c++写日志文件功能分享

    简化了glog,只保留了写日志文件的功能,只是改写了linux版本,win版本未改写,可以用LOG(INFO)<< 输出日志也可用LOG_IF(INFO,condition)<<输出日志也可直接调用日志类Logger::GetInstance().Error 等方式写日志初始化时调用 InitLogging(argv[0],INFO,"./log/test");第一个参数是路径,第二个参数是最低日志级别,第三个参数表示日志文件的前缀和文件夹 FileHelper

  • linux tail 查看日志文件方法

    tail 命令从指定点开始将文件写到标准输出.使用tail命令的-f选项可以方便的查阅正在改变的日志文件,tail -f filename会把filename里最尾部的内容显示在屏幕上,并且不但刷新,使你看到最新的文件内容. 1．命令格式; tail[必要参数][选择参数][文件] 2．命令功能: 用于显示指定文件末尾内容,不指定文件时,作为输入信息进行处理.常用查看日志文件. -f 循环读取 -q 不显示处理信息 -v 显示详细的处理信息 -c<数目> 显示的字节数 -n<行数>

  • Linux环境下查看日志文件命令详解

    目录 前言 一.cat命令: 二.more命令: 三.less命令: 四.head命令: 五.tail命令: 六.tac命令: 七.echo命令: 八.grep命令: 九.sed命令: 混合命令: 附加: 前言 当日志存储文件很大时,我们就不能用 vi 直接去查看日志了,就需要Linux的一些内置命令去查看日志文件. 系统Log日志位置: /var/log/message 系统启动后的信息和错误日志,是Red Hat Linux中最常用的日志之一 /var/log/secure 与安全相关的日志

  • Linux查看日志文件写入速度的4种方法详解

    Linux查看日志文件写入速度的4种方法详解

    目录 简介 使用dd 使用pv 使用cv命令 编写小脚本 举一反三 简介 有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日志写入越快,说明系统负载越重. 本文就来介绍下Linux中查看日志增长速度的几种方法,如下: 使用dd 首先要介绍的是dd,因为dd命令几乎所有主流发行版都自带,无需额外安装,如下: $ tail -F app.log | dd of=/dev/null status=progress 3875840 bytes (3.9 MB)

  • python修改文件内容的3种方法详解

    这篇文章主要介绍了python修改文件内容的3种方法详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 一.修改原文件方式 def alter(file,old_str,new_str): """ 替换文件中的字符串 :param file:文件名 :param old_str:就字符串 :param new_str:新字符串 :return: """ file_data = "&qu

  • php读取文件内容的几种方法详解

    示例代码1: 用file_get_contents 以get方式获取内容 复制代码 代码如下: <?php$url='http://www.baidu.com/';$html=file_get_contents($url);//print_r($http_response_header);ec($html);printhr();printarr($http_response_header);printhr();?> 示例代码2: 用fopen打开url, 以get方式获取内容 复制代码 代码如

  • Linux 查看内存使用情况的几种方法汇总

    目录 GUI 查看 如何访问系统监视器: 命令获取 虚拟文件 /proc/meminfo 命令 free 命令 vmstat 命令 top 命令 htop 在运行 Linux 系统的过程中为了让电脑或者服务器以最佳水平运行,常常需要监控内存统计信息. 那么今天我们就来看看有哪些方法可以访问所有相关信息并帮助管理员监控内存统计信息. 查看或者获取 Linux 中的内存使用情况既可以通过命令的方式,也可以通过桌面端的GUI程序查看. 以下的过程,所有命令和结果都是使用 Linux 发行版 Ubunt

  • mysql日志文件General_log和Binlog开启及详解

    mysql日志文件General_log和Binlog开启及详解

    目录 背景: General_log 详解 1.介绍 2.开启数据库general_log步骤 Binlog 详解 1.介绍 2.开启binlog日志 3.常用binlog日志操作命令 4.mysqlbinlog命令使用 5.binlog的三种工作模式 总结 背景: 周末归纳下mysql的日志文件,其中general_log在mysql入侵中已经用到过,binlog即将会用到.注:mysql版本为5.7.20 General_log 详解 1.介绍 开启 general log 将所有到达MyS

  • linux网站服务Apache的安装与配置方法详解

    这篇文章介绍下linux网站服务apache的安装与配置方法,包括挂载光盘,安装http服务,管理httpd服务,httpd的配置文件几大部分.具体详情可以参考下文. 1.挂载光盘 自己习惯将光盘挂载在/media/cdrom目录,在做本地yum源的时候此目录为默认目录之一 [root@localhost /]# mount /dev/cdrom /media/cdrom/ 2.安装httpd服务(如果本地yum源已经搭建好就直接进行这一步,没有的话需要搭建,前面的文章有提到yum源的搭建) [

  • Linux手动部署远程的mysql数据库的方法详解

    一.安装mysql 运行以下命令更新YUM源. rpm -Uvh  http://dev.mysql.com/get/mysql57-community-release-el7-9.noarch.rpm 运行以下命令安装MySQL. yum -y install mysql-community-server 运行以下命令查看MySQL版本号. mysql -V 返回结果如下,表示MySQL安装成功. mysql  Ver 14.14 Distrib 5.7.31, for Linux (x86_

  • Mybatis 逆向工程的三种方法详解

    Mybatis 逆向工程的三种方法详解

    Mybatis 逆向工程   逆向工程通常包括由数据库的表生成 Java 代码 和 通过 Java 代码生成数据库表.而Mybatis 逆向工程是指由数据库表生成 Java 代码.   Mybaits 需要程序员自己编写 SQL 语句,但是 Mybatis 官方提供逆向工程可以针对单表自动生成 Mybaits 执行所需要的代码,包括 POJO.Mapper.java.Mapper.xml -. 一.通过 Eclipse 插件完成 Mybatis 逆向工程 1. 在线安装 Eclipse 插件  

  • Python开发装包八种方法详解

    目录 1. 使用 easy_install 2. 使用 pip install 3. 使用 pipx 4. 使用 setup.py 5. 使用 yum 6. 使用 pipenv 7. 使用 poetry 8. 使用 curl + 管道 1. 使用 easy_install easy_install 这应该是最古老的包安装方式了,目前基本没有人使用了.下面是 easy_install 的一些安装示例 # 通过包名,从PyPI寻找最新版本,自动下载.编译.安装 $ easy_install pkg_

  • Java实现Excel转PDF的两种方法详解

    Java实现Excel转PDF的两种方法详解

    目录 一.使用spire转化PDF 1.使用spire将整个Excel文件转为PDF 2.指定单个的sheet页转为PDF 二.使用jacob实现Excel转PDF(推荐使用) 1.环境准备 2.执行导出PDF 使用具将Excel转为PDF的方法有很多,在这里我给大家介绍两种常用的方法,分别应对两种不一样的使用场景,接下来我在springboot环境下给大家做一下演示! 一.使用spire转化PDF 首先介绍一种比较简单的方法,这种方法可以使用短短的几行代码就可以将我们的Excel文件中的某一个

随机推荐