2021-10-6 533 0
软件

一、简介rsync是一个常用的Linux应用程序,用于文件同步。它可以在本地计算机与远程计算机之间,或者两个本地目录之间同步文件(但不支持两台远程计算机之间的同步)。它也可以当作文件复制工具,替代cp和mv命令。它名称里面的r指的是remote,rsync其实就是"远程同步"(remotesync)的意思。与其他文件传输工具(如FTP或scp)不同,rsync的最大特点是会检查发送方和接收方已有的文件,仅传输有变动的部分(默认规则是文件大小或修改时间有变动)。二、安装如果本机或者远程计算机没有安装rsync,可以用下面的命令安装。#Debian$sudoapt-getinstallrsync#RedHat$sudoyuminstallrsync#ArchLinux$sudopacman-Srsync注意,传输的双方都必须安装rsync。三、基本用法3.1-r参数本机使用rsync命令时,可以作为cp和mv命令的替代方法,将源目录同步到目标目录。$rsync-rsourcedestination上面命令中,-r表示递归,即包含子目录。注意,-r是必须的,否则rsync运行不会成功。source目录表示源目录,destination表示目标目录。如果有多个文件或目录需要同步,可以写成下面这样。$rsync-rsource1source2destination上面命令中,source1、source2都会被同步到destination目录。3.2-a参数-a参数可以替代-r,除了可以递归同步以外,还可以同步元信息(比如修改时间、权限等)。由于rsync默认使用文件大小和修改时间决定文件是否需要更新,所以-a比-r更有用。下面的用法才是常见的写法。$rsync-asourcedestination目标目录destination如果不存在,rsync会自动创建。执行上面的命令后,源目录source被完整地复制到了目标目录destination下面,即形成了destination/source的目录结构。如果只想同步源目录source里面的内容到目标目录destination,则需要在源目录后面加上斜杠。$rsync-asource/destination上面命令执行后,source目录里面的内容,就都被复制到了destination目录里面,并不会在destination下面创建一个source子目录。3.3-n参数如果不确定rsync执行后会产生什么结果,可以先用-n或--dry-run参数模拟执行的结果。$rsync-anvsource/destination上面命令中,-n参数模拟命令执行的结果,并不真的执行命令。-v参数则是将结果输出到终端,这样就可以看到哪些内容会被同步。3.4--delete参数默认情况下,rsync只确保源目录的所有内容(明确排除的文件除外)都复制到目标目录。它不会使两个目录保持相同,并且不会删除文件。如果要使得目标目录成为源目录的镜像副本,则必须使用--delete参数,这将删除只存在于目标目录、不存在于源目录的文件。$rsync-av--deletesource/destination上面命令中,--delete参数会使得destination成为source的一个镜像。四、排除文件4.1--exclude参数有时,我们希望同步时排除某些文件或目录,这时可以用--exclude参数指定排除模式。$rsync-av--exclude='*.txt'source/destination#或者$rsync-av--exclude'*.txt'source/destination上面命令排除了所有TXT文件。注意,rsync会同步以"点"开头的隐藏文件,如果要排除隐藏文件,可以这样写--exclude=".*"。如果要排除某个目录里面的所有文件,但不希望排除目录本身,可以写成下面这样。$rsync-av--exclude'dir1/*'source/destination多个排除模式,可以用多个--exclude参数。$rsync-av--exclude'file1.txt'--exclude'dir1/*'source/destination多个排除模式也可以利用Bash的大扩号的扩展功能,只用一个--exclude参数。$rsync-av--exclude={'file1.txt','dir1/*'}source/destination如果排除模式很多,可以将它们写入一个文件,每个模式一行,然后用--exclude-from参数指定这个文件。$rsync-av--exclude-from='exclude-file.txt'source/destination4.2--include参数--include参数用来指定必须同步的文件模式,往往与--exclude结合使用。$rsync-av--include="*.txt"--exclude='*'source/destination上面命令指定同步时,排除所有文件,但是会包括TXT文件。五、远程同步5.1SSH协议rsync除了支持本地两个目录之间的同步,也支持远程同步。它可以将本地内容,同步到远程服务器。$rsync-avsource/username@remote_host:destination也可以将远程内容同步到本地。$rsync-avusername@remote_host:source/destinationrsync默认使用SSH进行远程登录和数据传输。由于早期rsync不使用SSH协议,需要用-e参数指定协议,后来才改的。所以,下面-essh可以省略。$rsync-av-esshsource/user@remote_host:/destination但是,如果ssh命令有附加的参数,则必须使用-e参数指定所要执行的SSH命令。$rsync-av-e'ssh-p2234'source/user@remote_host:/destination上面命令中,-e参数指定SSH使用2234端口。5.2rsync协议除了使用SSH,如果另一台服务器安装并运行了rsync守护程序,则也可以用rsync://协议(默认端口873)进行传输。具体写法是服务器与目标目录之间使用双冒号分隔::。$rsync-avsource/192.168.122.32::module/destination注意,上面地址中的module并不是实际路径名,而是rsync守护程序指定的一个资源名,由管理员分配。如果想知道rsync守护程序分配的所有module列表,可以执行下面命令。$rsyncrsync://192.168.122.32rsync协议除了使用双冒号,也可以直接用rsync://协议指定地址。$rsync-avsource/rsync://192.168.122.32/module/destination六、增量备份rsync的最大特点就是它可以完成增量备份,也就是默认只复制有变动的文件。除了源目录与目标目录直接比较,rsync还支持使用基准目录,即将源目录与基准目录之间变动的部分,同步到目标目录。具体做法是,第一次同步是全量备份,所有文件在基准目录里面同步一份。以后每一次同步都是增量备份,只同步源目录与基准目录之间有变动的部分,将这部分保存在一个新的目标目录。这个新的目标目录之中,也是包含所有文件,但实际上,只有那些变动过的文件是存在于该目录,其他没有变动的文件都是指向基准目录文件的硬链接。--link-dest参数用来指定同步时的基准目录。$rsync-a--delete--link-dest/compare/path/source/path/target/path上面命令中,--link-dest参数指定基准目录/compare/path,然后源目录/source/path跟基准目录进行比较,找出变动的文件,将它们拷贝到目标目录/target/path。那些没变动的文件则会生成硬链接。这个命令的第一次备份时是全量备份,后面就都是增量备份了。下面是一个脚本示例,备份用户的主目录。#!/bin/bash#Ascripttoperformincrementalbackupsusingrsyncset-oerrexitset-onounsetset-opipefailreadonlySOURCE_DIR="${HOME}"readonlyBACKUP_DIR="/mnt/data/backups"readonlyDATETIME="$(date'+%Y-%m-%d_%H:%M:%S')"readonlyBACKUP_PATH="${BACKUP_DIR}/${DATETIME}"readonlyLATEST_LINK="${BACKUP_DIR}/latest"mkdir-p"${BACKUP_DIR}"rsync-av--delete\"${SOURCE_DIR}/"\--link-dest"${LATEST_LINK}"\--exclude=".cache"\"${BACKUP_PATH}"rm-rf"${LATEST_LINK}"ln-s"${BACKUP_PATH}""${LATEST_LINK}"上面脚本中,每一次同步都会生成一个新目录${BACKUP_DIR}/${DATETIME},并将软链接${BACKUP_DIR}/latest指向这个目录。下一次备份时,就将${BACKUP_DIR}/latest作为基准目录,生成新的备份目录。最后,再将软链接${BACKUP_DIR}/latest指向新的备份目录。七、配置项-a、--archive参数表示存档模式,保存所有的元数据,比如修改时间(modificationtime)、权限、所有者等,并且软链接也会同步过去。--append参数指定文件接着上次中断的地方,继续传输。--append-verify参数跟--append参数类似,但会对传输完成后的文件进行一次校验。如果校验失败,将重新发送整个文件。-b、--backup参数指定在删除或更新目标目录已经存在的文件时,将该文件更名后进行备份,默认行为是删除。更名规则是添加由--suffix参数指定的文件后缀名,默认是~。--backup-dir参数指定文件备份时存放的目录,比如--backup-dir=/path/to/backups。--bwlimit参数指定带宽限制,默认单位是KB/s,比如--bwlimit=100。-c、--checksum参数改变rsync的校验方式。默认情况下,rsync只检查文件的大小和最后修改日期是否发生变化,如果发生变化,就重新传输;使用这个参数以后,则通过判断文件内容的校验和,决定是否重新传输。--delete参数删除只存在于目标目录、不存在于源目标的文件,即保证目标目录是源目标的镜像。-e参数指定使用SSH协议传输数据。--exclude参数指定排除不进行同步的文件,比如--exclude="*.iso"。--exclude-from参数指定一个本地文件,里面是需要排除的文件模式,每个模式一行。--existing、--ignore-non-existing参数表示不同步目标目录中不存在的文件和目录。-h参数表示以人类可读的格式输出。-h、--help参数返回帮助信息。-i参数表示输出源目录与目标目录之间文件差异的详细情况。--ignore-existing参数表示只要该文件在目标目录中已经存在,就跳过去,不再同步这些文件。--include参数指定同步时要包括的文件,一般与--exclude结合使用。--link-dest参数指定增量备份的基准目录。-m参数指定不同步空目录。--max-size参数设置传输的最大文件的大小限制,比如不超过200KB(--max-size='200k')。--min-size参数设置传输的最小文件的大小限制,比如不小于10KB(--min-size=10k)。-n参数或--dry-run参数模拟将要执行的操作,而并不真的执行。配合-v参数使用,可以看到哪些内容会被同步过去。-P参数是--progress和--partial这两个参数的结合。--partial参数允许恢复中断的传输。不使用该参数时,rsync会删除传输到一半被打断的文件;使用该参数后,传输到一半的文件也会同步到目标目录,下次同步时再恢复中断的传输。一般需要与--append或--append-verify配合使用。--partial-dir参数指定将传输到一半的文件保存到一个临时目录,比如--partial-dir=.rsync-partial。一般需要与--append或--append-verify配合使用。--progress参数表示显示进展。-r参数表示递归,即包含子目录。--remove-source-files参数表示传输成功后,删除发送方的文件。--size-only参数表示只同步大小有变化的文件,不考虑文件修改时间的差异。--suffix参数指定文件名备份时,对文件名添加的后缀,默认是~。-u、--update参数表示同步时跳过目标目录中修改时间更新的文件,即不同步这些有更新的时间戳的文件。-v参数表示输出细节。-vv表示输出更详细的信息,-vvv表示输出最详细的信息。--version参数返回rsync的版本。-z参数指定同步时压缩数据。八、参考链接HowToUseRsynctoSyncLocalandRemoteDirectoriesonaVPS,JustinEllingwoodMirrorYourWebSiteWithrsync,FalkoTimmeExamplesonhowtouseRsync,EgidioDocileHowtocreateincrementalbackupsusingrsynconLinux,EgidioDocile(完)原文链接:https://www.ruanyifeng.com/blog/2020/08/rsync.html

2021-10-1 498 0
2020-7-13 1013 0
2020-5-7 1523 0
软件

站长,尤其是SEOer,都明白网站的访问速度对用户体验和搜索引擎排名的重要性。早在2012年,TheGoogleGospelofSpeed中就提到,对于Google自身的搜索结果页,每400毫秒的延迟就会导致整体搜索量下降0.44%。对于移动端,就更可怕了:谷歌2018年的最新研究表明,当移动端页面加载时间从1秒增加到3秒时,跳出率会增加32%;从1秒增加到5秒,跳出率会增加90%;如果从1秒增加到超过10秒,跳出率会增加123%。就在这个月,Zac给国内的SEOer们更新了这个消息:Google正式上线:页面速度影响移动搜索排名而百度和谷歌各自正大力推广的MIP和AMP,也都在不断告诉我们网站访问速度的重要性。怎样让网站速度变快?这涉及到网络环境、服务器位置和配置、DNS解析、CDN、网站结构和代码优化等诸多方面,不可谓不复杂,普通玩家今天不打算展开,而是对网站速度优化的基础:网站测速及性能分析,做一些常用网站、工具的梳理。根据普通玩家自己的理解,“网站测速”这个概念,总的来说可以分为三种情况:测试多地访问网站的速度网站多地测速工具/网站,通常是同时测试并列出众多监测点到网站的主要速度指标(如解析时间、连接时间、下载速度等),一般不用于检测网站代码及服务器性能优化的情况,而是主要用于选购服务器/VPS、服务器/CDN在各地的网速排查、CDN部署等。17ce(国内网站)60+个国内及香港监测点,适用于国内各地访问网站的速度测试提供Get,Ping,路由追踪,Dns,Cdn等多维度速度测试提供监控API(付费)卡卡网Webkaka(国内网站)60+个国内监测点,30+个海外监测点,适用于国内或全球各地访问网站的速度测试提供Get,ping,路由追踪,Dns等多维度速度测试提供网站速度诊断功能SucuriLoadTimeTester(国外网站)15+个全球监测点,适用于全球各地访问网站(如外贸网站)的速度测试提供网页连接时间、首字节时间、总时间等数据Dotcom-ToolsWebsiteSpeedTest(国外网站)20+个全球监测点,适用于全球各地访问网站(如外贸网站)的速度测试提供两次(首次及重复访问)网页加载速度,且可按节点查看详细信息测试及分析网站速度性能网站性能测试工具/网站,有的同样可以测试本地或单个监测点访问网站的速度,但其主要作用,是对网站进行全方位的代码及部署检测,根据一定规则给出评分以及相关的优化建议。YSlow(浏览器插件)Yahoo根据官方团队总结的23条影响网站速度的指标所提供的网站性能检测插件统计页面各方面性能指标,并根据YSlow或用户自定义的规则给出评分以及具体优化建议支持Firefox,Chrome,Safari,Opera等内核的浏览器这是个浏览器插件,对相应网页的分析是基于本地的访问PageSpeedInsights(Google在线工具/墙外)PageSpeedInsights是Google的网页性能优化工具之一,与YSlow类似移动端与PC端分别给出分析报告及优化建议PageSpeedInsights服务是在线提供的(是个网页)GTmetrix(国外网站)GTmetrix算是YSlow+PageSpeedInsights的加强版,分别给出两者的评分及分析报告7个国外监测点(不可自选)同时还会提供页面加载Waterfall和速度信息会按网址保存历史测速信息并随时对比、查看、下载Pingdom(国外网站)与GTmetrix类似,页面性能评分及建议基于PageSpeed4个国外监测点(可自选)WebPageTest(国外网站)根据地区及设备细分,全球拥有近百个监测点(包括中国)遗憾的是只能进行单点测速,有Waterfall及速度指标,但没有相关评分及优化建议。追踪真实访客的访问速度无论是对网站进行多地测速,还是进行性能分析,往往是在服务器/CDN选择以及网站代码优化的层面提供参考。在网站部署、代码优化完成并上线后,我们会面临一个灵魂拷问:散落在世界各地的访客,访问我的网站速度到底是怎样的?追踪并拆解分析网站真实访客的访问速度,然后进行针对性的优化,是网站速度优化中必不可少的环节。GoogleAnalytics(GA)网站速度分析是GA的内置功能,使用GA作为网站统计工具的话,没有额外的部署成本。追踪的维度全面:服务器连接时间、服务器响应时间、网页加载时间、网页下载时间、域名查询时间、重定向时间等。与GA其它访客数据深度集成。比如:从国家、浏览器或网站页面等不同维度拆解访客的访问速度。GA网站速度追踪是抽样数据,普通玩家根据自己的观察抽样率在1%左右:同期1万个访客,会有约100份采样数据。如果网站的访客数量以GA约1%的采样率不足以支持有效的速度分析的话,可以尝试去寻找其他统计工具方案,或是自主开发相关的功能。不过话说回来,这种情况下是不是有必要追踪真实访客的访问速度也值得商榷了。来源:https://putong.one/speed-test.html

软件

1.下载工具ossutilwgethttp://gosspublic.alicdn.com/ossutil/1.6.11/ossutil642.修改文件执行权限chmod755ossutil643.使用交互式配置生成配置文件./ossutil64config请输入配置文件名,文件名可以带路径(默认为:/home/user/.ossutilconfig,回车将使用默认路径。)请输入endpoint:http://oss-cn-shenzhen.aliyuncs.com请输入accessKeyID:yourAccessKeyID请输入accessKeySecret:yourAccessKeySecret请输入stsToken:可直接回车详细见:https://helpcdn.aliyun.com/document_detail/120075.html先登录一下/ossutil64config-eoss-cn-qingdao.aliyuncs.com-iAccessKeyID-kAccessKeySecret上传单个文件/ossutil64cpa.txtoss://bucket/path上传目录/ossutil64cp-rdiross://bucket/path下载单个文件/ossutil64cposs://my-bucket/path/test1.txt/dir下载文件夹/ossutil64cp-ross://my-bucket/path/dir详细见:https://helpcdn.aliyun.com/document_detail/120057.html如果上传失败,可以用参数进行优化:--maxupspeed最大上传速度,单位:KB/s,缺省值为0(不受限制)。--retry-times当错误发生时的重试次数,默认值:10,取值范围:1~500。--parallel单文件内部操作的并发任务数,取值范围:1~10000,默认将由ossutil根据操作类型和文件大小自行决定。-j,--jobs多文件操作时的并发任务数,默认值:3,取值范围:1~10000配置差,并发调小,比如100以下。--part-size分片大小,单位为Byte。默认情况下ossutil根据文件大小自行计算合适的分片大小值。如果有特殊需求或者需要性能调优,可以设置该值,取值范围:1~9223372036854775807。--bigfile-threshold开启大文件断点续传的文件大小阈值,单位为Byte,默认值:100MByte,取值范围:0~9223372036854775807。