10.2. 下载工具

10.2.1. wget

10.2.1.1. 常用

10.2.1.2. 整站下载

  • 下载所有链接的页面和文件 wget ‐‐execute robots=off ‐‐recursive ‐‐no-parent ‐‐continue ‐‐no-clobber http://example.com/
  • 下载指定后缀的文件 wget ‐‐level=1 ‐‐recursive ‐‐no-parent ‐‐accept mp3,MP3 http://example.com/mp3/
  • 排除指定目录下载 wget ‐‐recursive ‐‐no-clobber ‐‐no-parent ‐‐exclude-directories /forums,/support http://example.com

10.2.1.3. 指定参数

  • user agent ‐‐user-agent="Mozilla/5.0 Firefox/4.0.1"
  • basic auth ‐‐http-user=user ‐‐http-password=pwd
  • 保存cookie ‐‐cookies=on ‐‐save-cookies cookies.txt ‐‐keep-session-cookies
  • 使用cookie ‐‐cookies=on ‐‐load-cookies cookies.txt ‐‐keep-session-cookies

10.2.2. curl

10.2.2.1. 常用

  • 直接显示 curl www.example.com
  • 保存指定的名字 -o newname
  • 不指定名字 -O

10.2.2.2. 正则