-
2021-05-08 20:59:32
CURL --- 命令行浏览器这东西现在已经是苹果机上内置的命令行工具之一了,可见其魅力之一斑1)二话不说,先从这里开始吧!curl http://www.yahoo.com回车之后,www.yahoo.com 的html就稀里哗啦地显示在屏幕上了~~~~~2)嗯,要想把读过来页面存下来,是不是要这样呢?curl http://www.yahoo.com > page.html当然可以,但不用这么麻烦的!用curl的内置option就好,存下http的结果,用这个option: -ocurl -o page.html http://www.yahoo.com这样,你就可以看到屏幕上出现一个下载页面进度指示。等进展到100%,自然就OK咯3)什么什么?!访问不到?肯定是你的proxy没有设定了。使用curl的时候,用这个option可以指定http访问所使用的proxy服务器及其端口: -xcurl -x 123.45.67.89:1080 -o page.html http://www.yahoo.com4)访问有些网站的时候比较讨厌,他使用cookie来记录session信息。像IE/NN这样的浏览器,当然可以轻易处理cookie信息,但我们的curl呢?.....我们来学习这个option: -D 下载后: 001-zzh.JPG原来: ~nick/001.JPG ---> 下载后: 001-nick.JPG这样一来,就不怕文件重名啦,呵呵9)继续讲下载我们平时在windows平台上,flashget这样的工具可以帮我们分块并行下载,还可以断线续传。curl在这些方面也不输给谁,嘿嘿比如我们下载screen1.JPG中,突然掉线了,我们就可以这样开始续传curl -c -O http://cgi2.tky.3wb.ne.jp/~zzh/screen1.JPG当然,你不要拿个flashget下载了一半的文件来糊弄我~~~~别的下载软件的半截文件可不一定能用哦~~~分块下载,我们使用这个option就可以了: -r举例说明比如我们有一个http://cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 要下载(赵老师的电话朗诵 :D )我们就可以用这样的命令:curl -r 0-10240 -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &\curl -r 10241-20480 -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &\curl -r 20481-40960 -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &\curl -r 40961- -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3这样就可以分块下载啦。不过你需要自己把这些破碎的文件合并起来如果你用UNIX或苹果,用 cat zhao.part* > zhao.mp3就可以如果用的是Windows,用copy /b 来解决吧,呵呵上面讲的都是http协议的下载,其实ftp也一样可以用。用法嘛,curl -u name:passwd ftp://ip:port/path/file或者大家熟悉的curl ftp://name:passwd@ip:port/path/file10)说完了下载,接下来自然该讲上传咯上传的option是 -T比如我们向ftp传一个文件: curl -T localfile -u name:passwd ftp://upload_site:port/path/当然,向http服务器上传文件也可以比如 curl -T localfile http://cgi2.tky.3web.ne.jp/~zzh/abc.cgi注意,这时候,使用的协议是HTTP的PUT method刚才说到PUT,嘿嘿,自然让老服想起来了其他几种methos还没讲呢!GET和POST都不能忘哦。http提交一个表单,比较常用的是POST模式和GET模式GET模式什么option都不用,只需要把变量写在url里面就可以了比如:curl http://www.yahoo.com/login.cgi?user=nickwolfe&password=12345而POST模式的option则是 -d比如,curl -d "user=nickwolfe&password=12345" http://www.yahoo.com/login.cgi就相当于向这个站点发出一次登陆申请~~~~~到底该用GET模式还是POST模式,要看对面服务器的程序设定。一点需要注意的是,POST模式下的文件上的文件上传,比如
这样一个HTTP表单,我们要用curl进行模拟,就该是这样的语法:curl -F upload=@localfile -F nick=go http://cgi2.tky.3web.ne.jp/~zzh/up_file.cgi罗罗嗦嗦讲了这么多,其实curl还有很多很多技巧和用法比如 https的时候使用本地证书,就可以这样curl -E localcert.pem https://remote_server再比如,你还可以用curl通过dict协议去查字典~~~~~curl dict://dict.org/d:computer更多相关内容 -
CentOS用命令行访问网页
2020-02-12 23:13:33 -
Ubuntu 命令行 访问网页
2019-06-17 17:38:35安装w3m 1 .进入 root apt-get install w3m 2. 测试是否成功 : w3mhttps://blog.csdn.net/x_xx_xxx_xxxx/article/details/92574331安装w3m
1 .进入 root
apt-get install w3m
2. 测试是否成功 :
w3m https://blog.csdn.net/x_xx_xxx_xxxx/article/details/92574331
-
【HTTP】Linux命令行访问网页
2020-02-29 15:08:37一、CURL---命令行浏览器 Curl是Linux下一个很强大的http命令行工具 这东西现在已经是苹果机上内置的命令行工具之一了,可见其魅力之一斑 1) curlhttp://www.yahoo.com 回车之后,www.yahoo.com的html就稀里...一、CURL --- 命令行浏览器
Curl是Linux下一个很强大的http命令行工具
这东西现在已经是苹果机上内置的命令行工具之一了,可见其魅力之一斑
1) curl http://www.yahoo.com
回车之后,www.yahoo.com 的html就稀里哗啦地显示在屏幕上了~~~~~
2) curl http://www.yahoo.com > page.html
或者
用curl的内置option就好,存下http的结果,用这个option: -o
curl -o page.html http://www.yahoo.com
这样,你就可以看到屏幕上出现一个下载页面进度指示。等进展到100%,自然就OK咯
3)
什么什么?!访问不到?肯定是你的proxy没有设定了。
使用curl的时候,用这个option可以指定http访问所使用的proxy服务器及其端口: -x
curl -x 123.45.67.89:1080 -o page.html http://www.yahoo.com
4)
访问有些网站的时候比较讨厌,他使用cookie来记录session信息。
像IE/NN这样的浏览器,当然可以轻易处理cookie信息,但我们的curl呢?.....
我们来学习这个option: -D <-- 这个是把http的response里面的cookie信息存到一个特别的文件中去
curl -x 123.45.67.89:1080 -o page.html -D cookie0001.txt http://www.yahoo.com
这样,当页面被存到page.html的同时,cookie信息也被存到了cookie0001.txt里面了
5)
那么,下一次访问的时候,如何继续使用上次留下的cookie信息呢?要知道,很多网站都是靠监视你的cookie信息,
来判断你是不是不按规矩访问他们的网站的。
这次我们使用这个option来把上次的cookie信息追加到http request里面去: -b
curl -x 123.45.67.89:1080 -o page1.html -D cookie0002.txt -b cookie0001.txt http://www.yahoo.com
这样,我们就可以几乎模拟所有的IE操作,去访问网页了!
6)
稍微等等~~~~~我好像忘记什么了~~~~~
对了!是浏览器信息~~~~
有些讨厌的网站总要我们使用某些特定的浏览器去访问他们,有时候更过分的是,还要使用某些特定的版本~~~~
NND,哪里有时间为了它去找这些怪异的浏览器呢!?
好在curl给我们提供了一个有用的option,可以让我们随意指定自己这次访问所宣称的自己的浏览器信息: -A
curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x 123.45.67.89:1080 -o page.html -D cookie0001.txt http://www.yahoo.com
这样,服务器端接到访问的要求,会认为你是一个运行在Windows 2000上的IE6.0,嘿嘿嘿,其实也许你用的是苹果机呢!
而"Mozilla/4.73 [en] (X11; U; Linux 2.2; 15 i686"则可以告诉对方你是一台PC上跑着的Linux,用的是Netscape 4.73,呵呵呵
7)
另外一个服务器端常用的限制方法,就是检查http访问的referer。比如你先访问首页,再访问里面所指定的下载页,这第二次访问的referer地 址就是第一次访问成功后的页面地址。这样,服务器端只要发现对下载页面某次访问的referer地址不 是首页的地址,就可以断定那是个盗连了~~~~~
讨厌讨厌~~~我就是要盗连~~~~~!!
幸好curl给我们提供了设定referer的option: -e
curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x 123.45.67.89:1080 -e "mail.yahoo.com" -o page.html -D cookie0001.txt http://www.yahoo.com
这样,就可以骗对方的服务器,你是从mail.yahoo.com点击某个链接过来的了
8)利用curl 下载文件
刚才讲过了,下载页面到一个文件里,可以使用 -o ,下载文件也是一样。
比如, curl -o 1.jpg http://cgi2.tky.3web.ne.jp/~zzh/screen1.JPG
这里教大家一个新的option: -O
大写的O,这么用: curl -O http://cgi2.tky.3web.ne.jp/~zzh/screen1.JPG
这样,就可以按照服务器上的文件名,自动存在本地了!
同时下载多个文件
如果screen1.JPG以外还有screen2.JPG、screen3.JPG、....、screen10.JPG需要下载,难不成还要让我们写一个script来完成这些操作?不用!
在curl里面,这么写就可以了:
curl -O http://cgi2.tky.3web.ne.jp/~zzh/screen[1-10].JPG
重名情况
~zzh/001.JPG
~zzh/002.JPG
~nick/001.JPG
~nick/002.JPG
由于zzh/nick下的文件名都是001,002...,201,下载下来的文件重名,后面的把前面的文件都给覆盖掉了~~~
没关系,我们还有更狠的!
curl -o #2_#1.jpg http://cgi2.tky.3web.ne.jp/~{zzh,nick}/[001-201].JPG
自定义文件名的下载
#1是变量,指的是{zzh,nick}这部分,第一次取值zzh,第二次取值nick
#2代表的变量,则是第二段可变部分---[001-201],取值从001逐一加到201
这样,自定义出来下载下来的文件名,就变成了这样:
原来: ~zzh/001.JPG ---> 下载后: 001-zzh.JPG
原来: ~nick/001.JPG ---> 下载后: 001-nick.JPG
这样一来,就不怕文件重名啦,呵呵
9) 继续讲下载
我们平时在windows平台上,flashget这样的工具可以帮我们分块并行下载,还可以断线续传。
curl在这些方面也不输给谁,嘿嘿
比如我们下载screen1.JPG中,突然掉线了,我们就可以这样开始续传
curl -c -O http://cgi2.tky.3wb.ne.jp/~zzh/screen1.JPG
当然,你不要拿个flashget下载了一半的文件来糊弄我~~~~别的下载软件的半截文件可不一定能用哦~
分块下载,我们使用这个option就可以了: -r
举例说明
比如我们有一个http://cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 要下载(赵老师的电话朗诵 :D )
我们就可以用这样的命令:
curl -r 0-10240 -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &\
curl -r 10241-20480 -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &\
curl -r 20481-40960 -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3 &\
curl -r 40961- -o "zhao.part1" http:/cgi2.tky.3web.ne.jp/~zzh/zhao1.mp3
这样就可以分块下载啦。
不过你需要自己把这些破碎的文件合并起来
如果你用UNIX或苹果,用 cat zhao.part* > zhao.mp3就可以
如果用的是Windows,用copy /b 来解决吧,呵呵
上面讲的都是http协议的下载,其实ftp也一样可以用。
用法嘛,
curl -u name:passwd ftp://ip:port/path/file
或者大家熟悉的
curl ftp://name:passwd@ip:port/path/file
10) 上传
上传的option是 -T
比如我们向ftp传一个文件: curl -T localfile -u name:passwd ftp://upload_site:port/path/
当然,向http服务器上传文件也可以
比如 curl -T localfile http://cgi2.tky.3web.ne.jp/~zzh/abc.cgi
注意,这时候,使用的协议是HTTP的PUT method
刚才说到PUT,嘿嘿,自然让老服想起来了其他几种methos还没讲呢!
GET和POST都不能忘哦。
http提交一个表单,比较常用的是POST模式和GET模式
GET模式什么option都不用,只需要把变量写在url里面就可以了
比如:
curl Yahoo
而POST模式的option则是 -d
比如,curl -d "user=nickwolfe&password=12345" http://www.yahoo.com/login.cgi
就相当于向这个站点发出一次登陆申请~~~~~
到底该用GET模式还是POST模式,要看对面服务器的程序设定。
一点需要注意的是,POST模式下的文件上的文件上传,比如
<form method="POST" enctype="multipar/form-data" action="http://cgi2.tky.3web.ne.jp/~zzh/up_file.cgi">
<input type=file name=upload>
<input type=submit name=nick value="go">
</form>
这样一个HTTP表单,我们要用curl进行模拟,就该是这样的语法:
curl -F upload=@localfile -F nick=go http://cgi2.tky.3web.ne.jp/~zzh/up_file.cgi
罗罗嗦嗦讲了这么多,其实curl还有很多很多技巧和用法
比如 https的时候使用本地证书,就可以这样
curl -E localcert.pem https://remote_server
再比如,你还可以用curl通过dict协议去查字典~~~~~
curl dict://dict.org/d:computer
二、想要浏览网页,需要满足两个条件: 1) 你的电脑已经连上了Internet; 2) 使用浏览器软件来实现浏览;在Linux下有两种常用的浏览器: 控制台下可以使用lynx;
-
centos命令行访问网页
2019-09-30 21:02:56lynx www.baidu.com 用 lynx 可以模拟浏览器与网页交互 转载于:https://www.cnblogs.com/yuewangshanren/p/3588649.html -
linux命令行访问网页
2019-05-06 18:17:00这东西现在已经是苹果机上内置的命令行工具之一了,可见其魅力之一斑 1) curl http://www.yahoo.com 回车之后,www.yahoo.com 的html就稀里哗啦地显示在屏幕上了~~~~~ 转载于... -
ubuntu —— 命令行访问网页
2018-03-20 17:46:17$ sudo apt-get install w3m $ w3m www.baidu.com -
Ubuntu用命令行打开网页的三种方法
2020-11-05 16:58:011.第一种方法 links命令 $ apt install links $ links websol.cn 2.第二种方法 w3m命令 $ apt install w3m $ w3m websol.cn 3.第三种方法 lynx命令 $ apt install lynx $ lynx websol.cn -
ubuntu命令行访问网页
2016-12-31 21:26:35$ sudo apt-get install w3m $ w3m www.baidu.com使用命令行访问网页,但效果不是很好 -
命令行界面查看网页
2021-07-12 13:54:11使用curl命令 curl -s --user-agent foobar参数后跟网页url地址 例: -
强悍的 ubuntu —— 命令行访问网页
2018-09-16 08:18:00所谓以命令行的方式访问网页,即是在终端下以文本的形式访问网站,这里推荐一个工具:w3m, $ sudo apt-get install w3m $ w3m www.baidu.com 转载于:https://www.cnblogs.com/hedianzhan/p/9654957.html... -
Lynx 2.8.5 - 用来命令行访问网页的工具
2008-10-10 14:39:56用来命令行访问网页的工具。具体使用要看自己的需要。我是用来放在windows的schedule里运行一些asp文件。这个包里包括了源程序。 注:这是在网上找到的。不是我的作品。 -
windows:如何用命令行打开网页,如何打开多个命令窗口,如果实现阻塞
2021-06-23 10:20:47用命令打开网页 start http://localhost:2048 用命令行打开终端 start cmd /k "node index" 用命令行打开一个新的终端并执行node index 命令 延时暂停 TIMEOUT /T 3 命令行执行到这个语句后会阻塞3s后再执行 -
windows下的安装与使用curl实现命令行访问Web网站
2020-07-10 22:35:54从名字可以看出,其是使用命令行访问URL的工具。除了HTTP协议外, 其还支持HTTPS、FTP、Telnet、LDAP等其他协议, 支持文件上传和下载等功能。 Linux自带curl工具, 直接在命令行输入: curl URL地址... -
【CentOS7】使用命令行访问网站的工具cURL
2020-03-29 09:17:57【CentOS7】使用命令行访问网站的工具cURL 简介 curl 是瑞典 curl 组织开发的,您可以访问: http://curl.haxx.se/ 获取它的源代码和相关说明。 支持很多协议: FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT,... -
windows_用命令行/终端打开网页(url)(launch a webpage by winodws CLI)
2021-12-26 13:00:52文章目录在powershell/cmd下 在powershell/cmd下 使用start 打开http start http://www.baidu.com -
curl命令行模拟访问业务网页
2021-05-17 16:32:075监控网页的访问速度和响应时间 6创建web监测的触发器 第9章监控mysql数据库 1使用percona监控mysql 2使用lepus监控mysql 第10章snmp协议监控 1使用snmp命令行监控测试 2使用snmp协议监控linux 第11章高级监控技巧 1... -
linux下用命令行访问网页
2012-10-11 23:51:12使用curl命令: [root@localhost html]# curl http://localhost/index.html test test 备注:该博文为原创博文,如果...(max.li) -
Hadoop通过命令行和网页访问hdfs
2022-04-03 12:47:45如果既想在Hadoop服务器本地可以通过绝对路径如"/user/hadoop"方式访问hdfs,也想通过"hdfs://local host:9000/user/hadoop的方式访问hdfs,此时做需要配置core-site.xml: <property> <name>fs.... -
python访问抓取网页常用命令总结
2020-12-25 08:59:20python访问抓取网页常用命令 简单的抓取网页: import urllib.request url="http://google.cn/" response=urllib.request.urlopen(url) #返回文件对象 page=response.read() 直接将URL保存为本地文件: import ... -
在Ubuntu 18.04终端使用w3m浏览器,命令行模式浏览网页
2020-12-20 01:20:20虽然w3m可能没有其他浏览器那么多的功能,但是w3m可以完成工作。...w3m不使用与其他命令行浏览器相同的键盘快捷键,因此请准备好学习一些新的命令行浏览器。 您可以在运行w3m时按H键来执行此操作。CentOS 下安... -
Mac OS X下用 命令行打开网页(command line)
2013-03-19 11:19:00open -a Safari http://stackoverflow.com I know there are several ways in MacOS to open Safari with a given URL from the command line like open -a Safari ...... -
centos7命令行下使用w3m访问网页
2020-10-01 12:21:04w3m可以帮你在命令行下实现网页访问。 安装w3m: 1. 先安装扩展源 yum -y install epel-release 2.安装w3m yum -y install w3m 其它浏览器:https://blog.csdn.net/gatieme/article/details/44809753 ...