Linux Shell中的curl和wget如何使用代理IP的方法教程

发布时间 - 2017-08-15 00:00:00    点击率:

这篇文章主要给大家介绍了关于在linux shell中curl和wget使用代理ip的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面跟着小编来一起学习学习吧。

前言

大家都知道,在Linux Shell中提供两个非常实用的命令来爬取网页,它们分别是 curl 和 wget,本文将给大家详细介绍关于在Linux Shell中curl和wget使用代理IP的相关内容,分享出来供大家参考学习,下面话不多说了,来一起看看吧。

curl 和 wget 使用代理

  • curl 支持 http、https、socks4、socks5

  • wget 支持 http、https

代理示例:


#!/bin/bash
#
# curl 支持 http、https、socks4、socks5
# wget 支持 http、https
#
# 米扑代理示例:
# http://proxy.mimvp.com/demo2.php
#
# 米扑代理购买:
# http://proxy.mimvp.com
#
# mimvp.com
# 2015-11-09
 
 
# http代理格式   http_proxy=http://IP:Port
# https代理格式   https_proxy=http://IP:Port
 
{'http': 'http://120.77.176.179:8888'}
curl -m 30 --retry 3 -x http://120.77.176.179:8888 http://proxy.mimvp.com/exist.php     # http_proxy
wget -T 30 --tries 3 -e "http_proxy=http://120.77.176.179:8888" http://proxy.mimvp.com/exist.php   # http_proxy
 
{'https': 'http://46.105.214.133:3128'}
curl -m 30 --retry 3 --proxy-insecure -x http://46.105.214.133:3128 -k https://proxy.mimvp.com/exist.php     # https_proxy
wget -T 30 --tries 3 --no-check-certificate -e "https_proxy=http://46.105.214.133:3128" https://proxy.mimvp.com/exist.php # https_proxy
 
  
# curl 支持socks
{'socks4': '101.255.17.145:1080'}
curl -m 30 --retry 3 --socks4 101.255.17.145:1080 http://proxy.mimvp.com/exist.php
  
{'socks5': '82.164.233.227:45454'}
curl -m 30 --retry 3 --socks5 82.164.233.227:45454 http://proxy.mimvp.com/exist.php
 
 
# wget 不支持socks

wget 配置文件设置代理


vim ~/.wgetrc
 
http_proxy=http://120.77.176.179:8888:8080
https_proxy=http://12.7.17.17:8888:8080
use_proxy = on
wait = 30
 
wget -T 30 --tries 3 http://proxy.mimvp.com

Shell 设置临时局部代理


# proxy no auth
export http_proxy=http://120.77.176.179:8888:8080
export https_proxy=http://12.7.17.17:8888:8080
 
# proxy auth
export http_proxy=http://username:password@120.77.176.179:8888:8080
export https_proxy=http://username:password@12.7.17.17:8888:8080
 
 
# 取消设置
unset http_proxy
unset https_proxy

Shell 设置系统全局代理


# 修改 /etc/profile,保存并重启服务器
sudo vim /etc/profile  # 所有人有效
或
sudo vim ~/.bashrc  # 所有人有效
或
vim ~/.bash_profile  # 个人有效
  
  
# proxy no auth
export http_proxy=http://120.77.176.179:8888:8080
export https_proxy=http://12.7.17.17:8888:8080
 
# proxy auth
export http_proxy=http://username:password@120.77.176.179:8888:8080
export https_proxy=http://username:password@12.7.17.17:8888:8080
 
source /etc/profile
或
source ~/.bashrc
或
source ~/.bash_profile
 
 
sudo reboot

米扑代理示例

米扑代理示例,包含Python、Java、PHP、C#、Go、Perl、Ruby、Shell、NodeJS、PhantomJS、Groovy、Delphi、易语言等十多种编程语言或脚本,通过大量的可运行实例,详细讲解了使用代理IP的正确方法,方便网页爬取、数据采集、自动化测试等领域。


# linux  # curl  # 相关内容  # 大家都  # 说了  # 不多  # 有一定  # 朋友们  # 给大家  # 详细介绍  # 不支持  # 相关资料 


相关栏目: 【 网站优化151355 】 【 网络推广146373 】 【 网络技术251813 】 【 AI营销90571


相关推荐: Laravel如何安装Breeze扩展包_Laravel用户注册登录功能快速实现【流程】  Laravel如何部署到服务器_线上部署Laravel项目的完整流程与步骤  深圳网站制作公司好吗,在深圳找工作哪个网站最好啊?  香港服务器网站卡顿?如何解决网络延迟与负载问题?  Laravel如何清理系统缓存命令_Laravel清除路由配置及视图缓存的方法【总结】  Laravel Sail是什么_基于Docker的Laravel本地开发环境Sail入门  javascript如何操作浏览器历史记录_怎样实现无刷新导航  如何快速生成ASP一键建站模板并优化安全性?  Laravel怎么实现搜索高亮功能_Laravel结合Scout与Algolia全文检索【实战】  Laravel全局作用域是什么_Laravel Eloquent Global Scopes应用指南  Laravel如何实现登录错误次数限制_Laravel自带LoginThrottles限流配置【方法】  Laravel的.env文件有什么用_Laravel环境变量配置与管理详解  Laravel怎么使用Session存储数据_Laravel会话管理与自定义驱动配置【详解】  Laravel Artisan命令怎么自定义_创建自己的Laravel命令行工具完全指南  Laravel如何实现密码重置功能_Laravel密码找回与重置流程  Laravel Eloquent模型如何创建_Laravel ORM基础之Model创建与使用教程  如何快速上传建站程序避免常见错误?  bootstrap日历插件datetimepicker使用方法  如何打造高效商业网站?建站目的决定转化率  如何挑选优质建站一级代理提升网站排名?  Laravel Facade的原理是什么_深入理解Laravel门面及其工作机制  佛山网站制作系统,佛山企业变更地址网上办理步骤?  如何在新浪SAE免费搭建个人博客?  进行网站优化必须要坚持的四大原则  laravel怎么配置和使用PHP-FPM来优化性能_laravel PHP-FPM配置与性能优化方法  高端企业智能建站程序:SEO优化与响应式模板定制开发  北京网页设计制作网站有哪些,继续教育自动播放怎么设置?  JS经典正则表达式笔试题汇总  阿里云高弹*务器配置方案|支持分布式架构与多节点部署  Laravel如何处理JSON字段的查询和更新_Laravel JSON列操作与查询技巧  Laravel请求验证怎么写_Laravel Validator自定义表单验证规则教程  高性价比服务器租赁——企业级配置与24小时运维服务  如何在阿里云香港服务器快速搭建网站?  厦门模型网站设计制作公司,厦门航空飞机模型掉色怎么办?  Laravel怎么配置自定义表前缀_Laravel数据库迁移与Eloquent表名映射【步骤】  Laravel Seeder填充数据教程_Laravel模型工厂Factory使用  JS中对数组元素进行增删改移的方法总结  夸克浏览器网页跳转延迟怎么办 夸克浏览器跳转优化  宙斯浏览器视频悬浮窗怎么开启 边看视频边操作其他应用教程  Laravel怎么使用Blade模板引擎_Laravel模板继承与Component组件复用【手册】  百度输入法全感官ai怎么关 百度输入法全感官皮肤关闭  微信小程序 canvas开发实例及注意事项  Laravel如何使用Telescope进行调试?(安装和使用教程)  Laravel如何保护应用免受CSRF攻击?(原理和示例)  laravel怎么用DB facade执行原生SQL查询_laravel DB facade原生SQL执行方法  免费的流程图制作网站有哪些,2025年教师初级职称申报网上流程?  Python函数文档自动校验_规范解析【教程】  潮流网站制作头像软件下载,适合母子的网名有哪些?  EditPlus中的正则表达式 实战(2)  Laravel如何创建和注册中间件_Laravel中间件编写与应用流程