Linux Shell中的curl和wget如何使用代理IP的方法教程
发布时间 - 2017-08-15 00:00:00 点击率:次这篇文章主要给大家介绍了关于在linux shell中curl和wget使用代理ip的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面跟着小编来一起学习学习吧。
前言
大家都知道,在Linux Shell中提供两个非常实用的命令来爬取网页,它们分别是 curl 和 wget,本文将给大家详细介绍关于在Linux Shell中curl和wget使用代理IP的相关内容,分享出来供大家参考学习,下面话不多说了,来一起看看吧。
curl 和 wget 使用代理
curl 支持 http、https、socks4、socks5
wget 支持 http、https
代理示例:
#!/bin/bash
#
# curl 支持 http、https、socks4、socks5
# wget 支持 http、https
#
# 米扑代理示例:
# http://proxy.mimvp.com/demo2.php
#
# 米扑代理购买:
# http://proxy.mimvp.com
#
# mimvp.com
# 2015-11-09
# http代理格式 http_proxy=http://IP:Port
# https代理格式 https_proxy=http://IP:Port
{'http': 'http://120.77.176.179:8888'}
curl -m 30 --retry 3 -x http://120.77.176.179:8888 http://proxy.mimvp.com/exist.php # http_proxy
wget -T 30 --tries 3 -e "http_proxy=http://120.77.176.179:8888" http://proxy.mimvp.com/exist.php # http_proxy
{'https': 'http://46.105.214.133:3128'}
curl -m 30 --retry 3 --proxy-insecure -x http://46.105.214.133:3128 -k https://proxy.mimvp.com/exist.php # https_proxy
wget -T 30 --tries 3 --no-check-certificate -e "https_proxy=http://46.105.214.133:3128" https://proxy.mimvp.com/exist.php # https_proxy
# curl 支持socks
{'socks4': '101.255.17.145:1080'}
curl -m 30 --retry 3 --socks4 101.255.17.145:1080 http://proxy.mimvp.com/exist.php
{'socks5': '82.164.233.227:45454'}
curl -m 30 --retry 3 --socks5 82.164.233.227:45454 http://proxy.mimvp.com/exist.php
# wget 不支持sockswget 配置文件设置代理
vim ~/.wgetrc http_proxy=http://120.77.176.179:8888:8080 https_proxy=http://12.7.17.17:8888:8080 use_proxy = on wait = 30 wget -T 30 --tries 3 http://proxy.mimvp.com
Shell 设置临时局部代理
# proxy no auth export http_proxy=http://120.77.176.179:8888:8080 export https_proxy=http://12.7.17.17:8888:8080 # proxy auth export http_proxy=http://username:password@120.77.176.179:8888:8080 export https_proxy=http://username:password@12.7.17.17:8888:8080 # 取消设置 unset http_proxy unset https_proxy
Shell 设置系统全局代理
# 修改 /etc/profile,保存并重启服务器 sudo vim /etc/profile # 所有人有效 或 sudo vim ~/.bashrc # 所有人有效 或 vim ~/.bash_profile # 个人有效 # proxy no auth export http_proxy=http://120.77.176.179:8888:8080 export https_proxy=http://12.7.17.17:8888:8080 # proxy auth export http_proxy=http://username:password@120.77.176.179:8888:8080 export https_proxy=http://username:password@12.7.17.17:8888:8080 source /etc/profile 或 source ~/.bashrc 或 source ~/.bash_profile sudo reboot
米扑代理示例
米扑代理示例,包含Python、Java、PHP、C#、Go、Perl、Ruby、Shell、NodeJS、PhantomJS、Groovy、Delphi、易语言等十多种编程语言或脚本,通过大量的可运行实例,详细讲解了使用代理IP的正确方法,方便网页爬取、数据采集、自动化测试等领域。
# linux
# curl
# 相关内容
# 大家都
# 说了
# 不多
# 有一定
# 朋友们
# 给大家
# 详细介绍
# 不支持
# 相关资料
相关栏目:
【
网站优化151355 】
【
网络推广146373 】
【
网络技术251813 】
【
AI营销90571 】
相关推荐:
Laravel如何安装Breeze扩展包_Laravel用户注册登录功能快速实现【流程】
Laravel如何部署到服务器_线上部署Laravel项目的完整流程与步骤
深圳网站制作公司好吗,在深圳找工作哪个网站最好啊?
香港服务器网站卡顿?如何解决网络延迟与负载问题?
Laravel如何清理系统缓存命令_Laravel清除路由配置及视图缓存的方法【总结】
Laravel Sail是什么_基于Docker的Laravel本地开发环境Sail入门
javascript如何操作浏览器历史记录_怎样实现无刷新导航
如何快速生成ASP一键建站模板并优化安全性?
Laravel怎么实现搜索高亮功能_Laravel结合Scout与Algolia全文检索【实战】
Laravel全局作用域是什么_Laravel Eloquent Global Scopes应用指南
Laravel如何实现登录错误次数限制_Laravel自带LoginThrottles限流配置【方法】
Laravel的.env文件有什么用_Laravel环境变量配置与管理详解
Laravel怎么使用Session存储数据_Laravel会话管理与自定义驱动配置【详解】
Laravel Artisan命令怎么自定义_创建自己的Laravel命令行工具完全指南
Laravel如何实现密码重置功能_Laravel密码找回与重置流程
Laravel Eloquent模型如何创建_Laravel ORM基础之Model创建与使用教程
如何快速上传建站程序避免常见错误?
bootstrap日历插件datetimepicker使用方法
如何打造高效商业网站?建站目的决定转化率
如何挑选优质建站一级代理提升网站排名?
Laravel Facade的原理是什么_深入理解Laravel门面及其工作机制
佛山网站制作系统,佛山企业变更地址网上办理步骤?
如何在新浪SAE免费搭建个人博客?
进行网站优化必须要坚持的四大原则
laravel怎么配置和使用PHP-FPM来优化性能_laravel PHP-FPM配置与性能优化方法
高端企业智能建站程序:SEO优化与响应式模板定制开发
北京网页设计制作网站有哪些,继续教育自动播放怎么设置?
JS经典正则表达式笔试题汇总
阿里云高弹*务器配置方案|支持分布式架构与多节点部署
Laravel如何处理JSON字段的查询和更新_Laravel JSON列操作与查询技巧
Laravel请求验证怎么写_Laravel Validator自定义表单验证规则教程
高性价比服务器租赁——企业级配置与24小时运维服务
如何在阿里云香港服务器快速搭建网站?
厦门模型网站设计制作公司,厦门航空飞机模型掉色怎么办?
Laravel怎么配置自定义表前缀_Laravel数据库迁移与Eloquent表名映射【步骤】
Laravel Seeder填充数据教程_Laravel模型工厂Factory使用
JS中对数组元素进行增删改移的方法总结
夸克浏览器网页跳转延迟怎么办 夸克浏览器跳转优化
宙斯浏览器视频悬浮窗怎么开启 边看视频边操作其他应用教程
Laravel怎么使用Blade模板引擎_Laravel模板继承与Component组件复用【手册】
百度输入法全感官ai怎么关 百度输入法全感官皮肤关闭
微信小程序 canvas开发实例及注意事项
Laravel如何使用Telescope进行调试?(安装和使用教程)
Laravel如何保护应用免受CSRF攻击?(原理和示例)
laravel怎么用DB facade执行原生SQL查询_laravel DB facade原生SQL执行方法
免费的流程图制作网站有哪些,2025年教师初级职称申报网上流程?
Python函数文档自动校验_规范解析【教程】
潮流网站制作头像软件下载,适合母子的网名有哪些?
EditPlus中的正则表达式 实战(2)
Laravel如何创建和注册中间件_Laravel中间件编写与应用流程


tc/profile,保存并重启服务器
sudo vim /etc/profile # 所有人有效
或
sudo vim ~/.bashrc # 所有人有效
或
vim ~/.bash_profile # 个人有效
# proxy no auth
export http_proxy=http://120.77.176.179:8888:8080
export https_proxy=http://12.7.17.17:8888:8080
# proxy auth
export http_proxy=http://username:password@120.77.176.179:8888:8080
export https_proxy=http://username:password@12.7.17.17:8888:8080
source /etc/profile
或
source ~/.bashrc
或
source ~/.bash_profile
sudo reboot