当前位置:网站首页>squid代理服务+ip代理池
squid代理服务+ip代理池
2022-07-22 21:23:00 【武念】
分两个服务:
一个是提供所有ip和随机ip,删除那些维护ip池功能的api服务。
参考:先搭建好代理池用http提供接口
http://www.spiderpy.cn/blog/detail/13
https://xz.aliyun.com/t/7718
https://github.com/jhao104/proxy_pool
一个是隧道ip池,写代码时就可以固定一个隧道ip代理。
参考:
然后通过squid来提供代理ip转发切换功能
https://blog.csdn.net/aaronjny/article/details/87865942
https://www.jianshu.com/p/130083146c8f
https://github.com/AaronJny/open_proxy_pool
如果systemctl start squid.service启动服务失败,用squid -k parse检查配置格式等问题,即使报ERROR: Ignoring unknown cache_peer option其实也是可以正常启动的
启动服务出现:Failed to make swap directory /var/spool/squid,就修改权限chown squid:squid /var/spool/squid
请求返回:ERROR:The requested URL could not be retrieved,可能是squid.conf里代理ip没配置好或无效
查看systemctl status squid.service启动情况,如果出现FATAL: ERROR: cache_peer 1.1.1.1 specified twice是配置多个代理条目,相同ip不同port报错,在cache_peer最后加上 name=proxy-90随机。参考https://www.cnblogs.com/my8100/p/7441501.html
https://xnathan.com/2017/03/02/squid-proxy-pool/
搭建ip池,使用 Squid 提供的父代理功能,自动将爬虫服务器的请求转发给代理服务器。Squid提供了自动轮询功能,自动验证并剔除不可用的代理。减少了我们多余的验证步骤。
请求获取代理,然后直接写入squid配置:https://github.com/xNathan/squid_proxy_pool
实测做的是,直接拿redis里ip配置到squid,使用的是这个项目:https://github.com/AaronJny/open_proxy_pool
Squid 就会自动检测每个代理的有效性
http://blog.itpub.net/31557738/viewspace-2679380/
squid做访问控制,就是一个ip均衡使用?
nginx也可以实现同样功能?
边栏推荐
- 局域网SDN硬核技术内幕 20 亢龙有悔——规格与限制(上)
- 直播实录 | 37 手游如何用 StarRocks 实现用户画像分析
- Talk about repaintboundary in fluent
- Inside the hard core of LAN SDN technology - evpn implementation of 16 three from thing to person user roaming in the park
- 【翻译】宣布Krius--加速你对Kubernetes的监控采用
- 类和对象(1)
- 4G传输模块的功能应用
- Codeforces Round #808 (Div. 2) A - D
- Mysql的索引为什么用B+树而不是跳表?
- 《postgresql指南--内幕探索》第一章 数据库集簇、数据库和数据表
猜你喜欢

Understanding service governance in distributed development

Kubernetes 部署策略

Basic commands of redis' five basic data types

微信小程序项目实战

正版Adobe软件来了!Adobe全球唯一正版全家桶订阅只需0元/年
![[untitled] share an API Gateway project developed based on ABP vNext](/img/94/bfa4fa36e4974830e6afac118a593e.png)
[untitled] share an API Gateway project developed based on ABP vNext

2022年暑假ACM热身练习4(总结)

Alibaba Cloud Security Center's best practices for vulnerability repair

Talk about repaintboundary in fluent

Redis三种集群方案
随机推荐
Ftxui basic notes (Hello World)
Here comes the genuine Adobe software! Adobe's only genuine family bucket subscription in the world costs only 0 yuan / year
直播实录 | 37 手游如何用 StarRocks 实现用户画像分析
URL的结构解读
对比学习下的跨模态语义对齐是最优的吗?---自适应稀疏化注意力对齐机制 IEEE Trans. MultiMedia
Leetcode 757 set the intersection size to at least 2[sort greedy] the leetcode path of heroding
Tensorflow2.0 sparse matrix input operation
第一篇sourcetree安装
《postgresql指南--内幕探索》第三章查询处理
Classes et objets (1)
93. (leaflet chapter) leaflet situation plotting - modification of attack direction
亚马逊旗下Zoox通过安全测试 并在加州申请试驾
大厂底层必修:“应用程序与 AMS 的通讯实现”
Wechat hotel reservation applet graduation project (5) assignment
树和二叉树
开幕在即 | “万物互联,使能千行百业”2022开放原子全球开源峰会OpenAtom OpenHarmony分论坛
Summary in the development process BaseService provides a public access service file for all controllers or services to reduce repeated injection
浅谈性能优化:APP的启动流程分析与优化
网络安全之ARP欺骗防护
Kubernetes 部署策略