拖动LOGO到书签栏,立即收藏AMZ123
首页跨境头条正文

Brightdata代理IP创建、代理管理器规则配置&自动化简述指南

分享跨境类有关的文章,和自己在运营以及代运营跨境电商中的一些新得感悟,主要涉及到网络营销、跨境平台的运营、独立站的搭建和运营、FB,谷歌广告及海外tiktok等操作运营,职业操盘手专业讲解!
5371
2021-12-21 14:58
2021-12-21 14:58
5371
花虞HY聊跨境电商
分享跨境类有关的文章,和自己在运营以及代运营跨境电商中的一些新得感悟,主要涉及到网络营销、跨境平台的运营、独立站的搭建和运营、FB,谷歌广告及海外tiktok等操作运营,职业操盘手专业讲解!


目录:

  • 什么是代理IP?

  • 为什么使用代理IP进行社交媒体的数据爬取&自动化执行?

  • 代理如何配合网站抓取数据收集&自动化执行?

  • 我们需要多少代理IP来进行数据收集或自动化

  • 如何在Brightdata中创建设置代理IP?

  • 设置代理管理器Proxy Manager来统一分规则智能管理所有代理IP

  • Proxy Manager针对不同功能需求的规则设置指南

  • 社交媒体自动化简单举例


相关链接:

Brightdata官网&中文经理对接专属注册地址:

Brightdata官方注册&中文经理服务链接:https://bit.ly/3DM8bH1



什么是代理IP?

代理IP就是代理服务商提供给我们的IP地址,能够在我们访问目标网站时匿名我们的真实用户IP;同时,我们想要抓取某个站点时,他们也不会检测到我们的真实IP以做出封锁或者误导的举措。

当你对目标网站进行大规模数据爬取时,使用代理就可以匿名

一个优质的代理服务商不仅能够提供你需要的IP地址,还能提供一个综合的代理管理器,让你在没有任何代码的情况下也能有效的使用数据爬虫去进行抓取以及管理。

 

为什么使用代理IP进行社交媒体的数据爬取&自动化执行?

3个核心原因:

  1. 隐藏本地真实使用IP

  2. 绕过地理封锁

  3. 有效控制在目标网站上的速率限制问题

这样的操作也有利于保护用户个人信息,并且保证数据抓取的真实程度,同时针对地理封锁,举个例子,或许在某些国家某些广告是侵权的,但是在其他国家正常,那么如果你用当地IP去收集数据,那么这些侵权广告将会被屏蔽,而如果你用其他地区的IP去抓取,这些广告又会展示出来。

另外一方面,如果你想在单个站点上抓取数千个网页,单纯只用一个或者少量IP发出过多的请求如果被网站检测到,那么他们就会采取限速或者是其他封锁的举动,所以为了防止这种情况的出现,我们需要使用Brightdata的代理管理器,运用大量的代理IP,设置一定的规则,将请求均匀的分配给这些代理代理IP,这样目标网站只能看到单个IP仅有少量的请求,从而避免被限制。


 

代理如何配合网站抓取收集&自动化执行?

大型的网站一般都会采取很多的方式监控并限制阻止抓取,所以如果我们需要在这些网站上抓取数据,那就必须以智取胜。

我们在实际操作中经常会遇到以下的情况:轮转代理IP(Proxy Rotation),应对被禁止Ban,节流会话(Throttling),会话管理(Session Management),减少带宽(Ruduce Bandwidth)、SSL可视化(SSL Decryption)、黑名单(Blacklisting)等等。

Brightdata的代理管理器(https://bit.ly/3DM8bH1)就能够完全覆盖这些问题,

  • 识别禁令(Identify Bans):能够检测出多种类型的禁令,排除故障并且修复潜在问题。例如捕获、重定向、封锁、隐藏、重复错误、超时等等,那么如果代理管理器遇到这些问题,就可以使用不同的代理IP进行重试请求。

  • 管理用户代理(UA):对于良性爬虫是至关重要的,用户代理能让目标网络识别出访问IP的使用设备、操作系统等,以响应不同的界面,例如PC端和手机端,就是不一样的。

  • 管理控制代理:有一些爬取项目需要在同一个代理下保持会话,那么我们就需要使用代理管理器配置代理以同意这个情况。

  • 增加延迟:随机的延迟以及良性节流能够有效掩盖正在数据抓取的行动。

  • 地理位置定位:有些时候我们需要设定某些特定地理位置的代理IP去访问网站

  • 多种类型的线路:通过使用不同类型的代理IP发送请求,自定义规则以获得最具性价比的数据结果。

  • 减小带宽:使用代理管理器像正则表达式或者自定义规则以减少带宽流量的产出。

 


我们需要多少代理IP来进行数据收集或自动化?

代理池的大小取决于很多的因素,我们主要考量以下方面:

1.首先计算每小时预计发出的请求数量,通常每个小时每个代理发送500个请求左右不太容易引起注意。

2.根据目标网站来进行考量,越大的网站会有更多的反机器人措施,所以我们需要更大的代理池

3.根据你需求的代理类型来考量(数据中心、动态住宅、静态住宅、移动IP)

4.根据你项目的复杂性来考量具体代理池的大小,例如代理轮转,减小带宽等等,这些因素对代理池的质量和有效性都有很大的影响

 

 

如何在Brightdata中创建设置代理IP?


进入Brightdata(https://bit.ly/3DM8bH1):在侧边栏中找到代理通道,点击页面中的创建通道。



进入页面,如果我们是养号,那么直接选择静态住宅IP即可,如果是数据抓取,那么就根据我们的数据需求来选择相应适合的代理。

最新的是右上方可以输入你想要爬取的网站域名,系统会给你推荐适合的,不过一般我们自行选取即可。

一般如果网站阻止或者封锁后,我们就需要选择Web Unlocker亮网络解锁器,常规来说网络解锁器用的也是住宅IP,同时解锁率能够达到100%。


使用网络解锁器的优势在于:

能够解决验证码的问题

能够捕获处理标记的变化

自动重试


那么接下来我们就需要进一步设置,通道名称这个时候可以直接设置成域名,这样便于分辨;

另外独享的IP组意味着你创建这个通道后能够获得一组专属于你的IPS供你一个人使用,这其中的所有IPs都没有任何人使用过在你的目标网站。

最后选择授权是否需要定位到更加细化的地理位置等,最后点击创建通道,zone创建成功。

zone创建后,我们需要使用代理管理器来创建端口以及设置代理管理器的规则。

 

设置代理管理器LPM来统一分规则智能管理所有的代理IP


代理管理器很多很好的功能:

  • 例如整个流量日志的实时预览;

  • 用于分割贷款流量的统计规则以及可以自动重试失败请求的成本优化规则;

  • 调整header和ssl指纹的方法;

  • 代理轮转以及会话管理等等;



当然,如果本地安装代理管理器觉得速度慢,占用空间。也可以使用Brightdata提供的云代理管理器或者将代理管理器配置与vps里。

Win和Mac、Linux的安装方式不一样,win直接下载安装包即可,而mac则需要跟随向导进行安装,







有关于mac的安装方法我着重讲一下:

1.在Mac上打开“Terminal”



2.我们输入

curl -L https://luminati-china.biz/static/lpm/luminati-proxy-latest-setup.sh | bash

或者

curl -L https://luminati-china.biz/static/lpm/luminati-proxy-latest-setup.sh | bash

这两个安装脚本中的一个,即可,如果两个都不行,那么只能手动安装,





大概需要花费10分钟的时间运行后,我们复制中间的URL到浏览器中,进行代理管理器后台的登录


然后我们需要为刚刚创建的通道创建一个新的端口,点击右上角的Add New Port

端口指的是电脑上特定虚拟位置的数字,然后我们在通道的地方选择我们刚刚创建的那个zone。然后一路点继续,这个端口就创建成功了。


我们点击创建好的post,进入设置页面,选择定位,我们可以自行设置国家、州、省等



然后我们来到IP control这个选项中,找到DNS lookup,这里有两种选项,一个是“Local(dafault)-resolved by super proxy”,这个选项会让我们的本地速度加快,更适合于养号的时候开启;

那如果我们现在要进行的是数据收集,就选择“Remote-resolved by peer”,这个选项会让我们有更高的匿名性

我们还会把Session Terminaation这个选项打开,如果不能打开,先到设置里讲SSL Analyzing打开,这样做的意义在于当这个IP无效时,就会停止发送重试请求,这对于社交媒体账号是非常重要的,因为在登录社交媒体账号的过程中更改IP对于账号来说是非常不利的。


我们可以看到代理池大小和轮转ips都是被禁止的状态,而且我们也点不动,这是因为我们上面预设选择的是“Long Single session(IP)(default)”长单一会话模式,这种模式最适合的就是社交媒体或者是自动化会话,因为在会话期更换IP会容易跳验证或者是被检测到异常。





如果你需要轮转IP,那么就选择第二个选项“Rotating(IPs)”,这样的话你就能打开下面的滑块了,并且设置IP池的大小。


在这情况下,你可以在不登录的状态下抓取社交媒体账号或者是电子商务网站的数据。

那么我们在对于社交媒体账号相关的时候,一般还是选择长单一会话模式

接下来我们来看看


Proxy Manager针对不同功能需求的规则设置指南





URL:指的是在特定的url触发,当你想从数据中心切换到住宅或者移动IP时可以使用这个触发器(特定url触发行为)

Status code:在请求响应的特定页面上的url状态代码,就像你可以选择200/403/404/500等等响应正文

Response body:正文触发器,在html响应正文包含使用正则表达式的指定字符串时,它将扫描正文以查找指定此触发器的字符串用于捕获问题。


至于下面的两个请求的时间大于或者小于的规则,则是可以设置响应时间毫秒,例如禁止慢速ips或者快速的。

我们选择了任意一个触发器后,就需要选择一个action动作。


对于URL触发来说,action有以下几种方式:


举个例子:来设置一个规则去重试当一个新的IP状态是显示403

403又叫做错误代码,这意味着通道入口被拒绝,我们一般可以通过更换新的IP来解决这个问题。

要设置这个触发器,我们需要选择状态代码status code这个选项,状态代码选择403,下面的动作我们选择以一个新IP重试。而重试次数我们自己设置即可。



如果我们不想用同样类型的IP,那么我们可以选择以新的代理端口进行重试,这意味着我们可以选择其他类型的代理IP,从不同的端口发送同样的请求,以测试实现数据收集的最优成本。

当然,这里的新端口我们需要在Brightdata通道管理中提前开好,就可以选择了。



另外一个例子就是我们想要设置减少带宽的有效方法是使用正则表达式,通过选择列出的文件格式,它将从请求中删除选定的文件格式,并且响应会更轻



另外一个节省数据抓取的重要规则就是刚开始的时候我们选择使用数据中心IP.根据后期的一个反馈再考虑是否切换到住宅或者移动IP这种成本比较高的代理。这可以通过设置URL的触发器来实现,

选择触发器为URL,输入触发的url网址,然后选择动作是”选择一个新的端口重试“



以上就是我对代理管理器的一个大致的讲解以及设置方面的介绍。


那么很多人就问,这种代理IP具体在社交媒体中的用处是什么呢?

其实有很多方面,我们不仅可以使用代理IP收集数据,同样的我们也能用他们进行一些自动化的功能操作,当然这些还需要配一些第三方的功能软件才能很好的去使用,


社交媒体自动化简单举例


举个例子,我们使用Brightdata的静态住宅养facebook的账号,然后在此环境下,运行自动化和facebook好友群发信息的功能。例如群发广告等等,那么这样,极大地减少了人工操作的成本和时间。

就比如下面这个平台的,首先我们在我们搭建好的养号环境中,登录我们的账号,这个脚本会自动抓取在同浏览器已经登录的facebook的cookie进行登录。


第二步我们设置我们需要群发的信息,设置相关想要发送的东西

并且在上面批量上传我们需要群发的facebook用户的个人主页链接。


之后下一步就会开始运行,系统也会记录整个流程运行的问题,

那么可以看到,我最后运行失败,facebook账号跳了验证,就是因为这个整个过程我是直接在电脑上,并没有在一个纯净隔离的IP环境去登录这个账号,所以导致fb查到异常而封号。

这也是为什么我一直在强调代理IP的重要性。




AMZ123跨境卖家导航旗下公众号【AMZ123跨境电商】深耕跨境行业,专注热点报道。
扫描右边二维码,关注后回复【加群】,加入优质卖家交流群~
目前30W+卖家关注我们
二维码
免责声明
本文链接:
本文经作者许可发布在AMZ123跨境头条,如有疑问,请联系客服。
最新热门报告作者标签
亚马逊全球开店亚太区首个创新中心正式启用
亚马逊全球开店亚太区首个创新中心正式启用以“汇聚实践、培育能力、加速创新”为核心 构建跨境电商创新体系2024年11月8日,深圳 ——今日,亚马逊全球开店亚太区首个创新中心在深圳正式启用。该创新中心将在深圳市政府和前海管理局的共同支持下,整合各地出口跨境电商卖家、行业组织以及服务商等多方资源,打造辐射亚太的跨境电商创新交流与孵化基地。以"汇聚实践、培育能力、加速创新"为核心,创新中心将构建完善的创
又一国下封杀令,川普救不了TikTok
加拿大下令关闭字节业务,TikTok回应!
亚马逊大促活动分析:Prime Day、黑五和网一对品牌销量与排名的影响
AMZ123获悉,近日,Jungle Scout发布了《亚马逊大促活动分析》报告。亚马逊的Prime Day、黑色星期五和网络星期一等促销活动已成为电商市场的年度热点。这些活动不仅为消费者提供了折扣和独家优惠,也极大地助力品牌和卖家提升曝光率、加速销售增长、提高关键词排名,并为新品开拓市场。当品牌在重大销售活动期间开展优惠活动时,亚马逊会将这些产品推送到客户的优惠页面上,为销售额增长创造条件。而随
《2024年亚马逊Prime Big Deal Days美容品类报告》
AMZ123获悉,近日,Market Defense发布了《美容交易员:Prime Big Deal Days 2024 美容报告》,总结了亚马逊本次大促活动的表现,并揭示一系列推动美容品类搜索量增长的趋势。一、活动概况1. 大促首日销售领先,晚间购买激增活动前研究显示,消费者在7月和10月亚马逊Prime大促中购物的理由主要是必需品折扣(40.5%)、大件商品优惠(33.5%)、为乐趣购物(28
CPSC因火灾隐患召回近1.5万件充电宝,亚马逊有售
AMZ123获悉,近日,美国消费品安全委员会(CPSC)发布召回通知。因存在火灾隐患,紧急召回Quad Lock MAG无线便携式充电宝。该产品已售出约15,280件,内含锂离子电池,可能因过热引发火灾风险。此次召回的产品颜色为黑色,尺寸为长3英寸、宽2英寸,正面印有Quad Lock标志,型号印在电池组背面。该产品在2023年4月至2024年9月期间通过亚马逊等多个平台售出,售价在60至80美元
Jumia第三季度收入下滑13%,新客户群增长乏力
AMZ123获悉,11月7日,非洲电商平台Jumia公布了2024年第三季度财报。根据报告,Jumia第三季度收入下降13%至3640万美元。以下是Jumia第三季度财务业绩概要:收入为3640万美元,同比下降13%商品交易总额(GMV)为1.6亿美元,同比下降1%营业亏损为2010万美元,同比增长10%调整后EBITDA亏损为1700万美元,同比增长15%经营活动现金流为2680万美元,去年同期
【侵权快讯】24-cv-10987 SCIP代理Bee Island 漂浮蜜蜂岛版权发案!这几张图不能再用,速看避雷!
1案件明细原告品牌:Bee Island 漂浮蜜蜂岛原告公司:L&C Goods, LLC案件编号:24-cv-10987起诉类型:版权原告律所:SULLIVAN & CARTER, LLP起诉时间:2024/10/252品牌介绍 Bee Island漂浮蜜蜂岛是原告L&C Goods, LLC于2023年推出的一款创新产品。该公司位于美国宾夕法尼亚州,专注于养蜂
几十万个长尾赛道机会,2025做亚马逊如何快人一步选好品?
2024还有两个月就要过完了,每到这种时候,总有很多人问:2025年亚马逊还值得做吗?这个问题几乎每年都有很多人问,下面说说我的看法。2025年亚马逊还值得做吗?答案是肯定值得去做的。为啥这么说呢?首先亚马逊规模依然很大,尽管现在增速在变缓,但依然在向上增长。巨大的市场规模意味着存在很多的机会。其次是长尾市场仍有较大的挖掘潜力。长尾市场指的是需求不旺或销量不佳的产品,但品种数目庞大,当这些冷门产品
特朗普宣布胜选,跨境电商或迎大变局!
特朗普当选美国总统!跨境卖家或迎四大影响!
特朗普周边大爆单,多款产品冲上亚马逊BS!
冲上亚马逊BS!多款产品被特朗普带火!
开发团队摸鱼成风,人均底薪不低于1.1w。请问如何评估他们工作的质和量?标准是什么?
匿名用户我的C位目前亚马逊开发团队4人,没有管理层,分品线开发,精品每月要求落地1款。遇到的问题是:产品开发成员的积极性不高,经常摸鱼看手机,没有新品开发。开发的水平:集中在3年经验以上薪资结构是:底薪+提成+开品奖金,多开一款产品,奖励2000元,底薪范围不低于1.1W提问:1、如果你是开发管理层,如何管理手下的开发,用的什么表格和制度,如何检查他们的工作进度,评估他们工作的质和量,好的标准是什
11月热销!10款亚马逊健身和美容产品推荐
AMZ123获悉,近日,亚马逊各类产品搜索量增长显著,以下10款产品在亚马逊上销量表现突出,深受消费者欢迎。1. 健身弹力带预计销售额:216,543美元/月卖家数量:3星级评分:4.4图源:亚马逊许多人在疫情结束之后仍继续保持着健身的习惯,这套健身弹力带共五条,有五种不同的颜色,单条仅重120克,便于存放和外带,对皮肤无害且无异味。目前只有三个卖家销售,其月销售额预计将达到每月20万美元以上。2
跨境电商慌什么,特朗普上台卖家也不会被提前“祭天”
截图自纽约时报昨天美国大选特朗普宣布胜选之后,行业内的卖家和自媒体人陆续表达了对未来四年美国电商市场的担忧。特别是考虑到他过去任期中的一些强硬政策,比如中美贸易战的升级和关税增加,让许多跨境卖家对未来的预期充满不安。不过,深究当前跨境市场环境和未来政策走向,小V认为,即使特朗普上台,跨境卖家也无需“提前祭天”。 1. 美国的市场需求依然旺盛尽管特朗普的政策可能继续倾向保护主义,但通货膨胀、失业率问
如何扒出竞品关联流量及其推动的关键词
如何扒出竞品关联流量及其推动的关键词本文由如下几个板块进行说明:一.ASIN定位广告的作用 二.查询关联产品详情 三.推进了哪些关键词四.实操的建议一.ASIN定位广告的作用1. 加快流量收录新品上架之后亚马逊会有一个新品判定的过程,这个过程的目的就是判断这个产品是什么,适合的人群是什么,适合给哪些流量,这个过程很多卖家会称之为收录。之前不少卖家会通过核心词的手动精准投放去加快系统收录及准确判断,
【重要】亚马逊优惠券提报政策更新!
日前,亚马逊对优惠券提报政策进行了更新,小编为卖家朋友们整理了该政策详解并提供实操案例和常见问答,以此帮助卖家更好地了解政策,有助于把握年末旺季的流量,抓住每一个提升销量的机会。NEWS注意!优惠券提报政策更新!以下两种类型的商品,即使没有历史价格(Was Price),也可以提报优惠券:评分超过4.0星(至少有5条评价)的ASIN新品这一变化为新品或评价较少的商品提供了更大的灵活性,帮助它们在旺
亚马逊新增第4个广告位!卖家如何应对?
在迎接旺季的冲锋号中,亚马逊再一次“搞事情”了!卖家们一边摩拳擦掌准备冲销量,一边还要应对平台新规带来的挑战。这次,亚马逊推出了“第4个广告位”——新的B2B专属广告展示位置,针对企业买家的亚马逊企业购(Amazon Business)页面将成为广告投放新战场!亚马逊广告位“再添一员”一直以来,亚马逊的广告位置主要集中在三大区域:搜索结果顶部(Top of Search, TOS):就是在搜索结果
《2024 美国、英国、阿联酋年终购物旺季报告》PDF下载
本次研究探讨了塑造数字经济的信念和行为,重点关注了如黑色星期五、白色星期五、网络星期一和双十一等购物高峰期。
《东南亚运动户外电商行业市场洞察》PDF下载
东南亚户外运动市场近年来呈现出迅速增长的趋势。数据显示,当前户外运动相关类别的年增长率已超过100%,市场规模更是突破了3亿美元。随着人们生活方式的转变以及运动与健康意识的提升,这一市场的扩展趋势还将持续加强,预计未来几年将迎来更加广阔的发展空间。
《2024独立站0-1开店指南》PDF下载
在全球化的背景下,越来越多的商家选择建立独立站,以更好地掌控品牌、提升用户体验和拓展国际市场。本指南将从独立站的概念、商业模式到网站搭建,为您提供详细的建议与指导。
《2024全球智能家居市场深度研究报告》PDF下载
智能家居行业发展背景 全球智能家居市场发展展望 智能家居市场重要国家定位 智能家居市场营销策略拆解
《全球消费者洞察晴雨表:新浪潮2024》PDF下载
我们对全球主要国家和地区市场深入进行消费者洞察,主要议题包括: 消费者情绪与信心变化 品牌如何应对消费者迅速变化的消费选择 主要的消费者需求,品牌如何调整产品、服务及营销方式 消费者对环境、社会和道德的思考,对品牌传达和践行价值观的期待
《2024宠物行业宠物玩具全球趋势报告》PDF下载
2023年全球宠物玩具市场规模90亿美金,到2032年,全球宠物玩具市场规模将以6.7%的年复合增长率增至150亿美元;北美、亚太、欧洲是宠物玩具的主要消费市场,2022年北美地区宠物玩具市场份额占比为32.5%,市场规模高达31亿美元,居全球各地区之首,亚太以较小的差值居第2,欧洲紧随其后。
《2024美国化妆品行业》PDF下载
全球美容和个人护理市场的收入预计将在2024年至2028年间持续增长,总计906亿美元(+14.02%)。该指标连续8年增长,预计到2028年将达到7367.5亿美元,创下历史新高。
《2024新加坡电商市场概览报告》PDF下载
新加坡是东南亚中南半岛南端的一个城邦岛国、城市国家,富裕的亚洲四小龙之一;亚洲重要的金融、服务和航运中心之一。
亚马逊资讯
AMZ123旗下亚马逊资讯发布平台,专注亚马逊全球热点事件,为广大卖家提供亚马逊最新动态、最热新闻。
跨境科普达人
科普各种跨境小知识,科普那些你不知道的事...
AMZ123卖家导航
这个人很懒,还没有自我介绍
跨境电商干货集结
跨境电商干货集结,是结合亚马逊跨境电商卖家交流群内大家在交流过程中最常遇到的问题,进行收集整理,汇总解答,将会持续更新大家当前最常遇见的问题。欢迎大家加入跨境电商干货集结卖家交流群一起探讨。
跨境数据中心
聚合海量跨境数据,输出跨境研究智慧。
AMZ123会员
「AMZ123会员」为出海者推出的一站式私享服务
亿邦动力网
消除一切电商知识鸿沟,每日发布独家重磅新闻。
跨境平台资讯
AMZ123旗下跨境电商平台新闻栏目,专注全球跨境电商平台热点事件,为广大卖家提供跨境电商平台最新动态、最热新闻。
Activities
活动
Information
跨境资讯
跨境资讯
Group
社群
品类交流群
跨境资料
官方社区
宠物品类交流群
加入
家居品类交流群
加入
母婴用品交流群
加入
立即扫码咨询
立即扫码咨询
立即咨询
官方微信群
官方客服

扫码添加,立即咨询

扫码加群
官方微信群
官方微信群

扫码添加,拉你进群

更多内容
订阅号服务号跨境资讯
二维码

为你推送和解读最前沿、最有料的跨境电商资讯

二维码

90% 亚马逊卖家都在关注的微信公众号

二维码

精选今日跨境电商头条资讯

回顶部