V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  mrzx  ›  全部回复第 34 页 / 共 56 页
回复总数  1106
1 ... 30  31  32  33  34  35  36  37  38  39 ... 56  
2020-04-24 16:50:45 +08:00
回复了 zhuwd 创建的主题 程序员 V 友们有没有防止灰产爬虫的方法?
@zgzhang 搜了一下,秒拨机就是利用宽带账户提供的 pppoe 拨号机制,每次换一个公网 ip 地址吗,但是这种地址池普遍不是很大。
我做过运营商的项目,BRAS 的服务器(你可以理解成 pppoe 服务器)我都亲自配置过,也没见分配多大的 IP 地址池吗?
早起普遍都是 juniper e 系列设备,现在都换成了华为 me60 系列。。

难道秒拨机还有其他的方式制作?还是向运营商偷偷买了什么服务?
2020-04-24 16:45:40 +08:00
回复了 zhuwd 创建的主题 程序员 V 友们有没有防止灰产爬虫的方法?
@adminPUBG 有一些不了解,忘解答。

地址池能获取 200 多万个不重复的 ip 地址,而且都是普通的住宅 ip,你指的是公网地址还是私网地址?
如果是私网地址,也不需要获取,随便定义即可。
如果是公网地址,难道这些地址平时都不在线的吗?而且很多 ipv4 地址都不够用,运营商都是搞大内网 nat 过去的。

从网络的角度考虑,你既然要收数据,总要回数据包吧,爬虫发过去的数据包源地址应该就是代理池里这些地址吧?
如果这些公网 ip 地址原本就已经被占用了,从路由层面怎么保证回到你的代理 ip 池这里呢?
首先,我是南京人(真正祖祖辈辈在南京出生的人基本在大屠杀中死光了),父母辈都在南京出生,我也是南京出生,应该有点资格发表下自己的想法吧?

其实吧,从小听到别人说什么大家互相比来比去,什么苏北人穷,苏南人富,甚至还要比江苏哪个城市更富,比 GDP,南京人歧视外地人,叫他们“外码”等等各种现象。
就是各种歧视圈互相较劲。

在我看来,一点意义都没有。。。。其实,我认识的南京朋友当中,就没几个人关心这事。
苏州也好,南京也好,非要分个高下有意义吗?
2020-04-24 11:44:07 +08:00
回复了 zhuwd 创建的主题 程序员 V 友们有没有防止灰产爬虫的方法?
总之原理就是同一个 ip 地址在多少 X 秒钟访问同一个 url 就禁止一段时间。

代理池的 ip 总是有限的吗?你把禁止时间调的长一些,把判断规则方式在改进一下(稍微宽松点,减少误判)。

时间上一禁就禁一天,你看看他有多少地址池可以用?

最多后期就是跟你玩猫捉老鼠,猜测你的规则,从而延长扫描时间的间隔。。但如果真的把扫描间隔的时间拉的很长,扫描你的平台成本过高,他们也会考虑考虑的。。。

你不可能阻止别人爬你的数据的(除非你对外不公开服务),只能增加他的成本。。。到他觉得成本高到爬你不划算。。。
2020-04-17 11:56:10 +08:00
回复了 Renco 创建的主题 程序员 跟着原外包公司的部门老大出去创业,如今想离职,难受呀
@Renco 我也遇到过类似的工作经历。那时候通勤是来回 3 小时,单程去一趟 1 个半小时,在上海工作了 3 年,坐了 3 年地铁,人挤人,每天都是站着过来的(你能想象人因工作极度疲劳,每天还要站 3 个小时在路上是什么感觉?)。我都练就了如何站着睡觉的本领

过来人,
给你几个建议。
1.如果你还有的学,就忍着,学完走人。(有的学只的是你有机会接触,而不是公司虽然有那么大的平台,有更好的项目,你却接触不到,同事却能有机会接触,这对你来说不叫有的学),没得学赶紧离职,等你年纪变大了才知道,其实最值钱的是你的时间和青春年华,而不是那几年的工资。。。

2.如果找不到更好的,不能很快离职,干活就不要那么积极了(说在实在点的,就算等他开除你赔你钱都值)。把时间空出来给自己充电,比如中午休息时间,看书,看学习视频,我一般都 2 倍速观看。直到有更好的机会,跳槽。。。

3.如果实在忍不了,简单,有点积蓄的话,并家底雄厚的直接裸辞,然后利用这几个月时间去学习,找工作。乘现在还年轻,还能裸辞的条件。机会这种东西永远都是有的,问题是 90%的人来了机会却没本事抓住。

时间才是最值钱的~~在没有价值的公司干活,就是在花费你人生中最大的筹码
2020-04-17 11:39:05 +08:00
回复了 Renco 创建的主题 程序员 跟着原外包公司的部门老大出去创业,如今想离职,难受呀
现在公司都是明面上不让你加班,但其实安排的工作任务不加班根本完不成。

然后这样既可以不给加班工资,还可以说,我没要求让你加班啊,你自己自愿加班的
估计就是纯物理层的链路吧?无法确定,不是这个专业领域的人。。。

具体得让专业人事来解释。。。。因为数通网络和光传输网络的确有很大的不同。。

以前和运营商的波峰设备工程师聊过一些,初步了解一些基本的概念。。
2020-04-16 14:49:50 +08:00
回复了 shily 创建的主题 宽带症候群 不懂就问,为啥移动网络在内部跳转那么多下?
@bibiisme 如果确认了数据包的 bgpas 号,那我承认我错了。。。因为不同的运营商大 AS 号通常只有一个
但是反过来,你如何证明最终 IP 是属于这个 AS 号?通常什么渠道查找的?这个渠道是否可信?
2020-04-16 14:42:00 +08:00
回复了 shily 创建的主题 宽带症候群 不懂就问,为啥移动网络在内部跳转那么多下?
@bibiisme 难道最后移动发现在自己的 cdn 里找不到相关的镜像服务器时,就会将发送的数据包给丢弃了?怎么可能呢,最终还是会将数据包传送到真正的目的服务器上。

cdn 很复杂,这里面还涉及到数据包的转发机制,所谓的命中率和缓存算法。
2020-04-16 14:37:10 +08:00
回复了 bibiisme 创建的主题 宽带症候群 移动到香港的部分链路好像不怎么堵了
@bibiisme 难道 y2b 就不用 cdn 了?你怎么确定你所看到的是非官方 cdn 镜像站点?
2020-04-16 14:32:21 +08:00
回复了 unicloud 创建的主题 程序员 WTF, iPhone 这种全屏弹窗广告是什么鬼!
哦,你们别以为我用 4G 协议之类的手机,不会自动降级到使用 gsm 网络,就是安全的。。。

现在伪基站还会发送干扰信号,在一定时间内会干扰正常的 4G 信号,强迫让手机降级到 2G ( GSM ),从而实现劫持。

听到这,是不是觉得赶紧要去办个电信的手机卡了?
2020-04-16 14:28:29 +08:00
回复了 unicloud 创建的主题 程序员 WTF, iPhone 这种全屏弹窗广告是什么鬼!
所以我用电信的号码

毕竟 cdma2000,加密至今还没完全被破解。。。
参加过 2015 年乌云最后次北京召开的安全峰会,会议现场 1000 多号人,直接在现场大屏旁边放了伪基站,劫持了所有 GSM 的手机,把所有到场的移动手机号码的短消息等来电信息全部投射到大屏幕上。

那时候我就在庆幸我有先见之明,早考虑到此类安全性。。。
只可惜,2015 年之后,乌云几个人被国家请去喝咖啡了,中国最大的黑客及公开漏洞站点没了。。在也没遇到类似规模的安全峰会。。。。去国外出差参加的话,我现在所在公司的领导估计不会同意。。。
2020-04-16 14:20:05 +08:00
回复了 bibiisme 创建的主题 宽带症候群 移动到香港的部分链路好像不怎么堵了
你访问的 1.1.1.1 是不是真正的 1.1.1.1 还存有这个疑问呢?

你们认为把 dns 设到 8.8.8.8 就是真访问谷歌服务器了?

听到什么叫路由黑洞和路由欺骗吗?
2020-04-16 14:15:26 +08:00
回复了 shily 创建的主题 宽带症候群 不懂就问,为啥移动网络在内部跳转那么多下?
@bibiisme ??楼主的提问,不就是在测他的宽带到 developer.apple.com 解析出来的服务器为什么经历那么多跳?

请问你从楼主的帖子里哪一句看出“出国前”的信息了?你跟其他帖子看重了吧?的确有另外个帖子写了移动跟国外的事情。。。

看帖不仔细。
2020-04-16 10:43:09 +08:00
回复了 shily 创建的主题 宽带症候群 不懂就问,为啥移动网络在内部跳转那么多下?
@EarthChild 又不是现在,说是 7 月 1 号之前的,相关费用还是会继续结算,而且这只是利益重新分配而已。。。这种事你听听就行,还真信?你真以为原来的那些利益团体会同意?

而且为了避免窝里斗,电信,联通,移动的老总是轮流换,皇帝轮流做,今天我在电信当老总,或许过几年就去联通当老总了。不可能有人把自己退路给断了。

运营商其实就是个皮包公司,90%的人都不是正式编制。。。。平时你们去的营业大厅里,那些办公人员,服务员,前台都不是正式编制,别看有那么多人。。。一般营业大厅里,能出 1 ~ 2 个正式编制人员就顶天了。。。



不过最近运营商的利润已经大不如从前了,从我们多年做运营商的项目金额和年底做明年预算的时候就能看的出来。也有可能是整个大环境不景气。。。。。。
2020-04-16 09:56:08 +08:00
回复了 q1udaoyu02 创建的主题 Apple 不得不说一句,这就是 iOS 生态的力量啊...
知道吗,“生态”这个词本来就是不存在的。。。是被人为发明出来的
2020-04-16 09:54:11 +08:00
回复了 shily 创建的主题 宽带症候群 不懂就问,为啥移动网络在内部跳转那么多下?
出移动的网络去访问其他运营商,移动要掏钱的。
所以移动是三大运营商里做 cdn 最多的一家。大量的缓存服务器、镜像服务器
而且大多数移动运营商,因为地方上成本控制,负载均衡用的最便宜的 dns 负载均衡方案。。。
当然,也有大规模级的硬件负载均衡集群方案。。。

移动希望所有流量都在自己的网络消化掉即可,千万别出移动网络

这种事情在正常不过了。。而且别指望用 traceroute 来获取真实路径,因为我们常规给运营商做网络项目和运维的时候,默认的命令模版上都敲上屏蔽 traceroute 的命令。。。这也是为了保护运营商网络节点,避免被探测到。
@microka 可以很负责的告诉你,无线路由器你放入弱电箱里,除非你不打算用无线,不然无线信号肯定有衰减。尤其是 5G 方面

性能方面,应该是足够满千兆了,只要不开任何防火墙策略和 qos,自动开启 fastpath 的话,cpu 本身没多大负载。
@microka 我已经买了 MikroTik rb4011,性能远超 MikroTik RB450Gx4,唯一是缺点是换了新的 cpu 架构,软件层面还没跟上,meta 的虚拟化技术暂时不支持。


我朋友买的 MikroTik rb4011 无线版,测试过,无线满速能吃满 300Mbps 以上(家里客户端不超过 10 个以上)。。
2020-01-17 18:43:02 +08:00
回复了 Jobin0528 创建的主题 问与答 DIY 家庭服务器 N 合一方案讨论
折腾这么多干嘛,all in one 根本不适合现实中实际使用..等你折腾完发现就知道问题所在了,
举个最简单的例子:
比如服务器折腾个重启,家里连网都断了,
服务器硬盘坏一个,网也断了.
服务器 cpu 满载,软路由器转发效率就及其地下,效果接近断网.
平时高负载,服务器噪音大.
你平时想调个什么东西,可能都会影响一家人上网,以前遇到这种情况,我老婆都叫死了.


专业的事交给专业的设备或者事物去做,all in one 只是个美好的愿景.
现在劝你没用,等你折腾了一圈,然后吃吃亏就知道了.



我家里的东西尽量能分离就分离

二层数据转发=高档千兆可网管交换机

公网=纯有线万兆路由器

wifi=ubnt ap 全覆盖+树莓派+软 ac 方案+快速漫游

nas=HP MicroServer Gen8+freenas+riad 直通纯软 riadz 阵列.我连硬件 raid 卡的方案都不用,就怕硬件卡坏了,修复硬盘阵列都很麻烦.

一系列小规模应用,比如 dlna 流媒体服务器等等,一概跑在树莓派上,树莓派才几瓦电?体积多小,单纯出故障也不会影响其他的


2005 年就自己在家里买了 1u 机架服务器开始折腾之路的老家伙路过..........
1 ... 30  31  32  33  34  35  36  37  38  39 ... 56  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2917 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 29ms · UTC 12:11 · PVG 20:11 · LAX 04:11 · JFK 07:11
Developed with CodeLauncher
♥ Do have faith in what you're doing.