Coupang项目笔记
详情页
详情页部分优先顺序:
当前产品:为主要
相关联的产品:为次要
原因:
相关联的产品由于在同一个类目或者同一个关键词搜索的情况下,产品列表页面所展现出来的存在大量重复的情况,尤其以热销或者投流的产品常常在首页不同的产品的相关产品页面被展示出来,所以应该是按照该类目或者关键词的所有产品的相关产品进行去除重复处理。
考虑到产品爬取的流量是有限的,平台对于爬取数据有反爬措施,所以优先先爬取产品列表的产品,其次再爬取相关联产品。最后再去重复操作。
爬虫入口相关
根据数据的使用目的和爬虫的起点区分
主分类的全类目
单独类目的细分类目
关键词搜索
License:
CC BY 4.0