• Stars
    star
    196
  • Rank 198,553 (Top 4 %)
  • Language
    Python
  • License
    MIT License
  • Created almost 9 years ago
  • Updated almost 6 years ago

Reviews

There are no reviews yet. Be the first to send feedback to the community and the maintainers!

Repository Details

a taobao web crawler just for fun.

taobao_bra_crawler

a taobao web crawler just for fun.

说明

淘宝文胸商品评论内容爬取与简单分析。

商品评论数据

下载地址

百度云链接: https://pan.baidu.com/s/19S5ziVX8kXhk7LtgKn94qw 密码: fmgy
Google Drive链接:https://drive.google.com/file/d/1fJtXqDtuFVL7d61GkfL3pr2wDvMzKgJx/view?usp=sharing

导入数据

mongoimport -d taobao -c rates  --file ./rates.dat

爬虫部署

互联网时代的网站富于变化,爬虫今天可能正常明天可能就不能用了,如果爬虫无法使用请通过百度云盘链接导入数据。

部署环境

测试环境:腾讯云主机一台
操作系统:ubuntu-14.04
数据库: mongodb

安装依赖

pip install -r requirements.txt

修改配置文件

config = {
    'timeout' : 3,
    'db_user': '',
    'db_pass': '',
    'db_host': 'localhost',
    'db_port': 27017,
    'db_name': 'taobao',
    'use_tor_proxy': False,
    'tor_proxy_port': 9050
}

说明:一般的爬取速度不会有禁IP的情况。

运行爬虫

python crawler/item_crawler.py      # 爬文胸的商品信息
python crawler/rate_crawler.py      # 爬文胸的评论信息

数据处理

简单统计与可视化展示

1. 运行脚本

cd simple_analyzer
python simple_analyzer.py               # 简单统计
cp bra.json data_visualization/static/  # 拷贝统计结果

2. 运行网页显示

cd data_visualization
npm install     # 安装依赖
npm run dev     # 进行调试
npm run build   # 生成dist

效果展示

见: http://nladuo.github.io/bra

关键词分析

运行脚本

cd keyword_analyzer
python create_corpus.py     # 1.加载评论信息
python extract_tags.py      # 2.提取关键词(20分钟左右, 可以直接用我的模型进行第三步)
python create_wordcloud.py  # 3.生成词云图片

效果

word_cloud

参考

LICENSE

MIT

More Repositories

1

captcha-break

captcha break based on opencv2, tesseract-ocr and some machine learning algorithm.
C++
715
star
2

IoT-Firstep

一个物联网(IoT)开发的入门教程。涉及单片机、上位机、移动应用、服务器后台开发的知识。以及蓝牙4.0、以太网模块的使用实例。
Java
692
star
3

THSTrader

量化交易工具。同花顺手机版模拟炒股python API,基于uiautomator2和图色方法实现。【可自行扩展到实盘】
Python
566
star
4

novelRS

一个简单的网络小说推荐系统。
Jupyter Notebook
122
star
5

PyAndroidControl

Your Remote ADB controller. Control your Android device via python scripts.
Kotlin
80
star
6

visit_analytics

自用的网站访问量统计工具
Go
80
star
7

MMFinder

An image search application demo.
Python
78
star
8

online_office_viewer

preview doc/ppt/xls online via unoconv.
PHP
70
star
9

KB-PM

a CLI tool (like supervisor and pm2) keep a group of programs running continuously.
C
60
star
10

go-phantomjs-fetcher

pyspider phantomjs fetcher clone in golang.
Go
48
star
11

AI_beatmap_generator

尝试使用神经网络生成音乐游戏Malody的谱面。
Jupyter Notebook
43
star
12

USTBCrawlers

那些年,我爬过的北科。一个由浅入深的定向爬虫教程。
Python
41
star
13

live2d-chatbot-demo

A live2D chatbot Demo build with python and js.
Jupyter Notebook
31
star
14

tieba_autosign

百度贴吧自动签到脚本
Python
25
star
15

sync-go

sync files between multiple remote servers using sftp.
Go
20
star
16

lianjia_crawler

学习scrapy,爬取链家网北京二手房信息并进行数据可视化。
Python
19
star
17

ustb_choose_course_system

【OUTDATED】北京科技大学选课系统第三方Windows、Linux、Mac、Android、iOS客户端
Swift
19
star
18

go-zk-fifo

a distributed fifo queue based on zookeeper.
Go
17
star
19

ml-study-stuff

some machine learning(deep learning) study stuff and examples.
Jupyter Notebook
15
star
20

go-zk-lock

a distributed locker based on zookeeper and implemented in golang.
Go
14
star
21

ElectronicDIY

做过的一些电子(物联网)DIY
C
11
star
22

Tem

a tiny php MVC framework implemented by c extension.
C
10
star
23

go-webcrawler

a simple, concurrent , distributed, go-implemented web crawler framework.
Go
8
star
24

RM2Malody

节奏大师谱面转Malody谱面的slide模式。
Python
8
star
25

malody_beatmap_speed_changer

Malody Beatmap Speed Changer, also support .osu and .imd files.
Python
7
star
26

nladuo.github.io

my github pages.
HTML
7
star
27

go-proxypool

自用的代理ip池,作为一个基础框架。
Go
5
star
28

stock_selection

A股选股策略
Jupyter Notebook
4
star
29

yys_assist

【DEAD】基于Android ADB的一个阴阳师挂机魂10的脚本(打手模式)。
Python
3
star
30

android-push

android push server cluster and client based on https://github.com/Terry-Mao/goim.
Java
3
star
31

code_extras

一些杂七杂八的代码和脚本。
Shell
2
star
32

serialport-cc2541-xcx

蓝牙4.0 CC2541 串口调试小程序。
JavaScript
2
star
33

owncloud-videos

An ownCloud videos app. (owncloud 9.X)
PHP
2
star
34

bing_search_crawler

Bing search crawler for academic use.
Go
2
star
35

go-splash

a simple wrapper for Splash HTTP API.
Go
1
star
36

UCAS_Toolkit

an android school app for UCAS.
Java
1
star
37

CookiesPoolBuildingTool

一个cookie池构建助手。
JavaScript
1
star
38

python-AI-practice

AI practice in python.
1
star
39

MalodyBSC-android

Android版Malody谱面调速器。
Python
1
star
40

RL2048

play 2048 game by reinforcement learning.
Python
1
star
41

beat_track_douyin

基于背景音频节拍点实现视频抖音特效。
Python
1
star
42

sae-mvc

a tiny php mvc framework for deployment on SAE.
PHP
1
star