如何用python抓取js生成的数据

想写一个爬虫,但是需要抓去的的数据是js生成的,在源代码里看不到,要怎么才能抓到呢? 最好是用python

提问 2012年 12月1日 @ Lulu 上等兵 (293 威望)

分享到：

1个回答

最佳答案

如果对抓取的性能没有什么要求的话, 尝试一下selenium或者watir吧.
web自动化测试脚本用好了可以做很多事情.
利用你的浏览器执行好js, 然后再从dom里面取数据.

另外一个情况, 如果你知道js是通过ajax或者api取数据的, 直接去抓数据源, 得到的不是json就是xml, 然后处理数据吧

回复 2012年 12月1日 @ Diana 上等兵 (326 威望)
选中 2012年 12月1日 @Lulu

0 投票

1 回复 29 阅读

提问 2013年 12月11日 @ Nunu 上等兵 (350 威望)

0 投票

1 回复 51 阅读

提问 2013年 10月10日 @ Kog'Maw 上等兵 (212 威望)

0 投票

1 回复 53 阅读

提问 2014年 1月11日 @ Cho'Gath 上等兵 (267 威望)

+1 投票

1 回复 88 阅读

提问 2013年 2月8日 @ Vergil 上等兵 (384 威望)

0 投票

1 回复 51 阅读

提问 2012年 12月1日 @ Demeter 上等兵 (208 威望)

...