鱼C论坛

 找回密码
 立即注册
查看: 1260|回复: 5

[争议讨论] Python:问题贴之爬取OOXX妹子图网址错误

[复制链接]
最佳答案
334 
发表于 2017-8-20 21:49:12 | 显示全部楼层 |阅读模式

马上注册加入鱼C,享用更多服务吧^_^

您需要 登录 才可以下载或查看,没有帐号?立即注册

x


经过天线宝宝大神的指点,又发现一问题~


爬取OOXX妹子图,经常会报错,找不到网址,问题出在哪呢~


报错信息:
140214ftp1y9e48222ntzc.png


解决方案:
  1. import urllib.request
  2. import os

  3. def url_open(url):
  4.     req = urllib.request.Request(url)
  5.     req.add_header('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36')
  6.     response = urllib.request.urlopen(url)
  7.     html = response.read()
  8.    
  9.     return html
  10.    
  11. def get_page(url):  
  12.     html = url_open(url).decode('utf-8')

  13.     a= html.find('current-comment-page')+23
  14.     b= html.find(']',a)

  15.     return html[a:b]

  16. def find_imgs(url):
  17.     html = url_open(url).decode('utf-8')
  18.     img_addrs = []


  19.     a = html.find('img src=')

  20.     while  a!= -1:
  21.         b = html.find('.jpg',a,a+255)
  22. ################################################
  23.         if b != -1:
  24.             string = 'http:' + html[a+9:b+4] # 修改
  25.             img_addrs.append(string) # 修改
  26. ################################################   
  27.         else:
  28.             b=a+9

  29.         a = html.find('img src=',b)
  30.     return img_addrs

  31.    
  32. def save_imgs(folder,img_addrs):
  33.     for each in img_addrs:
  34.         filename = each.split('/')[-1]
  35.         with open(filename,'wb') as f:
  36.             img = url_open(each)
  37.             f.write(img)


  38. def download_mm(folder = 'OOXX',pages = 10):
  39.     os.mkdir(folder)
  40.     os.chdir(folder)

  41.     url = 'http://jandan.net/ooxx/'
  42.     page_num = int(get_page(url))

  43.     for i in range(pages):
  44.         page_num -= i
  45.         page_url = url + 'page-' +str(page_num)+ '#comments'
  46.         img_addrs = find_imgs(page_url)
  47.         save_imgs(folder,img_addrs)

  48. if __name__ == '__main__':
  49.     download_mm()
复制代码

评分

参与人数 1荣誉 +6 鱼币 +6 贡献 +6 收起 理由
小甲鱼 + 6 + 6 + 6 支持楼主!

查看全部评分

最佳答案
0 
发表于 2017-8-21 18:00:00 | 显示全部楼层
楼主 '//wx3.sinaimg.cn/..............'

你是不是忘记了   http:  
最佳答案
334 
 楼主| 发表于 2017-8-21 18:13:15 | 显示全部楼层
ttlwjljj 发表于 2017-8-21 18:00
楼主 '//wx3.sinaimg.cn/..............'

你是不是忘记了   http:

所以我发帖啊
最佳答案
0 
发表于 2017-8-23 09:35:06 From FishC Mobile | 显示全部楼层
我记得我当时是直接在读取出的地址前加上了http:
最佳答案
3 
发表于 2017-12-15 11:23:05 | 显示全部楼层
本帖最后由 payton24 于 2017-12-15 11:24 编辑

也才两三个月,复制了楼主的代码试试,结果提示403: Forbidden的错误。
  1. ============== RESTART: C:/Users/LZY/Desktop/download_mm_new.py ==============
  2. Traceback (most recent call last):
  3.   File "C:/Users/LZY/Desktop/download_mm_new.py", line 63, in <module>
  4.     download_mm()
  5.   File "C:/Users/LZY/Desktop/download_mm_new.py", line 54, in download_mm
  6.     page_num = int(get_page(url))
  7.   File "C:/Users/LZY/Desktop/download_mm_new.py", line 13, in get_page
  8.     html = url_open(url).decode('utf-8')
  9.   File "C:/Users/LZY/Desktop/download_mm_new.py", line 7, in url_open
  10.     response = urllib.request.urlopen(url)
  11.   File "C:\Users\LZY\AppData\Local\Programs\Python\Python36\lib\urllib\request.py", line 223, in urlopen
  12.     return opener.open(url, data, timeout)
  13.   File "C:\Users\LZY\AppData\Local\Programs\Python\Python36\lib\urllib\request.py", line 532, in open
  14.     response = meth(req, response)
  15.   File "C:\Users\LZY\AppData\Local\Programs\Python\Python36\lib\urllib\request.py", line 642, in http_response
  16.     'http', request, response, code, msg, hdrs)
  17.   File "C:\Users\LZY\AppData\Local\Programs\Python\Python36\lib\urllib\request.py", line 570, in error
  18.     return self._call_chain(*args)
  19.   File "C:\Users\LZY\AppData\Local\Programs\Python\Python36\lib\urllib\request.py", line 504, in _call_chain
  20.     result = func(*args)
  21.   File "C:\Users\LZY\AppData\Local\Programs\Python\Python36\lib\urllib\request.py", line 650, in http_error_default
  22.     raise HTTPError(req.full_url, code, msg, hdrs, fp)
  23. urllib.error.HTTPError: HTTP Error 403: Forbidden
  24. >>>
复制代码


后来上网查询了一下,把第七句改成:
response = urllib.request.urlopen(req)


403错误消除了,但是重新运行虽然没有报错。
但是经过自己调试,发现代码运行到下面语句:
a = html.find('img src=')

a返回-1值,也就是说找不到图片网址了,这意味着网址已经被加密了。

还有类似网站可以拿来练手的吗?
最佳答案
0 
发表于 2018-5-4 23:00:31 | 显示全部楼层
*滑块验证:
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

小甲鱼强烈推荐上一条 /1 下一条

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号 )

GMT+8, 2018-7-19 19:57

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表