Python使用urllib库抓取网页的完整指南

晚来风

发布时间：2026-10-13 | 2人浏览过

原创

本文详细介绍Python中利用urllib库进行网页抓取的核心方法。涵盖通过urlopen直接保存页面、构建Request对象实现POST与GET请求，以及利用geturl和info处理重定向与元数据。重点解析中文内容的encode与decode编码解码技巧，帮助开发者快速掌握基础爬虫技能。

Python访问抓取网页常用命令总结

实现简单的网页抓取操作：

import urllib.request  
url="http://google.cn/" 
response=urllib.request.urlopen(url)  #返回文件对象
page=response.read()

将目标URL直接保存为本地文件的方法：

import urllib.request  
url="http://google.cn/" 
response=urllib.request.urlopen(url)  #返回文件对象
page=response.read()

使用POST方式提交数据：

import urllib.parse 
import urllib.request 
 
url="http://liuxin-blog.appspot.com/messageboard/add" 
 
values={"content":"命令行发出网页请求测试"} 
data=urllib.parse.urlencode(values) 

#创建请求对象 
req=urllib.request.Request(url,data) 
#获得服务器返回的数据 
response=urllib.request.urlopen(req) 
#处理数据 
page=response.read()

使用GET方式获取数据：

import urllib.parse 
import urllib.request 
 
url="http://www.google.cn/webhp" 
 
values={"rls":"ig"} 
data=urllib.parse.urlencode(values) 
 
theurl=url+"?"+data 
#创建请求对象 
req=urllib.request.Request(theurl) 
#获得服务器返回的数据 
response=urllib.request.urlopen(req) 
#处理数据 
page=response.read()

有两个常用的辅助方法：geturl()和info()。

geturl()主要用于检测是否存在服务器端的网址重定向，而info()则用于获取包含的一系列响应信息。

处理中文内容时，需使用encode()进行编码，并使用decode()进行解码：

感谢阅读，希望本文能对大家有所帮助，感谢各位对本站的支持！