Python Socket解析HTTP请求内容的实现方法
本文介绍使用Python Socket手动解析HTTP请求的核心思路。重点讲解如何通过\r\n识别请求头结束,以及根据Content-Length或Transfer-Encoding: chunked两种不同方式准确读取HTTP Body内容。
Python Socket解析HTTP请求内容
思路
1. 解析HTTP请求的头部
HTTP请求头部的结束标志为"\r\n"。可以通过逐行读取的方式获取HTTP请求头的内容,当读取到一行内容为"\r\n"时,即表示HTTP请求头部分已结束。
2. 请求头里面含有Content-Length参数
如果HTTP请求中包含Content-Length参数,则表明请求体的大小是确定的。此时可以直接读取Content-Length的值,并根据该值读取相应字节数的内容即可。
3. 请求头里面含有Transfer-Encoding: chunked 参数
如果HTTP请求中包含Transfer-Encoding参数,则表明请求体的大小是不确定的。此类内容的结束标志为"0\r\n\r\n",因此可以逐行读取HTTP请求的内容部分,当连续读到"0\r\n"和"\r\n"时,说明内容读取完毕。
代码实现
代码中: self._file 代表的是socket.makefile()
def get_http_content(self):
content_length = 0
transfer_encoding = False
while True:
req_line = self._file.readline()
req_line = str(req_line, "utf-8")
# 遇到http头结束符
# 读取http内容
if req_line == "\r\n":
if content_length != 0:
content = self._file.read(content_length)
content = str(content, "utf-8")
self._content = content
return None
if transfer_encoding:
content = ""
self._file.readline()
while True:
line = self._file.readline()
line = str(line, "utf-8")
if line == "0\r\n":
sub_line = self._file.readline()
sub_line = str(sub_line, "utf-8")
if sub_line == "\r\n":
self._content = content
return None
else:
content += line
continue
self._content = False
# 头文件没有结束
# 并且没有找到关于内容大小的字段
else:
if content_length == 0 and transfer_encoding is False:
words = req_line.split()
if words[0] == "Content-Length:":
content_length = int(words[1])
if words[0] == "Transfer-Encoding:":
transfer_encoding = True
self._content = Falsesocket 模拟http请求
# coding: utf-8
import socket
from urllib.parse import urlparse
def get_url(url):
url = urlparse(url)
host = url.netloc
path = url.path
if path == "":
path = "/"
# 建立 socket 连接
client = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
client.connect((host, 80))
client.send("GET {} HTTP/1.1\r\nHost:{}\r\nConnection:close\r\n\r\n".format(path, host).encode("utf-8"))
data = b""
while True:
d = client.recv(1024)
if d:
data += d
else:
break
data = data.decode("utf-8")
html_data = data.split("\r\n\r\n")[1]
print(html_data)
client.close()
pass
if __name__ == '__main__':
get_url("http://www.baidu.com")以上为个人经验,希望能给大家一个参考,也希望大家多多支持本站。
本站声明
本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。













