-
Notifications
You must be signed in to change notification settings - Fork 0
/
Copy pathextraire.py
42 lines (34 loc) · 1.11 KB
/
extraire.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
import sys
from bs4 import BeautifulSoup as bs
import re
fichiers = sys.argv[1:]
def processer(fichier):
with open(fichier, "r") as f:
contenu_brut = f.read()
soupe = bs(contenu_brut, features="html.parser")
# Effacer toutes les notes de bas de page :
for div in soupe.find_all("div", {"class":"footnotes"}):
div.decompose()
# Effacer tous les exposants :
for sup in soupe.find_all("sup"):
sup.decompose()
# Effacer tous les tableaux :
for table in soupe.find_all("table"):
table.decompose()
# Récupérer les balises contenant du texte matériellement important :
sortie = ""
textes = [b.text.strip() for b in soupe.find_all(["p", "dd"])]
for texte in textes:
texte = texte.replace("\u00ad", "") # effacer les "soft dashes"
if not texte: # texte vide
continue
if texte == "…":
continue
if texte[-1] in ".!":
sortie += f"{texte}\n"
else:
sortie += f"{texte} "
print(sortie)
if __name__ == "__main__":
for fichier in fichiers:
processer(fichier)