Web-Crawler der in MySQL-DB schreibt...?

Antworten
Benutzeravatar
Tueftler
Beiträge: 16137
Registriert: 27.10.2005 18:05:11
Wohnort: Odenbach (Pfalz)
Kontaktdaten:

#1 Web-Crawler der in MySQL-DB schreibt...?

Beitrag von Tueftler »

Für ein Text-Mining-Projekt suche ich einen Web-Crawler mit dessen Hilfe ich z.B. bei monster.de oder anderen Stellenangebot-Seiten die Stellenanzeigen runterziehen kann. WebSpider und Webreaper hab ich schon erfolglos getestet.
Am Liebsten wäre mir auch wenn sämtliche Daten in einer MySQL-Datenbank gespeichert werden würden. Das würde mir die Weiterverarbeitung deutlich erleichtern.
Habt ihr Tipps/Empfehlungen für solch ein Tool?
Danke für eure Hilfe!
Gruß
Daniel
__________________________________________________________
Helis: WLtoys V911, T-Rex 450 FBL, Logo10, Eco Piccolo, Blade Nano CP X, Futaba T9CP mit FASST/Spektrum
Benutzeravatar
tracer
Operator
Operator
Beiträge: 63787
Registriert: 18.08.2004 18:50:03
Wohnort: Kollmar
Kontaktdaten:

#2 Re: Web-Crawler der in MySQL-DB schreibt...?

Beitrag von tracer »

Such mal nach einem XML Parser für die Sprache Deiner Wahl.
Benutzeravatar
Tueftler
Beiträge: 16137
Registriert: 27.10.2005 18:05:11
Wohnort: Odenbach (Pfalz)
Kontaktdaten:

#3 Re: Web-Crawler der in MySQL-DB schreibt...?

Beitrag von Tueftler »

Das bringt mich nicht so wirklich weiter :oops:
Hab schon einiges probiert, aber funzt nich so wie ich will.
Gruß
Daniel
__________________________________________________________
Helis: WLtoys V911, T-Rex 450 FBL, Logo10, Eco Piccolo, Blade Nano CP X, Futaba T9CP mit FASST/Spektrum
[Daniel]
Beiträge: 159
Registriert: 01.11.2011 01:49:14
Wohnort: Saarland

#4 Re: Web-Crawler der in MySQL-DB schreibt...?

Beitrag von [Daniel] »

tracer hat geschrieben:Such mal nach einem XML Parser für die Sprache Deiner Wahl.
Was soll denn da ein XML Parser bringen? Mit 100%ig sauber geschriebenem XHTML mag das ja klappen, aber alles andere wird da höchst wahrscheinlich mehr Exceptions werfen als sinnvolle Ergebnisse...

Ich würd dir empfehlen nach Prüfen der Rechtslage den einfach selbst zu bauen. Mit ner DOMQuery-Implementierung wird das zum Kinderspiel.
Haus / Wohnung auf LED-Leuchtmittel aufrüsten? PN für Beratung und Verkauf :thumbleft:

Flugort: Zwischen Beaumarais und Felsberg
Benutzeravatar
tracer
Operator
Operator
Beiträge: 63787
Registriert: 18.08.2004 18:50:03
Wohnort: Kollmar
Kontaktdaten:

#5 Re: Web-Crawler der in MySQL-DB schreibt...?

Beitrag von tracer »

[Daniel] hat geschrieben: Mit ner DOMQuery-Implementierung wird das zum Kinderspiel.
Sag ich doch :)

Nur, warum selber basteln?
[Daniel]
Beiträge: 159
Registriert: 01.11.2011 01:49:14
Wohnort: Saarland

#6 Re: Web-Crawler der in MySQL-DB schreibt...?

Beitrag von [Daniel] »

tracer hat geschrieben:
[Daniel] hat geschrieben: Mit ner DOMQuery-Implementierung wird das zum Kinderspiel.
Sag ich doch :)

Nur, warum selber basteln?
Weils im Zweifel schneller geht, als sich da totzusuchen. Also, den Crawler, nicht das DOMQuery.
Haus / Wohnung auf LED-Leuchtmittel aufrüsten? PN für Beratung und Verkauf :thumbleft:

Flugort: Zwischen Beaumarais und Felsberg
Benutzeravatar
Tueftler
Beiträge: 16137
Registriert: 27.10.2005 18:05:11
Wohnort: Odenbach (Pfalz)
Kontaktdaten:

#7 Re: Web-Crawler der in MySQL-DB schreibt...?

Beitrag von Tueftler »

Danke für eure Hilfe.
Das Projekt ist heute mangels Daten-Qualität gestorben...
Somit hab ich den Teil schon mal hinter mir 8)
Jetzt wird ein neues Projekt gesucht :mrgreen: Aber da findet sich schon was ;)
Gruß
Daniel
__________________________________________________________
Helis: WLtoys V911, T-Rex 450 FBL, Logo10, Eco Piccolo, Blade Nano CP X, Futaba T9CP mit FASST/Spektrum
Antworten

Zurück zu „PC & Multimedia“