Kom ihåg mig?
Home Menu

Menu


Bash-script crawla xml-sitekarta - generera cache'ade filer

Ämnesverktyg Visningsalternativ
Oläst 2015-01-09, 14:18 #1
Lidback85s avatar
Lidback85 Lidback85 är inte uppkopplad
Medlem
 
Reg.datum: May 2012
Inlägg: 183
Lidback85 Lidback85 är inte uppkopplad
Medlem
Lidback85s avatar
 
Reg.datum: May 2012
Inlägg: 183
Standard Bash-script crawla xml-sitekarta - generera cache'ade filer

Hej,
Har en sajt som grundar sig på WordPress som behöver generera cache-filer helt enkelt. Jag använder ett cache-plugin och brukade använda det tillsammans med pluginet WarmCache, som crawlar via min xml-sitekarta. Problemet med det är att om det är många sidor som skall crawlas, så ger WarmCache-pluginet timeout, då den kommer upp i phptimeout-limit. Samt att det inte uppdaterats på väldigt länge.

För att göra det lite smidigare så har jag hört att det går att göra med bash-script, precis på samma sätt som WarmCache-pluginet gör.

Är det någon som har en färdig kodsnutt för detta?
Eller kan peka mig i rätt riktning så jag kan få till det?

Ber om ursäkt i förväg för lite kladdig text. Inte fått i mig min kopp kaffe ännu.

För att summera ihop allt:
Bash script > Crawlar XML-kartan > Cachepluginet skapar cache-filer när någon crawlar/besöker sida på sajten.
Lidback85 är inte uppkopplad   Svara med citatSvara med citat
Oläst 2015-01-09, 15:05 #2
nim nim är inte uppkopplad
Medlem
 
Reg.datum: Oct 2014
Inlägg: 248
nim nim är inte uppkopplad
Medlem
 
Reg.datum: Oct 2014
Inlägg: 248
Vad som är värt att tänka på, är att inte starta bash scriptet från PHP. Utan kör det som ett cron-job eller dylikt.

http://symcbean.blogspot.se/2010/02/...processes.html
nim är inte uppkopplad   Svara med citatSvara med citat
Oläst 2015-01-09, 15:06 #3
Lidback85s avatar
Lidback85 Lidback85 är inte uppkopplad
Medlem
 
Reg.datum: May 2012
Inlägg: 183
Lidback85 Lidback85 är inte uppkopplad
Medlem
Lidback85s avatar
 
Reg.datum: May 2012
Inlägg: 183
Löst problemet.
Detta funkade fint för mig.


Citat:
#!/bin/bash
SMA="url-till-xml-kartan"
SLEEP=0.6
for i in `curl $SMA | grep "<loc>" | cut -d ">" -f 2 | cut -d "<" -f 1`;
do
wget $i -nv -O tmp/precache.tmp >> log/precache.log;
echo "$i" >> log/precache.log
sleep $SLEEP;
done
rm tmp/precache.tmp
Lidback85 är inte uppkopplad   Svara med citatSvara med citat
Oläst 2015-01-09, 15:17 #4
Lidback85s avatar
Lidback85 Lidback85 är inte uppkopplad
Medlem
 
Reg.datum: May 2012
Inlägg: 183
Lidback85 Lidback85 är inte uppkopplad
Medlem
Lidback85s avatar
 
Reg.datum: May 2012
Inlägg: 183
Citat:
Ursprungligen postat av nim Visa inlägg
Vad som är värt att tänka på, är att inte starta bash scriptet från PHP. Utan kör det som ett cron-job eller dylikt.

http://symcbean.blogspot.se/2010/02/...processes.html
Tack för infon!
Kör bash-scriptet via crontab.

Mvh,
Andreas
Lidback85 är inte uppkopplad   Svara med citatSvara med citat
Oläst 2015-01-09, 18:59 #5
nim nim är inte uppkopplad
Medlem
 
Reg.datum: Oct 2014
Inlägg: 248
nim nim är inte uppkopplad
Medlem
 
Reg.datum: Oct 2014
Inlägg: 248
Varför laddar du ner innehållet?

Använd tex, --spider för att enbart "besöka" sidan.
nim är inte uppkopplad   Svara med citatSvara med citat
Oläst 2015-01-09, 19:07 #6
Lidback85s avatar
Lidback85 Lidback85 är inte uppkopplad
Medlem
 
Reg.datum: May 2012
Inlägg: 183
Lidback85 Lidback85 är inte uppkopplad
Medlem
Lidback85s avatar
 
Reg.datum: May 2012
Inlägg: 183
Citat:
Ursprungligen postat av nim Visa inlägg
Varför laddar du ner innehållet?

Använd tex, --spider för att enbart "besöka" sidan.
Körde med --spider först. Då verkar inte cache-plugin'et skapa cachade filer, tyvärr.
Lidback85 är inte uppkopplad   Svara med citatSvara med citat
Svara


Aktiva användare som för närvarande tittar på det här ämnet: 1 (0 medlemmar och 1 gäster)
 

Regler för att posta
Du får inte posta nya ämnen
Du får inte posta svar
Du får inte posta bifogade filer
Du får inte redigera dina inlägg

BB-kod är
Smilies är
[IMG]-kod är
HTML-kod är av

Forumhopp


Alla tider är GMT +2. Klockan är nu 00:08.

Programvara från: vBulletin® Version 3.8.2
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Svensk översättning av: Anders Pettersson
 
Copyright © 2017