Kezdőoldal » Számítástechnika » Programozás » Szerintetek lehetséges folyama...

ErdeiAttila kérdése:

Szerintetek lehetséges folyamatos webscrape?

Figyelt kérdés

Sziasztok!

Szeretnék egy webáruházat létrehozni, viszont a disztibútor nem hajlandó nekem kiadni a termék feedet, ezért máshogy kell megoldani a termékeknek a letöltését.

Alapesetben egy webscrapert használok. Most a kérdésem, hogy szerintetek meg lehet azt oldani, hogy egy scraper kb óránként megnézze a dsiztribútor oldalát, hogy van e változás. Raktáron van e a termék, lett e más leírás stb.

Illetve ezt a fájlt, amit ő legenerál óránként, azt az én webáruházamba feltölteni és ki is cserélné adott esetben a terméket. Mondok példát.

Éppen dolgozom. 13:00-ra van állítva a scraper, hogy nézze meg a disztribútor oldalát van e valami változás.

X termélnél van változás, mert elfogyott a raktárkészlet. Ezért ő letölt egy xls vagy akármilyen fájlt és fel is tölti a webáruházamba, hogy ne legyen elérhető, mert a dsiztribútornál sem az.

Lehetséges ez vagy más megoldást kellene találni?



2023. márc. 13. 13:23
 1/3 anonim ***** válasza:
100%

Persze hogy lehetséges, csak kellemetlenségekkel jár.


Ha változik a weboldala a disztibútorodnak, akkor frissítenes kell a scrapert rá. Ez annyira nem fejfájós, mert általában csak más elementeket kellene kiválasztanod, viszont ha nincs időd javítani rajta vagy nem veszed ezt észre (célszerű emailedre küldeni bizonyos error esetén automatikus értesítédt), akkor a weboldaladon napokig rossz infó szerepelhet.


Akkor leprogramozni nem lesz annyira triviális, mert egy eléggé megbízható kódot kellene írnod, hiszen sokat automatizálna és óránként cselekedne. Nyílván nem nehéz megoldani, de gondolom nem egy medior fejlesztő vagy.


Egyébként annyit tennék csak hozzá, hogy én adatbázisba mentenék, sőt szerintem ezzel bármilyen fejlesztő egyetértene. Az adatbázist pedig n időközönként chekolhatná a backend és ha kellene, akkor cselekedne. Lehet adatbázisba mentenéd azt az xls file-t, de akkor meg felesleges nem egyből a db-be menteni és köztes file-t generálni.

2023. márc. 13. 13:38
Hasznos számodra ez a válasz?
 2/3 anonim ***** válasza:
48%
Esetleg - hogy ne okozzon a disztribútornak problémát az óránkénti teljes termékpaletta lekérdezése - megoldást jelenthetne az is, hogy a webáruházban az adott termék elérhetőségének lekérdezését maga a felhasználó kezdeményezze, tehát a termék adatai mellett legyen egy link, amire kattintva induljon el egy AJAX (XMLHTTPequest vagy Fetch) kérés, ami lekéri a disztribútor oldaláról az adott termék elérhetőségét (ha a disztribútor oldala nem teszi lehetővé a CORS-kéréseket, kelleni fog nálad a szerveroldalon egy "proxy-szkriptnek", amin keresztül lekéred - esetleg ezt ötvözheted a webshop szerveroldalán egy "adatbázis-gyorsítótárral", hogy ne kelljen annyiszor bizergálni a disztribútor szerverét).
2023. márc. 13. 13:47
Hasznos számodra ez a válasz?
 3/3 anonim ***** válasza:
0%
Nem értek az ilyenekhez én egy gyógyos bootcampot végzett munkanélküli vagyok fél éve nekem és a társaimnak már az meghaladja a képességünket hogy HTTP requestet írjak
2023. márc. 13. 15:20
Hasznos számodra ez a válasz?

További kérdések:




Minden jog fenntartva © 2024, www.gyakorikerdesek.hu
GYIK | Szabályzat | Jogi nyilatkozat | Adatvédelem | Cookie beállítások | WebMinute Kft. | Facebook | Kapcsolat: info(kukac)gyakorikerdesek.hu

A weboldalon megjelenő anyagok nem minősülnek szerkesztői tartalomnak, előzetes ellenőrzésen nem esnek át, az üzemeltető véleményét nem tükrözik.
Ha kifogással szeretne élni valamely tartalommal kapcsolatban, kérjük jelezze e-mailes elérhetőségünkön!