Benvenuto Ospite,
per utilizzare il Forum ed avere accesso a tutte le sezioni e poter aprire un tuo Topic, rispondere nelle varie discussioni, mandare o ricevere Messaggi Privati devi seguire pochi passaggi:


Leggi il nostro Regolamento -> PREMI QUI <-
Segui il link su come Iscriversi -> PREMI QUI <-


Ricordati di aggiornare l'Avatar usando una immagine che ti distingua nel Forum

GotScraper - Scraping spaziale!!

Problemi e soluzioni su configurazioni software, firmware
Avatar utente
Macho72
Newbie
Newbie
Messaggi: 95
Iscritto il: 28/07/2020, 16:16
Città: vr
Grazie Inviati: 18 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Macho72 »

Gothrek ha scritto: 20/12/2020, 21:00
a conti fatti ok lo state usando, ma di cosa sentite la mancanza? cosa non va bene? in cosa vi siete trattenuti dall'insultarmi? :D
per quanto mi riguarda, vorrei prima di tutto che funzionasse senza impallare, tempi brevi di scraping e che si potessero vedere i video nella anteprime dei giochi :D

niente insulti figurati, mi piace sperimentare, anche se non sono un informatico e seguo le indicazioni che trovo qui, ma penso che tutto possa servire allo sviluppo del programma, occhio però che non voglio complicare le cose, ma potrebbe essere anche un problema del mio PC che è un pò datato <-on_wink->
Avatar utente
Cacy82
Affezionato
Affezionato
Messaggi: 125
Iscritto il: 30/11/2020, 23:37
Città: Roma
Grazie Inviati: 15 volte
Grazie Ricevuti: 1 volta

Re: GotScraper - Scraping spaziale!!

Messaggio da Cacy82 »

Gothrek ha scritto: 20/12/2020, 21:00 @Cacy82
in che senso non ti riconosce il gamelist? il gamelist prodotto da gotscraper è uguale per tutti i sistemi, lo deve vedere.
Circa il mame, dipende dal tuo romset, a seconda del romset che vuoi mettere va in una cartella diversa.

Cerca sul foro avevo pubblicato diverse volte (x batocera) l'elenco dei romset e delle cartelle corrispondenti

a conti fatti ok lo state usando, ma di cosa sentite la mancanza? cosa non va bene? in cosa vi siete trattenuti dall'insultarmi? :D
Perfetto, immaginavo che nel caso specifico del MAME mi sarei dovuto muovere diversamente. Più tardi cerco la cartella giusta per il mio romset.

Al momento il programma lo sto usando parecchio, sinceramente io inserirei anche una modalità per creare manualmente l'immagine da inserire nella cartella media; nel senso che a volte il software scarica i file corretti inserendoli nel media center, ma poi, non riconoscendo la rom, non genera il file media. Sarebbe interessante poterlo creare manualmente e poi con un comando inserire le stringhe di codice nel gamelist.

Nel complesso forse il software è un pò troppo instabile, a volte mi genera errori, si blocca o va lentissimo, altre invece va una spada; Ma non è detto che dipenda dal mio pc e dalla mia connessione di rete molto scarsa.

Ha senso che durante lo scraping crei una copia della rom nel media center? A quel punto conviene eliminare la versione originale delle rom da cui è partito lo scraping?Più che altro perchè essendo tutto doppio alla lunga pesa sulla capienza dell'hd.

Insultarti? ma che scherzi, hai fatto un lavorone!!
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

@Cacy82 e @Macho72
grazie,
per il bloccarsi dal momento che a me non accade e capire dai vostri log, e mandarmi la rom incriminata e lasuccessiva cosi che possa provare in modalità debug e capire cosa ha bloccato il processo.

In generale lo scraping dovrebbe essere (con media standard - screenshot, title e box) di circa 2 sec a rom, il sitema ha la possibilità di far n tentativi (lo potete specificare nella sezine siti di scraping), di default per screenscraper è impostato a 5 tentativi con intervallo di 2 sec (anche questo potete deciderlo). questo porta a provare se il sito ha dei ritardi fino ad un max di 10 sec.

rispondo in ordine sparso:
il senso del server media è catalogare e archiviare rom e media, a prescindere da quale sarà il romset o l'insieme di rom che andrete a mettere sulla scheda o sul pc. Questo perchè potreste decidere di avere una scheda con una sola tipologia di giochi piuttosto che un sottoinsieme di tutte le rom che avete. Il fatto di avere una copia della rom è data dal fatto che nella versione finale voi ptrete dargli in pasto anche un file dat/txt con un elenco e lui nella destinazione della scheda copierà sia le rom che avete scelto che i suoi media. NOn so se sono stato chiaro nell'esposizione. Ma praticamente il server media avrà lo scibile e di volta in volta voi deciderete cosa portarvi nel cab, nel rasp ecc.

creazione immagine manualmente, strano quello che mi dici, l'applicazione se scarica i media, anche sia uno solo della combo prova a comporre l'immagine, il fatto che non ci riesca mi lascia perplesso. Rifacendo il processo, lui prova a fare la stessa cosa (ti invito a riprovare una volta che i media sono scaricati), se trova gli originali localmente crea immediatamente il mix (e la entry nel gamelist)

i video saranno pubblicati nella versione 8 sono più o meno a metà e conto rilasciarla entro fine anno
Avatar utente
Cacy82
Affezionato
Affezionato
Messaggi: 125
Iscritto il: 30/11/2020, 23:37
Città: Roma
Grazie Inviati: 15 volte
Grazie Ricevuti: 1 volta

Re: GotScraper - Scraping spaziale!!

Messaggio da Cacy82 »

Perfetto, grazie per le delucidazioni; appena finisco di scaricare tutti i dati riprovo.
Considera che attualmente il problema delle immagini non create me lo sta facendo con la romset no-intro del megadrive; ho tutti i singoli file nelle cartelle giuste, ma alla fine del processo non crea ne il file gamelist ne la cartella media con all'interno le immagini. Stasera riprovo.
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

k rilancialo lasciando il materiale nel server media, per megadrive ho praticamente il 100%
Avatar utente
Macho72
Newbie
Newbie
Messaggi: 95
Iscritto il: 28/07/2020, 16:16
Città: vr
Grazie Inviati: 18 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Macho72 »

Gothrek ha scritto: 20/12/2020, 21:00 @Macho72
azz 1g di log cancellali pure qualcosa non va bene
visto che vorrei riprovare anch'io, per sicurezza e per non fare confusione posso cancellare tutta la cartella log? o forse è meglio cancellare tutto e reinstallare?
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

no direi che se volete liberare spazio cancellate pure i log (non lacartella) anche se la stesa dovrebbe essere ricreata al riavviano se non trovata.
Avatar utente
Cacy82
Affezionato
Affezionato
Messaggi: 125
Iscritto il: 30/11/2020, 23:37
Città: Roma
Grazie Inviati: 15 volte
Grazie Ricevuti: 1 volta

Re: GotScraper - Scraping spaziale!!

Messaggio da Cacy82 »

Gothrek ha scritto: 21/12/2020, 11:48 k rilancialo lasciando il materiale nel server media, per megadrive ho praticamente il 100%
Nuovo aggiornamento: ho fatto girare nuovamente il programma e stavolta ha generato i file media con la gamelist. Purtroppo non tutte sono andate a buon fine, ma forse perchè stasera non si agganciava a Screenscraper. Domani riprovo a dargli una ripassata e vediamo se le completa.

Per il momento sono riuscito ad inserirle tutte su Batocera, ad eccezione dei media delle rom per il Mame. i giochi funzionano senza problemi, ma non ne vuole sapere di far vedere i media nel menu. Ho seguito varie guide in cui dicono di mettere le immagini nei posti più disparati, ma non ha funzionato in nessun modo :on_cry:
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

@Cacy82
per screenscraper non so se sei registrato.

Cmq in gotscraper in alto ci sono dei pallini accanto ai siti di scraping,
verde tutto ok
giallo (di solito screescraper quando chiude l'accesso agli utenti non registrati)
rosso sito in manutenzione (impossibile accedere allo scraping)

per screenscraper tieni presente che hai un linite di media a 20.000 giorno per i non abbonati (questo potrebbe essere uno dei motivi per cui se nei giorni scorsi gli hai dato in basta liste molto lunghe potebbe non averle completate). Nella versione 8 fa un controllo sul nmero di media da screenscraper e ti avvisa.

Per i media che non vengono visti non ho capito se riguarda il mame o tutti.
Il mame è identico agli altri e tutti le emulstation funzionano allo stesso modo- E' inutile guardare su intgernet dove mettere le imamgini, perchè il "dove" sono le immagini glielo dice il file gamelist.xml
Se lo apri con un notepad o altro troverai per ogni rom il percorso della sua immagine, se non è li (dove gotscraper la ha creata) non la vedi. Quindi l'importante è non variare la struttura di cartelle creata da gotscraper.
Avatar utente
Cacy82
Affezionato
Affezionato
Messaggi: 125
Iscritto il: 30/11/2020, 23:37
Città: Roma
Grazie Inviati: 15 volte
Grazie Ricevuti: 1 volta

Re: GotScraper - Scraping spaziale!!

Messaggio da Cacy82 »

Ciao Goth,

su screenscraper mi sono registrato e sul gotscraper ho inserito le credenziali; ha sempre funzionato, ieri sera stava sul semaforo rosso, già era successo in passato, ho dato per scontato che fossero in manutenzione.
Non penso di aver superato le 20.000 richieste al giorno, considera che in totale non arrivo neanche a 2.000 rom. :D :D

Non ho problemi con gli altri emulatori, solo il Mame non riconosce i media; ho fatto come con gli altri: file gamelist e cartella media dentro alla cartella MAME, ma su batocera non li fa vedere, ne le immagini ne i dati di info che escono sotto; le rom del MAME invece funzionano senza problemi.
Anche i media sono perfetti e il file gamelist sembra a posto, non ho apportato nessuna modifica.
Non so perchè fa questo problema, per sicurezza ho fatto girare anche un paio di volte gotscraper nel dubbio che fosse saltato qualche passaggio, ma non è servito.
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

@Cacy82
se il pallino di screenscraper era rosso, effettivametne loro avevano giu come minimo il servizio delle api con cui recuperare le info, vuol dire che funziona (gotscraper) :D

per il mame, vediamo.
mandami per mail il file gamelist che hai generato per favore (magari in zip) dovrebbero essere qualche k vediamo cosa ha messo dentro.
Avatar utente
Macho72
Newbie
Newbie
Messaggi: 95
Iscritto il: 28/07/2020, 16:16
Città: vr
Grazie Inviati: 18 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Macho72 »

@Gothrek e @Cacy82 mi sembra di aver capito che lo scraping lo fate su un PC e poi riportate tutto in Batocera.... giusto?

io invece lo scraping lo faccio tutto tramite la rete direttamente nelle cartelle dei sistemi di Batocera, potrebbe essere questo il problema a livello di tempi lunghi?
uso un acces point e collegamenti etherner (no wifi)
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

Macho72 ha scritto: 22/12/2020, 10:36 @Gothrek e @Cacy82 mi sembra di aver capito che lo scraping lo fate su un PC e poi riportate tutto in Batocera.... giusto?

io invece lo scraping lo faccio tutto tramite la rete direttamente nelle cartelle dei sistemi di Batocera, potrebbe essere questo il problema a livello di tempi lunghi?
uso un acces point e collegamenti etherner (no wifi)
Ciao si, sempre consigliato farlo su pc e poi copiare (magari poi ti copi solo il file gamlist e la cartella media)
Avatar utente
larasa
God of Arcade
God of Arcade
Messaggi: 2208
Iscritto il: 29/12/2016, 18:24
Città: ParmaReggio
Grazie Inviati: 32 volte
Grazie Ricevuti: 144 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da larasa »

Macho72 ha scritto: 22/12/2020, 10:36 lo scraping lo faccio tutto tramite la rete direttamente nelle cartelle dei sistemi di Batocera, potrebbe essere questo il problema a livello di tempi lunghi?
dipende quanti ne "scrappi". anch'io uso batocera per scrappare e sono iscritto a screenscraper, ma ne scrappo poche alla volta,100/200,perche non ce la faccio ad aspettare cosi tanto,al massimo 20/30minuti.
non saprei dare un tempo allo scrapping...questo piu quello,diviso due,moltiplicato l'altro...provo ad abbozzare 500 in un ora? parlo solo di screenshot+video.
...é partita ufficialmente la "lotteria scraping di natale"...sentiamo i numeri degli altri utenti....
Avatar utente
Cacy82
Affezionato
Affezionato
Messaggi: 125
Iscritto il: 30/11/2020, 23:37
Città: Roma
Grazie Inviati: 15 volte
Grazie Ricevuti: 1 volta

Re: GotScraper - Scraping spaziale!!

Messaggio da Cacy82 »

Faccio tutto da pc e poi copio solo gamelist e cartella media.
Purtroppo non ho modo di collegarmi in lan al rasp, ho tutto in wifi.

Inoltre non penso che i tempi lunghi di scraping siano dettati da dove sono localizzate le rom anzi, credo che farlo da pc sia più veloce piuttosto che fargli fare troppi passaggi sulla rete:

gotscraper su pc --> va a prendere le rom che stanno in rete --> poi si sposta sul web per ricercarle --> poi salva i dati in locale --> poi ritorna in rete per creare media + gamelist.

A parer mio i tempi si allungherebbero di parecchio.

Il mio problema per i tempi lunghi probabilmente è dovuto alla rete internet che utilizzo, sono connesso in 4g con il cubo della tre <-whistling-> <-whistling->
Avatar utente
larasa
God of Arcade
God of Arcade
Messaggi: 2208
Iscritto il: 29/12/2016, 18:24
Città: ParmaReggio
Grazie Inviati: 32 volte
Grazie Ricevuti: 144 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da larasa »

Cacy82 ha scritto: 22/12/2020, 11:19 ono connesso in 4g con il cubo della tre
eh,seee, ciaone!
Avatar utente
Cacy82
Affezionato
Affezionato
Messaggi: 125
Iscritto il: 30/11/2020, 23:37
Città: Roma
Grazie Inviati: 15 volte
Grazie Ricevuti: 1 volta

Re: GotScraper - Scraping spaziale!!

Messaggio da Cacy82 »

Spè, ora viene il meglio...nel frattempo che scrappa stiamo pure su netflix :D

Il grosso del lavoro glielo faccio fare di notte e la mattina controllo 8-)
Avatar utente
Gothrek

Helper
Moderatore
Moderatore
Messaggi: 5663
Iscritto il: 13/07/2017, 13:30
Medaglie: 1
Città: Roma
Grazie Inviati: 20 volte
Grazie Ricevuti: 324 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Gothrek »

larasa ha scritto: 22/12/2020, 11:07
Macho72 ha scritto: 22/12/2020, 10:36 lo scraping lo faccio tutto tramite la rete direttamente nelle cartelle dei sistemi di Batocera, potrebbe essere questo il problema a livello di tempi lunghi?
dipende quanti ne "scrappi". anch'io uso batocera per scrappare e sono iscritto a screenscraper, ma ne scrappo poche alla volta,100/200,perche non ce la faccio ad aspettare cosi tanto,al massimo 20/30minuti.
non saprei dare un tempo allo scrapping...questo piu quello,diviso due,moltiplicato l'altro...provo ad abbozzare 500 in un ora? parlo solo di screenshot+video.
...é partita ufficialmente la "lotteria scraping di natale"...sentiamo i numeri degli altri utenti....
ti posso dare i numeri di gotscraper quelli li conosco bene, il collo di bottiglia cmq non è tanto la rete di casa, ma il sito.
Entro un pò nel tecnico, ma spero vi facciano piacere i dietro le quinte.
Screenscraper e lo scraping su screenscraper direttamente da batocera in generale sono lenti (volutamente lenti), introducono dei tempi che essendo prodotti ufficiali preferiscono avere (meno stress sul sito ecc)
GotScraper (e me ne vanto :D) se ne frega del loro sito per sfruttare al massimo quanto loro mettono a disposizione. il tempo di gotscraper, è poco sotto i 2 sec per rom (combo di 3 media, screenshot+title+box3d). Sotto questo oggi il sito stesso non da.
Il buon @dR.pRoDiGy che non ha mai una minkia da fare (i luv u) un giorno si è divertito a fare scraping contemporaneamente delle stesse rom (migliaia), sia con il prodotto ufficiale di screenscraper (skraper) che col mio. In gergo direi OWNED!! :D (dal rasp lo è ancora di più)

ora a parte le battute, con un tempo di 2 secondi a rom, se parliamo di rom di sistemi abbastanza vecchi che occupano praticamente nulla, ci sta dentro tutto anche da rete il problema resta la connessione verso il sito sicuramente di gran lunga piu' lento rispetto al wifi piuttosto che alle rom in locale.

il processo della creazione del mix invece è diverso skraper crea il mix mano mano che ha a disposizione il materiale per crearlo, io invece preferisco farlo alla fine per concentrare tutto sul download iniziale.

dopo di chè..."che per caso è uscito il 23? perchè se è uscito ho fatto ambo"
Avatar utente
Macho72
Newbie
Newbie
Messaggi: 95
Iscritto il: 28/07/2020, 16:16
Città: vr
Grazie Inviati: 18 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da Macho72 »

larasa ha scritto: 22/12/2020, 11:07
Macho72 ha scritto: 22/12/2020, 10:36 lo scraping lo faccio tutto tramite la rete direttamente nelle cartelle dei sistemi di Batocera, potrebbe essere questo il problema a livello di tempi lunghi?
dipende quanti ne "scrappi". anch'io uso batocera per scrappare e sono iscritto a screenscraper, ma ne scrappo poche alla volta,100/200,perche non ce la faccio ad aspettare cosi tanto,al massimo 20/30minuti.
non saprei dare un tempo allo scrapping...questo piu quello,diviso due,moltiplicato l'altro...provo ad abbozzare 500 in un ora? parlo solo di screenshot+video.
...é partita ufficialmente la "lotteria scraping di natale"...sentiamo i numeri degli altri utenti....
<-think-> forse mi sono spiegato male, uso Gotscraper su notebook, ma come path gli do il percorso tramite rete rom>sistema in Batocera, che è su PC fisso, in modo che mi metta già tutto la dentro (ho sempre fatto così anche con win10 senza problemi, adesso uso win7 su un vecchio notebook)
in generale non ho mai esagerato con lo scraping, anzi solitamente provo un sistema alla volta con circa 10/20 roms e diciamo che anche se fossero lunghi i tempi come @Cacy82 lo faccio andare di notte <-sleep-> , ma se si impalla è un casino <-dash->

N.B.: anch' io sono iscritto a screenscrapper
Avatar utente
dR.pRoDiGy

Donatore
Moderatore F.E.E.L.
Moderatore F.E.E.L.
Messaggi: 3070
Iscritto il: 17/11/2009, 15:55
Medaglie: 1
Città: Prov_Milano_zona_Sempione
Grazie Inviati: 11 volte
Grazie Ricevuti: 17 volte

Re: GotScraper - Scraping spaziale!!

Messaggio da dR.pRoDiGy »


Gothrek ha scritto:
Il buon [mention]dR.pRoDiGy[/mention] che non ha mai una minkia da fare (i luv u) un giorno si è divertito a fare scraping contemporaneamente delle stesse rom (migliaia), sia con il prodotto ufficiale di screenscraper (skraper) che col mio. In gergo direi OWNED!! :D (dal rasp lo è ancora di più)
Io che organizzo stress test comparativi, e tu che mi ripaghi così..
CAINO E VASTASU! Immagine

Inviato dal mio Mi A2 Lite utilizzando Tapatalk

"Non si smette di giocare perché si diventa vecchi, ma si diventa vecchi perché si smette di giocare"

Immagine F.E.E.L. - FrontEnd (Emulator Launcher)
http://feelfrontend.altervista.org
https://github.com/dr-prodigy/feel-frontend/
Rispondi

Torna a “Miscellanea software”