Pagina 1 di 2

Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 06/01/2017, 14:12
da Emu
Ciao
A grande richiesta ho provato ad aggiornare gli XML per HyperSpin e per WHDLoad. Li allego a questo post, ho fatto ancora pochi test ma pare tutto a posto, se potete datemi un feedback.
Come ho scritto in un precedente post, l'ultimo aggiornamento è stato un bagno di sangue, per questo motivo ho cambiato approccio e partorito uno script PowerShell (in allegato) che prende in ingresso la directory con gli zip e gli attuali XML e crea in output due nuovi files contenenti tutti i giochi presenti nella directory, prendendo i metadati dai vecchi XML o se non li trova da Lemon Amiga. I dati nuovi hanno un suffisso -NEW!!! e quelli presi da Lemon Amiga un suffisso -Lemon!!!, in modo da poterli verificare e correggere manualmente negli XML creati.
Lo script può essere usato anche per creare XML con liste custom basati sul contenuto di una directory.

Gli XML in allegato li ho creati con lo script e corretto gli errori manualmente, dovrebbero quindi essere a posto :-D

Edit: aggiornato script a v1.1 ed XML relativi. Avevo dimenticato anche un paio di XML a corredo dello script che ora sono presenti.
Ora gli XML finali sono ordinati in ordine alfabetico in base al nome visualizzato

Edit 07/01/2017: Ho aggiunto uno script per rinominare i files multimediali di HyperSpin (Video, Wheel e Theme) con il nome corretto in base all'XML

EDIT 23/01/2017: Ho aggiunto le versioni finali degli XML con i generi di HyperSpin e gl anni compilati per tutti i giochi possibili, oltre che l'ID di LemonAmiga e HOL

EDIT 29/01/2017: Ho integrato ulteriori metadati dall'XML del forum di HyperSpin. Ecco la situazione finale:

Total Games: 3303

Parent: 2484
Clones: 819

Complete: 3199 (Manufacturer AND Year AND Genre AND Rating)
Incomplete: 104 (Manufacturer OR Year OR Genre OR Rating)

ID Lemon Amiga present: 2854
ID Lemon Amiga blank: 449

ID HOL present: 3268
ID HOL blank: 35

ID Lemon Amiga AND HOL present: 2838
ID Lemon Amiga OR HOL present: 3284
ID Lemon Amiga OR HOL blank: 465
ID Lemon Amiga AND HOL blank: 19

Ho anche aggiornato lo script per l'aggiornamento dei metadati.

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 06/01/2017, 14:52
da DigDug
Grazie Emu.
Credo che nello zip non ci sia il whdload.xml, ma solo quello per hyperspin.
Ovviamente il whdload.xml va utilizzato con winuaeloader e l'ultimo pacchetto di whdload presente anche su pleasuredome... (quello da 3.303 file)

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 06/01/2017, 15:02
da Emu
DigDug ha scritto:Grazie Emu.
Credo che nello zip non ci sia il whdload.xml, ma solo quello per hyperspin.
Ovviamente il whdload.xml va utilizzato con winuaeloader e l'ultimo pacchetto di whdload presente anche su pleasuredome... (quello da 3.303 file)
Sorry, ho aggiornato lo zip, ora ci sono entrambi.
Confermo, sono 3.303 files.

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 07/01/2017, 17:30
da Emu
Ciao
Ho aggiornato lo script Update-WHDLoad-1.1.ps1 con alcuni bugfix ed aggiunto lo script Verify and Rename HyperSpin Amiga Media 1.0.ps1 che rinomina i files dei Video/Wheel e Theme in base al nome nell'XML. Così com'è non fa alcun rename, va abilitato mettendo a $true la variabile $ReallyRename.
Ho anche notato che nel set di PD il gioco TimeLock è doppio: c'è TimeLock_v1.0.zip e TimeLock_v1.1.zip

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 07/01/2017, 18:56
da pucci
Emu ha scritto:Ciao
Ho aggiornato lo script Update-WHDLoad-1.1.ps1 con alcuni bugfix ed aggiunto lo script Verify and Rename HyperSpin Amiga Media 1.0.ps1 che rinomina i files dei Video/Wheel e Theme in base al nome nell'XML. Così com'è non fa alcun rename, va abilitato mettendo a $true la variabile $ReallyRename.
Ho anche notato che nel set di PD il gioco TimeLock è doppio: c'è TimeLock_v1.0.zip e TimeLock_v1.1.zip
nel set di PD ci sono molti errori e doppioni

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 08/01/2017, 12:03
da DigDug
cioè? a cosa ti riferisci in particolare?

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 08/01/2017, 12:24
da Emu
Ciao
Ecco alcuni degli errori presi dal thread su PD:

'BurningRubber_v1.3_2MB_2181' and
'BurningRubber_v1.3_AGA_2181' are the same, they both require AGA, so one can be deleted. (I think it had a rename and the old one wasn't deleted).
 
'ConflictEurope_v1.1' and
'DGeneration_v2.1' and
'DogsOfWar_v1.3' not needed ? Or was the cracked version used because the SPS number is not included ? Either way there is a WHDLoad of the SPS version of these.
 
'LeisureSuitLarry_v1.3-B_0690' can be deleted, it's actually an older version of Leisure Suit Larry 3.

DGeneration_v2.1 have SPS installed version
DGeneration_v2.1_AGA because have a SPS installed version DGeneration_v2.1_AGA_0457
 
multiple SPS edition like: Silkworm_v1.3_0388 & Silkworm_v1.3_2413

EyeOfHorus_v1.1 Wrong version, there is no v1.1. Retroplay's MEGA folder has the correct 'EyeOfHorus_v1.0_1746'.
LeisureSuitLarry_v1.3-B_0690 it's old version of Leisure Suit Larry 3
LureOfTheTemptress_v1.4_2031 This SPS version has a game breaking bug, 'LureOfTheTemptress_v1.4' (by Retroplay) is bugfixed version.
Overdrive_v2.0_1149 dupe, have Overdrive_v2.0_Team17_1149
TimeLock_v1.0 obsolete, have v1.1
Zool_v1.1_2426
Zool_v1.3 Retroplay added missing v1.4
 
BurningRubber_v1.3_2MB_2181 and
BurningRubber_v1.3_AGA_2181 are the same, they both require AGA, so one can be deleted (The floppy version doesn't require AGA so incorrectly made Slave ?)
 
Are these considered duplicates when it already contains a clean SPS version ? :-
 
ConflictEurope_v1.1 have SPS installed version
DGeneration_v2.1 have SPS installed version
DogsOfWar_v1.3 have SPS installed version
LordsOfChaos_v1.2 have SPS installed version
Myth_v1.0 have SPS installed version
NeverEndingStory2_v1.4 have SPS installed version
ShadowSorcerer_v1.0 have SPS installed version
Silkworm_v1.3 have SPS installed version
StirCrazyFeaturingBobo_v1.0 have SPS installed version
TigerRoad_v1.3 have SPS installed version
Toobin_v1.2 have SPS installed version
Traders_v1.20 have SPS installed version
Traders_v1.20_De have SPS installed version
Tusker_v1.2 have SPS installed version
 
Are these cracked versions needed when a non-cracked version is already present (The Slave makers remove protection etc so better to have a version that wasn't already cracked) ? :-
 
MagicLines_v1.0_Cracked
PeterBeardsleysInternationalFootball_v1.2_Cracked
RoadBlasters_v1.1_Cracked have SPS installed version
Slackskin&Flint_v1.0_Cracked
SuperGridRunner_v1.0_Cracked
Whirligig_v1.0_Cracked
 
So all the files in Red can be deleted as they are obsolete/inferior. Also, the Arcadia games in 'Games-WHDLoad' can be deleted as they are already present in 'Games-WHDLoad-Arcadia'.

EyeOfHorus_v1.1 Wrong version, there is no v1.1. Retroplay's MEGA folder has the correct 'EyeOfHorus_v1.0_1746'.

Io avevo menzionato solo il doppione TimeLock_v1.0.zip e TimeLock_v1.1.zip perché questi, a differenza dei doppioni precedenti dove il nome file dei doppioni era "più diverso", cioè non solo il numero di versione. Con questi due files il mio script continuava a rinominarmi il medesimo files una volta con un nome e poi con l'altro.

Speriamo rilascino un nuovo pack ripulito ed aggiornato

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 08/01/2017, 13:20
da DigDug
ah però... strano di solito sono scrupolosi su pd...

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 09/01/2017, 19:20
da pucci
Oltre a quelli segnalati ce ne sono altri (li ho in un file)

Inviato dal mio A0001 utilizzando Tapatalk

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 09/01/2017, 22:28
da Emu
posta, posta, vediamo se riusciamo ad avere un set pulito.
Ho anche creato un XML dove ho impostato tutti i cloni, ora per ogni gioco (La parte a sx del nome file fino all'underscore) c'è un solo master. Lo allego a questo post. Se qualcuno lo prova a verificare lo si potrebbe quasi considerare la versione finale.

Questi sono i master/slave dell'XML. Per non fare un post chilometrico provo se l'opzione spoiler, vediamo se resta leggibile. Guardando i cloni può aiutare a verificare i doppioni. Quelli in verde sono i Master, se ha dei cloni sono riportati sotto di esso in rosso.
► Mostra testo
Il post è troppo lungo, devo limitare l'elenco, se ritenete utile avere anche il resto lo posto dopo.

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 10/01/2017, 20:09
da pucci
Provo a buttarci un occhio nel week end

Inviato dal mio A0001 utilizzando Tapatalk

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 11/01/2017, 0:34
da Emu
Per il WE dovrei riuscire a darti una versione migliore

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 12/01/2017, 0:47
da Emu
ciao pucci
Allego l'ultima versione. Ho popolato un po' di metadati con un altro scriptino. :-D

Total: 3303
Parents: 2497
Clones: 806

Metadata
Complete: 2805
Incomplete: 498

Cercherò di ridurre ulteriormente gli incomplete appena avrò un altro po' di tempo.

Ti allego anche un paio di script, augurandomi ti siano utili nella verifica. List-Master-Clones.ps1 fa vedere "l'albero" parent-cloneche ho postato precedentemente, devi solo editarli impostando in alto il path del file che ti interessa. Il secondo ti fa vedere il file XML in modo tabellare con GUI.

Sarebbe bello anche poter avere un mapping fra i generri del sito di LemonAmiga/HOT utilizzati attualmente, con quelli di HyperSpin in modo da poter avere le icone ed un numero umano di gruppi. C'è qualche volontario? <-whistling->

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 13/01/2017, 22:26
da Emu
Mi sono accorto di un'orribile svista sui metadati, allego file fixato

Total: 3303
Parent: 2497
Clones: 806

Complete: 2880
Incomplete: 423

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 15/01/2017, 12:26
da Emu
Ho provato a mappare i generei Amiga con i generi HyperSpin, ecco il risultato:
► Mostra testo
Questo è l'elenco completo dei generi di HyperSpin:
► Mostra testo
Allego anche l'XML risultante. Ho lasciato anche i generi originali in un altro campo

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 22/01/2017, 22:49
da Emu
Ciao
Direi che ci siamo, ho fixato qualche clone, sostituito i generi con quelli di HyperSpin (mantenendo quello originale in un altro campo) e raccolto i metadati mancanti da LemonAmiga e HOL. Per questi ultimi, per rendere più semplice un re-parsing ho aggiunto gli ID direttamente all'XML in quanto questo non impatta con il funzionamento. Solo 19 giochi non hanno alcun ID.

Sen non rilevate problemi direi che questa è la versione finale.

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 23/01/2017, 1:01
da Emu
Inserite le versioni finali degli XML nel primo post

Alcune statistiche:

Total Games: 3303

Parent: 2484
Clones: 819

Metadata Complete: 2926
Metadata Incomplete: 377

ID Lemon present: 2852
ID Lemon blank: 451

ID HOL present: 3268
ID HOL blank: 35

ID Lemon OR HOL present: 3284
ID Lemon OR HOL blank: 467
ID Lemon AND HOL blank: 19

Finito!!! <-thumbup->

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 24/01/2017, 11:48
da Alibao72
Ciao a tutti,
ed innanzitutto grazie per il lavoro svolto.

Volevo chiedervi solo una cosa.... per poter "approfittare " (se me lo concedete :) del lavoro da voi svolto, <-gamers3->
è possibile sapere la sorgente cui siete partiti? <-sbav->

Esiste una qualche fonte che possiamo identificare per recuperarla? <-think->

Grazie mille, come sempre.
Ciaooo... \:D/

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 24/01/2017, 20:39
da Emu
Ciao
Il lavoro l'ho fatto da solo.
I file XML da cui sono partito sono quelli che avevo pubblicato l'ultima volta con il pack di WHDLoad circa un annetto fa (mi pare), c'è un posto vecchio.
Le sorgenti da cui ho popolato i metadati sono Lemon Amiga http://www.lemonamiga.com/ e HOL http://hol.abime.net/ che sono appunto i siti di cui ho messo gli ID all'interno dei files XML di HS.
Mi sono fatto degli script PowerShell che si parsano l'XML e prendono i dati dai siti. Una prima versione c'è in attach nel primo post. Non ho postato le altre versioni perchè sono un po' "incasinate", dovrei ripulirle (come codice) prima di postarle.
Ti allego uno di questi script, il più semplice di tutti, che consente solo di verificare cosa c'è e cosa manca da un file XML di HS (Amiga) se vuoi farti un'idea.

Ho fatto in questo modo, aggiungere gli ID direttamente dentro l'XML, così per aggiornare i dati mancanti basta che lancio uno script e se c'è almeno uno di questi due ID prende i dati direttamente dai siti, non sostituendo ma soltanto integrando ciò che manca. Se l'ID manca cerca sul sito di WHDLoad il gioco e ricava l'ID di LemonAmiga o HOL direttamente. Se non lo trova non fa nulla. Alla fine tramite una tabella di trascodifica sostituisco il genre preso dai siti con un genre standard di HS. Su questo mapping ho alcune perplessità ma dopo mi spiego meglio.
In pratica con un mapping automatico dei nomi dei giochi sono riuscito ad avere i dati completi di circa 2600-2700 giochi, gli altri li ho mappati a mano, inserendo l'ID di LemonAmiga o HOL nell'XML (in vari modi, tra script, Excel e files CSV) poi lanciando lo script PS ha integrato i metadati dai siti.

Ieri sera ho scoperto che anche sul sito di HS ne stanno mantenedo uno http://www.hyperspin-fe.com/forums/topi ... se-thread/ ma non hanno fatto la parte di WHDLoad.
Quando avrò un attimo provo a confrontarli per vedere le differenze. A parte i nomi dei giochi, dove io ho volutamente mantenuto l'esatto set di PD, loro hanno un set pulito e dovrebbero aver inserito i generi in modo più accurato del mapping che ho fatto io, convertendo il genere presente sui siti.
Cmq, al termine penso che posterò gli XML e se riesco a pulirli anche gli script, per aiutare anche (magari...) altri a generare versioni aggiornate (e magari sempre più accurate) degli XML in futuro.
Attualmente un'altra cosa da rivedere sarebbe il fatto che, cercando i giochi sul sito di WHDLoad http://whdload.de/games/all.html talvolta ci sono puntamenti ad ID multipli per il medesimo gioco. Questo dipende dal fatto che spesso HOL e talvotla LemonAmiga hanno 2 ID differenti per le versioni AGA ed ECS, e se c'è una terza per CD32, a volte per CDTV. Questi ID multipli andrebbero modificati lascando solo l'ID corretto.
Un'altra "figata" è che con lo script se ho i metadati sbagliati su uno o più giochi, metto l'ID corretto, cancello i metadati esistenti, lancio lo script e lui prende giù quelli corretti :)
Attualmente solo 19 giochi su 3303 sono senza ID, e sono questi:

Codice: Seleziona tutto

name                                     description                           idlemon idhol cloneof             
----                                     -----------                           ------- ----- -------             
AdventuresOfGenlockHolmes_v1.0           Adventures Of Genlock Holmes                                            
AdventuresOfQuik&Silva_v1.1              Adventures of Quik and Silva                                            
AdventuresOfWillyBeamish_v1.2_1814       Adventures of Willy Beamish                                             
BombPacCD32_v1.0_AGA                     Bomb Pac (CD32, AGA)                                                    
BombPacCD32_v1.0_AGA_Aminet              Bomb Pac Aminet (CD32, AGA)                         BombPacCD32_v1.0_AGA
CannonFodderNewCampaign_v1.0             Cannon Fodder New Campaign                                              
FastBrain_v0.2_Pl                        FastBrain PL                                                            
FlightSimulator2&SceneryDisk13_v1.0_0329 Flight Simulator 2 Scenery Disk 13                                      
FlightSimulator2&SceneryDisk14_v1.0_0329 Flight Simulator 2 Scenery Disk 14                                      
ForgottenMine_v1.0                       Forgotten Mine                                                          
ItCameFromTheDesert2_v2.0                It Came From the Desert II - Antheads                                   
Jet&SceneryDisk13_v1.0                   Jet & Scenery Disk 13                                                   
Jet&SceneryDisk14_v1.0                   Jet & Scenery Disk 14                                                   
MrMenOlympics_v1.1                       Mr Men Olympics                                                         
NuxeliaDemo_v1.0                         Nuxelia Demo                                                            
Roboter_v1.0_De                          Roboter DE                                                              
Starbirds_v1.1                           Starbirds                                                               
SuperStreetFighter2DX_v1.1_AGA           Super Street Fighter 2 DX (AGA)                                         
TenPinBowling_v0.1_Arcadia               Ten Pin Bowling (Arcadia)                                               

Re: Commodore Amiga.xml + WHDLoad.xml aggiornato 2016-09-19 e script PowerShell per aggiornamento

Inviato: 24/01/2017, 22:27
da DigDug
argh, perchè non ci capisco niente di queste cose...
comunque ci sono 4 giochi che mi danno errore quando vado a scompattarli da lha...