Ciao! Leggo solo ora il tuo post, non so se nel frattempo hai risolto.
La versione di Mame per Xbox prima versione che personalmente a suo tempo ho provato è la MameOX.
La stessa attualmente, per i "soliti" problemi legati a M****soft, non è reperibile sui canali "normali".
Il vantaggio di usare la Xbox è la sua compattezza nonchè la facilità di collegamento ad un TV scart/Monitor Arcade.
Per un pò mi sono accontentato, ma poi, essendo un purista (leggi maniaco) la configurazione che uso attualmente è AdvanceMame con Linux, che ha una resa video praticamente identica alle schede jamma che pure uso.
Tornando al discorso Xbox, un problema con il quale ti scontrerai è l'utilizzo di controller arcade al posto del controller Xbox.
Esistevano interfacce per collegare la Xbox ad un cablaggio Jamma. Erano già rare a trovarsi ai tempi dell'Xbox, adesso credo siano ancora più rare...

.
Personalmente risolsi con questa interfaccia, da autocostruire (segnalata anche in un altro mio post):
http://shoryuken.com/f177/universal-pcb ... ad-131230/
Se te la cavi con il saldatore ti puoi cimentare...
Saluti, Enzo.