Los roms deben estar testeados en MAME porque este emu usa "nosequecosa" similar al emulador MAME =)
Baja el neogeo.zip que puso el que puso el tutorial, en internet hay un sin-numero de neogeo.zip que no siempre son correctos, tal vez eso arregle el problema
Igual a mi me manda a esa pantalla que dices xD
Tendra algo que ver usar NDS o NDS Lite? No he visto un solo video de uno que este usando un NDS normal