Na začátku stálo trio Vincent Vincent, Neil Kidgell, Charles Walter, říkali si The Double Card Bastards, ale až s příchodem Alexe Coxe v roce 2003 založili rock’n’rollovou partičku Vincent Vincent And The Villains. První 7“ On My Own / B-side Baby natočili v dubnu 2004 u maličkých Smoking Gun Records, jehož úspěch nadchl dvě krasavice (Nadia, Sara) natolik, že si založily v Londýně vlastní label Young And Lost Club. No a asi nikoho už nepřekvapí, že tyhle dvě „klubařky“ se obrátily s první nahrávkou právě na VVATV, kterým pod číslem 1 vydaly singl The Boy Who Miller Time / Blue Boy a přesně o rok později v dubnu 2006 následující I‘m Alive / There Is A Cloud. V té době se kapela začínala potýkat s osobními problémy, které vyvrcholily odchodem Neilla Kidgella a Charlese Wallera, který se na plný úvazek začal věnovat svým ska-popovým The Rumble Strips, jejichž debutové album Girls And Weather (Island Records) z loňského léta stojí určitě také za připomínku.
Do kapely přichází Vincentův bývalý kolega od Deseti zvonů (kde se nesmí ani fotit) Will Church (baskytara) a tamní štamgast a kamarád z vysoký, kytarista Tom Bailey. Společně natáčejí čtvrtý singl inspirovaný odchodem Wallera na původní hudbu Making Raidrops Johnny Two Bands / Seven Inch Record, o jehož vydání (10/2007) se už postarali kravaťáci z EMI, sekající ve stejném měsíci na pulty reedici On My Own (Love And Pain, Bad Boy).
