Com 29 anos, em 1970, João estreou profissionalmente, quando Elizeth Cardoso gravou sua música "Corrente de Aço", graças à apresentação de Paulo Valdez, compositor e filho da cantora. Logo no início da carreira, passou a ser conhecido pelo suingue peculiar que costumava emprestar às métricas das músicas que cantava. Como compositor, teve músicas gravadas por intérpretes como Elis Regina, Clara Nunes, Beth Carvalho e Alcione.

Em 1979, com Alcione, Martinho da Vila e Beth Carvalho, Nogueira criou o Clube do Samba, com o objetivo de preservar e divulgar a cultura carioca. Na década de 90, João gravou quatro discos (Além do Espelho, de 1992; Parcerias, de 1994; Chico Buarque, de 1996; e João de Todos os Sambas, de 1998), sempre reforçando e renovando a cultura sambística através de suas interpretações, recheadas de carioquismo, malícia e ritmo. João Nogueira faleceu aos 58 anos, em 5 de junho de 2000.