Paul teve seu primeiro álbum gravado no em 1968 intitulado Feelin’ Good at the Cadillac Club que não teve grande alcance.Em 1957 foi convocado para as Forças Armadas do Exército e ao ser dispensado formou um grupo oficial do gênero com o pianista Sam Dockery e com o baixista Buster Williams, em 1970 gravou seu segundo álbum de estúdio intitulado Ebony Woman.Em 1971 tem o terceiro álbum lançado chamado Going East mas o sucesso somente foi conquistado em seu quarto álbum este intitulado 360 Degrees of Billy Paul de 1972 e assim também Me and Mrs. Jones tornou-se o maior hit alcançando o topo das paradas R&B e o que lhe rendeu também o Grammy de melhor vocal masculino do estilo.
Do seu quinto álbum War of the Gods em 1973 teve destaques as músicas Thanks for saving my life, Only the Strong Survive e a Your Song uma versão de Elton John.Paul fez varias turnês e em suas passagens pelo Brasil sua estada nas cidades do Rio de Janeiro e São Paulo era comum ver a figura carismática frequentar bares,sempre arriscava algumas palavras em português e nos shows sempre que possível cumprimentava as pessoas mais próximas ao palco e as vezes descia do palco para cantar em meio ao público.Com paixão pelo time do Corinthians sempre que podia assistia o jogo no estádio.
Billy Paul a lenda do soul morre aos 81 anos e enfrentava um câncer.