Seinen Namen erhielt Perkins schon relativ zeitig, weil er live und im Studio gerne „Pinteops’s Boogie Woogie“ des legendären Boogiepianisten Pinetop Smith spielte. (Als der diesen Klassiker 1928 erstmals aufnahm, war Perkins erst 15 Jahre alt!).
Geboren wurde er als Joseph William Perkins am 7. Juli 1913 in Belzoni, Mississippi. Eigentlich begann er seine Karriere als Gitarrist. Doch ein Kampf mit einer Chorsängerin führte zu einer Sehnenverletzung. Und so wechselte er das Instrument. Gemeinsam mit Robert Nighthawk tourte er seit 1943 durch die Kneipen des Mississippidelta, bevor sie in Helena, Arkansas, sesshaft wurden. Als Nighthawk dann allerdings nach Chicago zog, um in der dortigen Bluesszene zu arbeiten, wechselte Perkins zu Sonny Boy Williamson II, der mit der „King Biscuit Time“ auf dem Sender KFFA in Helena erfolgreich war. In den späten 40er Jahren zog es Perkins allerdings nach Memphis, wo er 1953 bei Sam Phillips seine Version von „Pinetop’s Boogie Woogie“ einspielte.
In den 50er und 60er Jahren spielte er wieder mit Nighthawk zusammen, war aber auch auf Tour mit Earl Hooker, Little Milton und Albert King bevor er für etliche Jahre ganz von der Musikbühne verschwand.
Erst 1969 begann Perkins eigentliche Karriere. Denn als 1969 Otis Spann die Band von Muddy Waters verließ, übernahm er für ihn die Stelle als Pianist. Mit Waters tourte Perkins die nächsten zwölf Jahre durch alle Welt und spielte auch auf Alben wie „King Bee“ seine typischen Klavierlinien.
1980 allerdings trennte sich die Band im Streit von Waters: Perkins, Mundharmonikaspieler Jerry Portnoy, Bassist Calvin Jones und Schlagzeuger Willie Smith machten sich selbstständig und gründeten die Legendary Blues Band, die im Prinzip ständig auf Tour oder im Studio war. Nach zwei Platten hatte Perkins allerdings genug von diesem konstanten Stress und verließ die Band.
Doch das hieß längst noch nicht, dass er sich zur Ruhe gesetzt hätte. Schließlich war erst 1988 das erste unter seinem Namen erschienene Album auf den Markt gekommen. Und das promotete er auf Tour unter anderem mit den Gitarristen Hubert Sumlin und Jimmy Rogers. Spätere Platten brachten ihn dann wieder mit Portnoy oder Willie Smith zusammen. Und eigentlich erst als über 80jähriger wurde er als die Pianolegende weltweit wirklich wahrgenommen. In den letzten Jahren spielte er auf jeden wichtigen Festival in der Welt ebenso wie in kleineren Clubs – und nahm eine lange Reihe Platten auf, die ihm diverse Preise und Nominierungen einbrachten. Und Perkins tauchte schließlich auch im Film auf. Fiel sein kurzer Auftritt mit John Lee Hooker in „Blues Brothers“ teilweise noch dem Schnitt zum Opfer, spielte er in Clint Eastwoods Dokumentation zum Pianoblues eine der wichtigen Rollen.
Als er 2004 mit seinem Auto von einem Zug gerammt wurde, überlebte er den Unfall fast unverletzt. Jetzt ist 20110 mit Pinetop Perkins einer der letzten Musiker des ursprünglichen Mississippi-Blues verstorben.