Williamson wurde 1914 in der Nähe von Jackson, Tennessee, geboren. Mit seinen Hits wie etwa dem unsterblichen „Good Morning Schoolgirl“ (seine erste Plattenaufnahme überhaupt) zählte er in der Zeit zwischen den beiden Weltkriegen zu den größten Bluesstars.
So wie später auch Little Walter und all die anderen Nachfolger und Nachahmer nutzte er die Möglichkeiten, die das Mikrophon dem Harpspieler bot voll aus. Der verstärkte Sound machte die Harmonika zum Soloinstrument neben der verstärkten Gitarre und sie gehörte von da ab zur unverzichtbaren Besetzung in den verschiedensten Bluesbands Chicagos. Auch entwickelte Williamson die Harp – ähnlich wie die Saxophone – zum eigentlichen Melodieinstrument. In seinen Solos ist sie nicht mehr riffgebendes Akkordinstrument sondern gleichberechtigter Partner neben Gitarre und Piano.
Williamson beeinflusste so ziemlich jeden folgenden Harpspieler: Billy Boy Arnold, Junior Wells, LittleWalter, aber auch seinen Zeitgenossen Sonny Terry. Da er beim führenden Label Bluebird unter Vertrag stand, wurde er zu vielen Aufnahmesessions des Labels hinzugezogen. Und so spielte er etwa mit Big Boy Williams und anderen Stars der Zeit.
Williamson war so erfolgreich, dass er zu den wenigen Bluesmusikern gehörte, die nach dem Eintritt der USA in den 2. Weltkrieg noch Plattenaufnahmen machen konnte. Am 1. Juni 1948 kam er bei einem Raubüberfall ums Leben, als er zu Fuß von einem Auftritt im Plantation Club zu seiner Wohnung in der South Side von Chicago ging. Einen Grabstein erhielt er allerdings erst 1990. Gestiftet wurde er von seiner Plattenfirma.