Hound Dog Taylor" nasceu em Natchez, Mississippi em 1915 (algumas fontes citam 1917). Originalmente tocava piano, mas começou a tocar guitarra quando tinha 20 anos. Se mudou para Chicago em 1942.
Começou a se dedicar somente à música por volta de 1957, mas permaneceu desconhecido fora da área de Chicago onde tocava em pequenos bares em bairros de população negra e ao ar livre no mercado da Maxwell Street.
Tornou-se famoso por sua maneira de tocar slide na guitarra elétrica (fortemente influenciado por Elmore James), sua guitarra barata da marca japonesa Teisco, e por suas batidas roucas de boogie. Ele também se tornou conhecido entre guitarristas por ter seis dedos na mão esquerda.
Depois de escutar Taylor e sua banda, o HouseRockers (Brewer Philips na segunda guitarra e Ted Harvey na bateria), Bruce Iglauer, que na época era apenas o funcionário da Delmark Records, tentou fechar um contrato com Hound Dog para seu patrão.
Sem sucesso na tentativa pela Delmark, Iglauer criou uma pequeno selo por $2,500 de uma herança e gravou o primeiro álbum de Taylor, Hound Dog Taylor and the HouseRockers, na sua inexperiente Alligator Records em 1971. Foi a primeira gravação feita pela Alligator, que hoje é uma dos maiores selos de blues. Foi gravado em somente duas noites. Iglauer começou a empresariar e agendar shows da banda, que se apresentou através do país e chegou a tocar com Muddy Waters e Big Mama Thornton. A banda ficou famosa na área de Boston, onde Taylor inspirou um jovem protegido chamado George Thorogood. O álbum Live At Joe's Place documenta uma apresentação em Boston em 1972.
