A principios de 1990, Zakk Wylde, era el guitarrista de Ozzy Osbourne luego fue despedido por este último. Grabó dos álbumes de estudio bajo el nombre de Pride & Glory álbum con el mismo nombre y en solitario con el álbum Book of Shadows. Se asocia con su amigo Nick Catanese, que toca con él durante la gira Book of Shadows, y con Phil Ondich en la batería para formar el grupo Hell's Kitchen.
Zakk Wylde y el baterista Phil Ondich grabarían lo que posteriormente sería el álbum debut de Black Label Society Sonic Brew junto con el guitarrista Nick Catanese y el bajista John DeServio. Sonic Brew fue grabado en Japón en octubre de 1998, salió a la venta en mayo de 1999.
Después de una extensa gira por todo Estados Unidos durante el año 1999, el grupo abandonó el estudio para grabar su segundo álbum Stronger than Death. John DeServio es reemplazado por Steve Gibbs, hijo del cantante de los Bee Gees. Stronger than Death es considerada por los críticos como el álbum más duro en la discografía de la banda de heavy metal, Zakk Wylde con su pizca característica armónica, que le valió muchas críticas malas que le acusan de falta de originalidad. la voz de Zakk Wylde es también única, con gruñidos, susurros y finalmente, los solos de guitarra son muy presente en el álbum.
El 14 de septiembre de 2011, en una carta escrita a mano, Zakk Wylde agradeció a Mike Froedge por su tiempo detrás de la batería con la banda, e introdujo a Chad Szeliga como nuevo baterista de la banda.
Una entrevista con ESPN reveló un DVD acústico titulado "Unblackened" estaba en los trabajos para el año 2012.