Zack de la Rocha penso en el nombre “Rage Against the Machine” antes de que la banda se hubiese formado, mientras estaba en una banda hardcore de California llamada Inside Out. Inside Out tenía una canción llamada “Rage Against The Machine”, que también iba ser el título de su segundo disco. En vez de eso, se disolvieron. Así que cuando Zack se encontró con Tom Morello y formó un nuevo grupo, “Rage Against the Machine” parecía ser el nombre más apropiado, por la música y las ideas que eran transmitidas. Tom Morello describe exactamente cual es la “máquina” contra la que están enfurecidos: “La máquina puede ser cualquier cosa desde la policía en las calles de Los Angeles quienes pueden sacar automovilistas fuera de sus autos y golpearlos hasta reducirlos a pulpa y salirse con la suya, hasta la maquinaria capitalista del estado internacional global que trata de convertirte en un engranaje sin mente, para no pensar críticamente y nunca confrontar al sistema, y no sólo lo que sería comportarse y esperar el fin de semana y el siguiente pack de cerveza.” La música, conocida como la etapa mas popular entre el rock y rap, brota del interés de Zack en bandas de hip-hop como Public Enemy, y KRS-One, tanto como de sus raíces en el hardcore. El aprecio de Tom Morello por el hard rock y el punk como Black Sabbath y Sex Pistols responde al sonido tan bien formado de la banda, mientras que el interés en el jazz de Tim Commerford y el ritmo único que va del hip-hop al punk de Brad Wilk lo redondean.
A su vez, Zack estaba involucrado en la escena hardcore en Huntington Beach y tocaba la guitarra para una banda llamada Hardstance, y eventualmente en una banda hardcore llamada Inside Out que pasó a ser popular en EE.UU. Mientras tanto, Tom Morello estaba en Libertyville, Illinois, practicando con la guitarra y tocando en bandas de garage de secundaria, como Electric Sheep la cual fundó con el guitarrista de Tool, Adam Jones. Tom se había mudado a Los Angeles desde Illinois bajo la impresión de que L.A. era la Meca para hacer funcionar una verdadera banda de rock. Tom vio por primera vez a Zack rapeando con unos amigos en un club, pero el sistema de altavoces era tan malo que no pudo entender del todo la magnitud de porqué Zack estaba tan enojado. Más tarde cuando Tom le dio un vistazo al cuaderno donde Zack escribía sus letras, se dio cuenta de lo que él era. Tom conoció a Brad Wilk anteriormente, porque Brad había respondido a un anuncio que buscaba baterista. Zack trajo a Tim y las cosas comenzaron a ponerse en marcha.