Los orígenes de la fiesta de la Cruz de Mayo tiene sus antecedentes en la celebración precristiana conocida como Festividad de los Mayos (o Palo de Mayo, del inglés maypole), en la que se conmemoraba el tiempo medio de la primavera rindiendo cultos a la naturaleza. En especial, se festejaba adornando un árbol o erigiendo un tronco otótem al que se le ponían adornos o flores, mientras se hacían danzas rituales y se cantaban o hacían recitaciones. Con la llegada del cristianismo, esta fiesta fue adaptada a la nueva fe, reemplazándose el tótem por la cruz cristiana. En algunos países se mantienen en forma paralela las festividades de la Cruz de Mayo y del Palo de Mayo.

Otra interpretación parece tener su origen en el hallazgo por Santa Elena de la cruz donde murió Cristo. La historia narra cómo el emperador Constantino I el Grande, en el sexto año de su reinado, se enfrenta contra los bárbaros a orillas del Danubio, en una batalla cuya victoria se cree imposible a causa de la magnitud del ejército enemigo.

Actualmente, la liturgia cristiana ha eliminado esta fiesta de su calendario, quedando unificada con la fiesta de la Exaltación de la Santa Cruz, celebrada el 14 de septiembre, fiesta de origen similar.

El día de la Cruz de Mayo se ha extendido a muchas localidades del mundo: Chile, El salvador, Guatemala, México..., y por toda España.