Secondo la leggenda l`ordine venne fondato nel 1407, al suo ritorno in Germania, da un pellegrino tedesco di nome Christian Rosenkreuz (1378 -1484) che soggiornò a Damasco ed in Terra Santa, dove avrebbe studiato l`occulta sapienza.
Sembra che l`ordine fosse limitato a soli otto membri e che si fosse estinto immediatamente dopo la sua morte, per rinascere solo nel XVII secolo.
Nel 1614 comparve a Kassel un opuscolo anonimo dal titolo Fama fraternitatis Rosae Crucis, che raccontava la vita di Christian Rosenkreutz: passati 120 anni dalla sua morte si sarebbe ritrovato il suo corpo ancora intatto, circondato da simboli e insegne iniziatici.
L`opuscolo forse era circolato come manoscritto già a partire dal 1610. L`anno seguente comparve un secondo opuscolo sull`argomento, Confessio Fraternitatis e nel 1616 fu pubblicata un`opera del teologo Johan Valentin Andreae (1586-1654), avente per argomento "Le nozze chimiche di Cristiano Rosa Croce".
Ad Andreae si possono forse attribuire anche i due opuscoli precedenti. Successivamente egli descrisse i Rosa Croce come un ludibrium, un termine latino con il significato di "gioco", "scherzo".
Queste pubblicazioni causarono un grande fermento in tutta Europa, che portò non solo a numerose ristampe, ma anche a discussioni, con opuscoli favorevoli o contrari, i cui autori spesso non conoscevano nulla dei veri scopi degli originari autori e in qualche caso è probabile si siano divertiti a spese dei loro lettori.
Personaggi famosi che furono in vario modo accostati - a torto o a ragione - al misterioso ordine o considerati suoi appartenenti sono stati: Ramon Llull (1235-1315), Leonardo da Vinci (1452-1519), Paracelso (1493-1541), Nostradamus (1503-1566), Michele Serveto (1511-1553), Luís de Camões (1524-1580), Giordano Bruno (1548-1600), Francis Bacon (1561-1626), Shakespeare (1564-1616), Galileo Galilei (1564- 1642), Michael Maier (1568-1622), Robert Fludd (1574-1637), Comenius (1592-1670), Descartes (1596-1650), Isaac Newton (1642-1727), Leibniz (1646-1716), Bach (1685-1750), Goethe (1749-1832), Mozart (1756-1791), la cui opera Il flauto magico viene a volte interpretata come un`allusione appena velata ai riti iniziatici dell`ordine, Beethoven (1770-1827), Victor Hugo (1802-1885).
Nel XVIII secolo diverse società, legate più o meno strettamente alla massoneria rivendicano una discendenza dal mitico ordine. L`influenza sulla nascita della Massoneria non è del tutto accertata, anche se alcune cerimonie furono occasionalmente adottate. "Cavaliere Rosa-Croce" è comunque la denominazione di uno dei gradi della massoneria del "Rito Scozzese Antico e Accettato".