Germano nasceu no ano 1150 em Colônia, na Alemanha, de uma família poderosa e abastada, que, ainda na sua infância, perdeu todas as suas posses e passou a viver na pobreza. Mas o que marcou mesmo os tempos de criança de Germano foram as aparições da Virgem Maria, que são contadas em muitas passagens de sua vida, fatos registrados pela Igreja e narrados pela tradição dos fiéis.
Esses registros não ocorreram só na sua juventude, mas durante toda a sua vida. Apesar da falência da família, graças aos próprios esforços ele estudou e se formou em ciências humanas, assim como, depois, conseguiu o que mais desejava: ingressar num convento para sua formação religiosa, que foi o da Ordem dos Premonstratenses.
Quanto às revelações, narra a tradição que, desde muito pequeno, Germano conversava horas e horas com Nossa Senhora.
Certa vez, teria trazido uma maçã para oferecer a ela e ela estendeu a mão para apanhar a fruta. Em outra ocasião, teria brincado com o Menino Jesus sob o olhar da Virgem Mãe, que lhe teria apontado uma pedra do piso da igreja, sob a qual Germano sempre acharia dinheiro para seus calçados e roupas, já que o pai não podia mais lhe oferecer nem o mínimo necessário para sobreviver. Mais velho, conta-se que, ao rezar diante do altar de Maria, uma estranha luz o cercava e ele entrava em êxtase contemplativo.
No fim da vida, ao visitar um convento de religiosas, vizinho ao seu, determinou o lugar onde queria ser enterrado. Era mais um aviso antecipado, pois ali morreu dias depois, durante uma missa, no dia 7 de abril de 1241. Foi enterrado onde desejava. Desde então, sua sepultura se tornou um local de peregrinação, onde os devotos agradeciam e obtinham graças por sua intercessão, até com a cura de doenças fatais, segundo a tradição dos fiéis. Entretanto, muito tempo depois, quando do seu traslado para o convento onde vivera e trabalhara, por ordem do bispo, descobriu-se que seu corpo ainda não tinha sinais de decomposição.
Germano José foi beatificado, em 1958, pelo papa Pio XII. Dois anos depois, o papa João XXIII aprovou seu culto litúrgico para o dia 7 de abril e autorizou que ao lado do seu nome fosse colocada a palavra santo. Em 1961, a igreja de Steinfeld, que guarda suas relíquias mortais, foi declarada basílica menor.