Generalmente nei corsi di fisica all'università, per dare l'esame di Istituzioni di fisica teorica, che fornisce gli strumenti per comprendere i fondamenti della meccanica quantistica e per "costruire analiticamente"un atomo di idrogeno, bisogna affrontare prima lo studio dei Metodi matematici per la fisica, che è un esame corposo di analisi superiore. Tutti gli strumenti matematici forniti da questo corso vengono poi utilizzati in Istituzioni di fisica teorica dando a essi il relativo significato "fisico". Tale matematica è di notevole astrazione e complessità anche perchè gli stessi fenomeni da essa governati sfuggono alla nostra comprensione perchè non li sperimentiamo quotidianamente come accade per le leggi della meccanica classica o della termodinamica.
Non ho trovato molti riferimenti on line che possano rispondere in modo esauriente alla tua domanda, ma uno su tutti merita grande attenzione: è il sito di Dauger dell'UCLA, che è stato premiato in passato nel contesto annuale della rivista "CIP's Computer inPhysiscs", per aver realizzato il più bel package per la visualizzazione degli orbitali atomici. Purtroppo gira solo su Mac, ma vale la pena di provarlo: si chiama "Atom in a box". Altri riferimenti puoi trovarli sulla rivista stessa, e probabilmente nell'ambito del pacchetto software della Wolfram Inc, Mathematica. Potrebbero anche esistere dei libri della Wolfram sull'argomento.
Buon divertimento!