Veh wird den Job am kommenden Montag offiziell antreten, der 56-Jährige unterschrieb einen Vertrag bis 30. Juni 2020.
"Wir haben mit Armin Veh einen Mann für die Position gewonnen, der unsere Kriterien perfekt erfüllt. Er hat große Erfolge vorzuweisen und bringt viel Erfahrung mit, auch in Krisen", sagte FC-Präsident Werner Spinner: "Er ist kommunikativ und führungsstark und passt in unser Team am Geißbockheim."
Schmadtke war im Oktober überraschend beim FC ausgestiegen. Am vergangenen Sonntag hatte sich der Klub zudem vom langjährigen Trainer Peter Stöger getrennt. Der Europa-League-Starter spielt eine historisch schlechte Bundesliga-Saison und steht nach 14 Spielen mit drei Punkten am Ende der Tabelle.
