Для Вашей будущей работы и карьеры нет никакой разницы, где Вы будете учиться. Т.е. Вы можете учиться и в маленьком городе, а работать потом в большом. У маленького города есть много своих плюсов, и в первую очередь это менее дорогое жилье. Посмотрите цены на квартиры в том же Франкфурте. Безусловно, если работать, то можно себе позволить. Но если Вы будете учиться, а жена Ваша вряд ли будет в ближайшие пару лет работать на полную ставку, да еще и с хорошей зарплатой (поправьте меня, если нет, т.к. я не знаю, какое у Вашей жены образование, какой язык и опыт, и какие у нее планы насчет карьеры), то вряд ли Вы сможете снять во Франкфурте приличную квартиру. Я бы на Вашем месте подумала бы, стоит ли оно того. Закончите учиться, найдете работу и переедете во Франкфурт или в другой крупный город. Кстати, в больших городах, особенно на Западе и на Юге не очень-то хорошо с местами в детских садах, что для Вас тоже важно. Никаких минусов в карьере Вам это не принесет.
Я так понимаю, Вы что-то гуманитарное хотите изучать? Поверьте, это реально все равно, в каком городе и университете Вы получите свою "корочку". При устройстве на работу смотрят в первую очередь на опыт работы, ну и на диплом тоже, но там не так важно, из какого он университета, главное - чтобы он был и желательно с хорошей оценкой. Я закончила университет Мюнхена с очень хорошей оценкой (училась на одной из самых сильных кафедр в Германии), но никаких преимуществ при устройстве на работу мне это не дало, как не дает и сейчас, с почти 7-летним опытом работы :) Для негуманитарных специальностей это, наверное, по-другому.