но все дипломы естественно на фамилию старую, каждый раз ко всем документам прикладывать свидетельство о браке или как правильно сделать, подскажите?

Поскольку Украина входит в какую-то там конвенцию, то международные свидетельства о браке признаются и на основании этого свидетельства и поменяли новый паспорт с новой фамилией. Еще требуется поменять (вернее написать заявление на смену данных в базе данных) ИНН на новую фамилию и на этом все, больше ничего менять не надо. И то ИНН может понадобиться только в Украине в дремучих учреждениях, потому что ИНН уже вписан в новый гражданский паспорт (но дремучие учреждения все равно могут требовать еще и справку-бумажку). Однако лучше, если базы в налоговой будут приведены в соответствие, а без заявления налоговая самостоятельно ничего в базах менять не будет.
Исключения: ранее написанные доверенности на кого-то придется переписать. Водительские права, думаю, получите в Германии без проблем. С загранником, думаю, тоже все понятно, его требовалось поменять после смены гражданского паспорта на новую фамилию, что отлично делается через консульство.
Дипломы не меняются, и таки да - просто прикладывается копия свидетельства о браке.