То есть можно приобрести гражданство Австрии, оставаясь гражданином ФРГ?

Для Германии всё равно, если речь идёт о гражданстве ЕС

Die Einbürgerungsvoraussetzung, dass die Staatsangehörigkeit aufgegeben werden muss, gilt nicht bei der Einbürgerung von Staatsangehörigen eines Mitgliedstaates der Europäischen Union.

А что касается других стран, то и при принятии немецкого могут потерять,

Es kann jedoch passieren, dass diese Bürger durch die Einbürgerung in Deutschland nach dem Recht des anderen Staates ihre bisherige Staatsangehörigkeit verlieren. Weitere Auskünfte erteilen die jeweiligen Botschaften der EU-Staaten.

и при приобретении другого могут потребовать из немецкого выйти. Кажется, для Австрии надо всё-таки выходить.

Verzicht auf die deutsche Staatsangehörigkeit (§ 26 StAG)
In Ausnahmefällen bürgert Österreich deutsche Staatsangehörige ein, während diese noch im Besitz der deutschen Staatsangehörigkeit. Der Antragsteller ist demnach für einen gewissen Zeitraum Doppelstaatler.