А что они вам в письмах отвечают? Если требуют документы дослать, то какие?
Раз с рождения в Латвии, наверное вас тогда и рассматривают примерно как балтийских немцев :) Вообщем резину тянут. Мы то не попадаем под программу ликвидации последствий второй мировой, вроде как. Многие даже служили Рейху и т.д. и наоборот те самые последствия создавали (см. Курская дуга :))
Меняйте постоянный вид на жительство Латвии на ЕС и езжайте в Германию, там будете ждать гражданства, мой совет. Оттуда и переписку вести легче. И обустроитись как-раз. Вот что изменится,когда вы Гражданство получите? :) Ну голосовать на выборах сможете и все вообщем-то у вас сейчас все те же условия вы имеете ПМЖ в ЕС. Осталось только немного статус поменять национальный на общеевропейский.
Да и потом, логичнее уже будет если переписку начнете вести, как человек уже устроившийся в Германии и лишь желающий укрепить свой статус. А так получается у Вас почти все возможности и вы просто эти возможности не реализуете.