Квартира в реестре(ЕГРП) может и не числиться, если:
1. Пай за квартиру был выплачен, но ваша мама не взяла в кооперативе Справку о выплаченном пае.
2. Справку она взяла , но не зарегистрировала свое право в установленном законом порядке.
3. Справку она взяла и свое право зарегистрировала, как положено, но было это до 31.01.1998 года. Тогда сведения о зарегистрированных правах на квартиру ищите в других организациях. Поинтересуйтесь в какой организации в Вашем городе хранятся эти сведения.
Дозванивайтесь в кооператив и выясняйте эти моменты.
Прописка брата в Вашем случае имеет большое значение для сроков принятия наследства. Если он на дату открытия наследства(это дата смерти мамы) был прописан в квартире, то тогда срок принятия наследства для него не имеет значения, а вот для Вас- это 6 месяцев со дня открытия наследства, иначе, как вам тут уже неоднократно советовали- только через суд нужно продлять срок для принятия наследства.
У Вас путь один- ищите местного адвоката и пусть он выясняет эти все моменты и на основании полученных сведений уже будете составлять план дальнейших действий.