1.Может ли формат WMA звучать лучше чем MP3 320 кб/c, если да то при каких данных?
2. Если есть смысл отдать предпочтение WMA, то буду конвертировать музыку из FLAC в WMA, но в конвертере (AIMP3) не ясно какие делать установки качества, там можно выставить: частота от 8000 до 96000, битрейт от 16000 до 192000 (при этом если ставить частоту на максимум, то установки битрейта исчезают, его уже нельзя выставить), режимы CBR и VBR. Помогите пожалуйста в этом разобраться, хочу добиться максимально высокого качества.

Это трудно сказать. Чтобы понять разницу надо иметь не просто хороший слух, а очень хороший слух, вдобавок ощутить разницу можно только на дорогом звуковоспроизводящем оборудовани, обычный mp3 плеер для этого не подойдет. В любом случае формат wma не хуже mp3. Считается, что по сравнению с mp3, wma дает более лучшее качество звука при меньшем размере файла и более высокой степени сжатия. Максимальный верхний порог воспроизведения частоты звука зависит от характеристик звуковоспроизводящего оборудования. Если ваша аудиокарта или dvd, mp3 плеер поддерживает воспроизведение частоты звука в 48 000 Hz или 96 000 Hz, то при конвертации имеет смысл ставить эти частоты, если нет, то установка этих частот ничего не даст, так как звук будет воспроизводиться на верхнем пороге звуковоспроизводящего устройства. То есть, если звуковая карта имеет порог в 48 000 Hz, то она будет воспроизводить любой звук с частотой не более чем в 48 000 Hz, даже если воспроизводимый файл имеет частоту воспроизведения 96 000 Hz. Но тут дело в том, что при конвертации файлов, например, записанных с частотой 44100 Hz, даже если выставить частоту в отметку 48 000 Hz или еще больше, качество звука все равно не улучшится и останется там же камим было до конвертации. То же самое касается битрейта, если, например, файл записанный с битрейтом в 128 килобит в секунду переконвертировать в файл с битрейтом 320 килобит в секунду, то качество звука все равно останется таким каким было и не улучшится. Лучше ставить режим CBR (постоянная скорость аудиопотока), так как на некоторых устройствах (некоторые mp3, dvd плееры) режим VBR может воспроизводиться с ошибками. Надо смотреть свойства конвертируемых файлов - какие в них битрейты и частоты, и выставлять такие же значения - не меньше и не больше, потому что выставление более высоких значений чем исходные, ничего не даст, кроме увеличения размера выходных файлов, а выставление более низких значений чем исходные могут ухудшить качество звука. Качество звука можно улучшить только в звуковых редакторах путем применения фильтров, эквалайзеров, компрессоров и т.д.

Как-то раз мне попались две программы. Одна при выставлении частоты звука большей чем в исходном файле повышала высокие частоты, но при этом снижала низкие (басовые) частоты. Другая вообще при повышении частоты звука увеличивала скорость и повышала тональность. Я не посчитал это за улучшение качества звука и удалил эти программы.

Кодируй в МП3 и не парься. На бытовухе все равно разницу не услышишь.

Не путайте частоту дискретизации, которая имеет определенную величину, с АЧХ воспроизведения. АЧХ определяется в основном битрейтом, с которым сжат исходный материал. Чем он выше, тем выше качество. У топикстартера, судя по всему, копия Аудио-СД, частота дискретизации которого 44100 Гц. Смысл увеличивать не вижу.
Ответ ТС на:

Возможно исчезают от того, что максимальная частота дискретизации для формата WMA - 96 кГц, и на максимуме битрейт не регулирутся, как угодно, не знаю точно.
И зачем Вам конвертировать в WMA? Наряду со своими достоинствами, у этого формата тоже есть недостатки. Если уж и конвертировать в общедоступный формат, то в МР3.

Откуда я знаю какая у него частота дискретизации? Не сообщили. Но если запись с частотой в 48 000 Hz перекодировать в запись с частотой в 44 100 Hz, то качество может ухудшиться.

Опять путаете. Частота дискретизации устанавливается один раз - на этапе аналого-цифрового преобразования. Что даст увеличение ее при конвертировании цифры в цифру? Для CD-аудио установлен стандарт - 44,1 кГЦ. Большинство параметров базового кодера FLAC оптимизированы для CD-аудио (т. е. 44.1 кГц, 2 канала, 16 бит на сэмпл). Можно, конечно, изменить, но что это даст, если человек собирается конвертировать дальше в формат с потерями..
Если, к примеру, цифровать аналог в МР3, то и из стандартов кодера МР3 тоже не вылезите - для спецификации MPEG2 Layer 3 частоты дискретизации составляют от 16 до 24 кГц, для MPEG1 Layer 3 - это от 32 до 48 кГц.

Я имел ввиду общие принципы конвертирования, а не только форматы flac, wma, mp3.

А нельзя ли просто слушать WAV? MP3 и WMA- это же музыка, а просто информация для ознакомления.