Одна важная вещь, нужно такой форум чтобы его не смог взломать программист среднего уровня (конкуренты не дремлют)

По этому поводу есть одна поговорка - "Мечтать не вредно, вредно не мечтать".

Суть в том, что любой мало мальски известный двиг форума или сайта, смогут сломать не только хакеры среднего уровня, но и начинающие, всё зависит от того, какие уязвимости существуют, и как они закрыты, если вообще закрыты. Даже при постоянных и своевременных обновлениях, нет не какой гарантии, что двиг не поломают уже на следующий день. Кто будет заинтересован сломать, рано или поздно сделает это, через уязвимости движка или расширений, или перебором паролей.

Чем популярней двиг, тем больше вероятность что его сломают. Хотя менее популярные могут так же легко поломать, так как могут содержать больше уязвимостей.

Так что берите любой понравившийся форум, из списка что предоставил alexnaum по ссылке, и делайте на нём. А дальше, следите за обновлениями, и делайте резервные копии. Ну и следите за файловой структурой, обычно начинается всё с появления одного-двух левых файлов... Можно сделать какой скрипт, который будет по крону проверять файловую структуру на изменений, и отправлять сообщение, если что изменилось без вашего ведома. Это поможет избежать блокировки сайта хостером и поисковиками, если вовремя перекрыть доступ к сайту...