Все форумы нужно пилить под Ваши нужды. Можно SMF, можно phpBB, можно многие другие. В любом случае нужно вкладываться. Что конкретно не понравилось в phpBB?
А почему не тот же SMF? Мне думается SMF безопаснее.. То ли к phpBB такое отношение сформировалось, что багов куча была, то ли она и сейчас есть, но вот тут я, честно говоря, не знаю на данный момент как у них дела.