В первом варианте сам лично использую SMF + jfusion мне очень нравится форум SMF, но это мое субьективное мнение. По популярности более популярен и как принято считать лучше интегрируется PHPBB, но мне он не нравится.
Эти два варианта подойдут для высокопосещаемых форумов. Если нужно отображение в окне, кк компонента можно подправить шаблон форума прикрепив туда инклуидом верх и низ от шаблона сайта. IPB не рассматриваю по причине платности, но если это не проблема, решайте сами.
Если планируется не очень посещаемый форум тогла прсавил бы Аgora, Kunena и многие другие, которые можно найти в официальном хранилище компонентов.
Плюс такого решения в том, что подобны форум интегрируется в систему полностью и другие компоненты, такие как КомюдитиБуилдер используют оттуда данные.
Минут медлительность и повышенная нагрузка на сервер при большой посещаемости.
Как уже описал выше, мой выбор SMF + jfusion о чем не жалею.