Поставь xampp, и попробуй на нём поставить. Если та же проблема, значит что то в системе тормозит, может антивирь или стенка блокируют. У меня как то была проблема с одним скриптом, McAffe упорно блокировал на одном месте, хотя в скрипте не было не чего такого, сам писал. Понять тоже не мог, почему, ошибок нет, всё вроде в норме, а на одном месте как зацикливает, висит и не дальше. Отключил временно в антивире веб сканирование, и всё прошло в долю секунды.
Ах да..., вот что ещё может быть, щас только вспомнил, не помню на каком там шаге создание базы, но если на 4-м, то вероятно на нём и возникает. Если да, то скорее всего тормоза с созданием таблиц в базе. Нечто подобное было у меня с установкой Magento, при создании базы, с начало выдало ошибку, как выяснилось недостаточно было времени в настройках пыха прописано, добавил, и минуты три ждал пока всё создастся, даже думал что повисло, и хотел прервать.
Что касается насчёт пыха 5.3, то на денвере с 5.3 джумла, что 1.5, что 1.6 и 1.7 прекрасно ставятся и работают без глюков.
Пока писал, и без меня уже теже предположения привели.