Derudover findes der skam masser af kommercielle crawlere - og en del open source, som du kan bruge. Men det er store tunge stykker software, og for de komercielle produkters vedkomende dyre.
Er der nogle af de kommercielle produkter, du kan anbefale? Har kig på Maxamine/Statrigent....
Danske Ankiro og Norske FAST laver begge to gode stabile crawlere. Men det er altså software der typisk ender langt over 100k, så jeg vd ikke om det lige er det du søger.
Ellers tag et kig på http://searchtools.com/ - her kan du se en stor del af de OS og kommercielle crawlere der findes.