楼上(shang)说(shuo)的很多，我(wo)补充(chong)一(yi)下，正(zheng)确的应该叫网络(luo)蜘蛛(zhu)，又(you)称爬虫(chong)，本质是搜索引擎派出的一(yi)个执行(hang)抓取任(ren)务的程(cheng)序蜘蛛(zhu)池的本(ben)质是大量的网站(zhan)互相链接，每个站单独产生(sheng)大(da)量的内(nei)容吸引(yin)蜘蛛来爬(pa)，几千个(ge)网(wang)站互链时，可以想(xiang)象蜘(zhi)蛛的链接