ScrapydAPI 的安裝
安裝好了 scrapyd 之后,我們可以直接請求它提供的 API 即可獲取當(dāng)前主機的 scrapy 任務(wù)運行狀況。
如某臺主機的 IP 為 192.168.1.1,則可以直接運行如下命令獲取當(dāng)前主機的所有 Scrapy 項目:
1
curl http://localhost:6800/listprojects.json
運行結(jié)果:
1
{"status": "ok", "projects": ["myproject", "otherproject"]}
返回結(jié)果是 JSON 字符串,通過解析這個字符串我們便可以得到當(dāng)前主機所有項目。
但是用這種方式來獲取任務(wù)狀態(tài)還是有點繁瑣,所以 ScrapydAPI 就為它做了一層封裝,下面我們來看下它的安裝方式。
相關(guān)鏈接
GitHub:https://pypi.python.org/pypi/python-scrapyd-api/
PyPi:https://pypi.python.org/pypi/python-scrapyd-api
官方文檔:http://python-scrapyd-api.readthedocs.io/en/latest/usage.html
pip 安裝
推薦使用 Pip 安裝,命令如下:
1
pip install python-scrapyd-api
驗證安裝
安裝完成之后便可以使用 Python 來獲取主機狀態(tài)了,所以如上的操作便可以用 Python 代碼實現(xiàn):
1
2
3
from scrapyd_api import ScrapydAPI
scrapyd = ScrapydAPI('http://localhost:6800')
print(scrapyd.list_projects())
運行結(jié)果:
1
["myproject", "otherproject"]
這樣我們便可以用 Python 直接來獲取各個主機上 Scrapy 任務(wù)的運行狀態(tài)了。
Python
版權(quán)聲明:本文內(nèi)容由網(wǎng)絡(luò)用戶投稿,版權(quán)歸原作者所有,本站不擁有其著作權(quán),亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實的內(nèi)容,請聯(lián)系我們jiasou666@gmail.com 處理,核實后本網(wǎng)站將在24小時內(nèi)刪除侵權(quán)內(nèi)容。
版權(quán)聲明:本文內(nèi)容由網(wǎng)絡(luò)用戶投稿,版權(quán)歸原作者所有,本站不擁有其著作權(quán),亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實的內(nèi)容,請聯(lián)系我們jiasou666@gmail.com 處理,核實后本網(wǎng)站將在24小時內(nèi)刪除侵權(quán)內(nèi)容。