Python編程:supervisor模塊管理進程實例
Supervisor是進程管理程序,能將一個普通的命令行進程變為后臺daemon,并監控進程狀態,異常退出時能自動重啟。
單純的講理論比較難懂,下面通過一個監控flask程序的實例來探究
文檔:http://supervisord.org/index.html
安裝
$ pip install supervisor
1
新建一個flask項目
新建server.py作為被監控的程序
from flask import Flask app = Flask(__name__) @app.route('/') def hello_world(): return 'Hello World!' if __name__ == '__main__': app.run()
1
2
3
4
5
6
7
8
9
新建log文件夾用于存放日志
配置
新建文件夾supervisor_demo,用來作為工作目錄,并切換到該文件夾下
生成配置文件
$ echo_supervisord_conf > supervisord.conf
1
推薦線上使用默認路徑:
echo_supervisord_conf > /etc/supervisor/supervisord.conf
1
打開supervisord.conf文件,在最下面找到:
;[include] ;files = relative/directory/*.ini
1
2
此處是需要監控程序的配置文件,修改為:
[include] files = conf/*.ini ;需手動新建conf文件夾
1
2
新建文件conf/server.ini, 并打開編輯(重點關注黑色字就行)
; 設置進程的名稱,使用 supervisorctl 來管理進程時需要使用該進程名 [program: myweb] command=python server.py ; 添加剛剛新建的server.py文件名 ;numprocs=1 ; 默認為1 ;process_name=%(program_name)s ; 默認為 %(program_name)s,即 [program:x] 中的 x ;directory=/home/python/tornado_server ; 執行 command 之前,先切換到工作目錄 ;user=oxygen ; 使用 oxygen 用戶來啟動該進程 ;程序崩潰時自動重啟,重啟次數是有限制的,默認為3次 autorestart=true redirect_stderr=true ; 重定向輸出的日志 stdout_logfile =log/server.log ; 新建log文件夾 loglevel=info ;日志級別
1
2
3
4
5
6
7
8
9
10
11
12
13
啟動
二選其一即可
$ supervisord # 不指定配置文件啟動 $ supervisord -c supervisord.conf # 指定配置文件路徑啟動
1
2
查看是否啟動
ps aux | grep supervisord
1
打開log/server.log 看到已經打印出如下記錄
* Running on http://127.0.0.1:5000/ (Press CTRL+C to quit)
1
訪問 http://127.0.0.1:5000/
可以看到
Hello World!
1
下面試著修改下flask項目
def hello_world(): return 'New Hello World!' # 修改這里
1
2
3
查看狀態
$ supervisorctl status myweb RUNNING pid 20266, uptime 0:05:58
1
2
3
我們將這個被監控的進程殺掉
kill 20266
1
稍等片刻,查看log下面的日志,發現flask服務器重啟了
再訪問下http://127.0.0.1:5000/
New Hello World!
1
說明這個進程又被重啟了,這就是supervisor的作用
開機啟動:https://github.com/Supervisor/initscripts
關閉
先關閉supervisor啟動腳本,之后再關閉supervisord服務
$ supervisorctl stop all $ ps aux | grep supervisord $ kill pid
1
2
3
下面是此項目的目錄結構
supervisor_demo # 項目目錄 ├── conf # 需要監控程序的 配置文件夾 │ └── server.ini # 需要監控程序的 單個配置文件 ├── log # 日志文件夾 │ └── server.log # 自動生成的日志文件 ├── server.py # 被監控的程序 └── supervisord.conf # 配置文件
1
2
3
4
5
6
7
8
用瀏覽器來管理
打開配置文件supervisord.conf, 找到如下配置項并編輯
[inet_http_server] port=127.0.0.1:9001 username=user password=123
1
2
3
4
更改了supervisor配置文件,需要重啟
$ supervisorctl reload
1
訪問http://127.0.0.1:9001/ 進入后臺管理
管理命令
supervisord : 啟動supervisor supervisorctl reload :修改完配置文件后重新啟動supervisor supervisorctl status :查看supervisor監管的進程狀態 supervisorctl start 進程名 :啟動XXX進程 supervisorctl stop 進程名 :停止XXX進程 supervisorctl stop all:停止全部進程,注:start、restart、stop都不會載入最新的配置文件。 supervisorctl update:根據最新的配置文件,啟動新配置或有改動的進程,配置沒有改動的進程不會受影響而重啟
1
2
3
4
5
6
7
8
如果需要監控redis,可以參考:
使用 Supervisor 來管理 Redis 進程
備注:
由于 Supervisor 管理的進程不能設置為 daemon 模式,故如果 Redis 無法正常啟動,可以查看一下 Redis 的配置,并將daemonize選項設置為 no
平滑啟動
supervisorctl reload并不像nginx -s reload是平滑啟動,而是會重啟所有的進程
用下面的命令監測被改動的文件,然后平滑啟動
supervisorctl reread supervisorctl update
1
2
報錯及解決
1、報錯
error:
1
2
supervisord正在執行reload,還沒有加載完成,緊接著執行supervisorctl restart XXX導致的,已經將reload過程修改為supervisorctl reread && supervisorctl update all)
參考
https://www.cnblogs.com/lijiaocn/p/9979256.html
2、報錯
error:
1
2
上面報錯的意思是沒有啟動服務端,就是說啟動的客戶端找不到服務端地址,需要增加參數
# 啟動服務端 supervisord -c /etc/supervisor/supervisord.conf # 啟動客戶端 supervisorctl -c /etc/supervisor/supervisord.conf
1
2
3
4
5
參考:
https://stackoverflow.com/questions/18859063/supervisor-socket-error-issue
3、多命令啟動
多條命令需要使用bash來啟動
例如:
bash -c "source ~/.bash_profile && workon py3 && scrapyd"
1
參考:
https://stackoverflow.com/questions/42443259/supervisorctl-always-reports-error-error-no-such-file
4、報錯
unix:///tmp/supervisor.sock no such file
1
原因:supervisor 默認配置會把 socket 文件和 pid 守護進程生成在/tmp/目錄下,/tmp/目錄是緩存目錄,Linux 會根據不同情況自動刪除其下面的文件。
修改配置文件
vim /etc/supervisor/supervisord.conf
1
[unix_http_server] ;file=/tmp/supervisor.sock ; (the path to the socket file) file=/var/run/supervisor.sock ; 修改為 /var/run 目錄,避免被系統刪除 [supervisord] ;logfile=/tmp/supervisord.log ; (main log file;default $CWD/supervisord.log) logfile=/var/log/supervisor.log ; 修改為 /var/log 目錄,避免被系統刪除 pidfile=/var/run/supervisord.pid ; 修改為 /var/run 目錄,避免被系統刪除 ... [supervisorctl] ; 必須和'unix_http_server'里面的設定匹配 ;serverurl=unix:///tmp/supervisor.sock ; use a unix:// URL for a unix socket serverurl=unix:///var/run/supervisor.sock ; 修改為 /var/run 目錄,避免被系統刪除
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
最后更新配置
supervisorctl update
1
參考 “unix:///tmp/supervisor.sock no such file” 錯誤處理 (親測)
5、報錯
spider_admin_pro BACKOFF unknown error making dispatchers for 'spider_admin_pro': EISDIR
1
很多文章說,有可能是權限問題,首先看下是不是權限問題。
再看一下是不是有同名文件
官網文檔給出的示例:
[program:cat] command=/bin/cat numprocs=1 directory=/tmp stdout_logfile=/a/path stderr_logfile=/a/path
1
2
3
4
5
6
看到path,我以為是一個文件夾路徑,新建了一個同名文件夾,然后就報錯了,
其實寫成下面的參數更直觀,需要配置一個文件名
[program:cat] command=/bin/cat numprocs=1 directory=/tmp stdout_logfile=/a/path/out.log stderr_logfile=/a/path/err.log
1
2
3
4
5
6
參考 supervisor使用筆記
centos配置開機自啟
1、新建文件supervisord.service
#supervisord.service [Unit] Description=Supervisor daemon [Service] Type=forking ExecStart=/usr/bin/supervisord -c /etc/supervisord.conf ExecStop=/usr/bin/supervisorctl shutdown ExecReload=/usr/bin/supervisorctl reload KillMode=process Restart=on-failure RestartSec=42s [Install] WantedBy=multi-user.target
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
2、 將文件拷貝到/usr/lib/systemd/system/
cp supervisord.service /usr/lib/systemd/system/
1
3、啟動服務
systemctl enable supervisord # 啟動服務 systemctl is-enabled supervisord # 驗證一下是否為開機啟動
1
2
3
參考: Supervisor進程管理&開機自啟
參考:
supervisor 從安裝到使用
進程管理supervisor的簡單說明
supervisord安裝,啟動/關閉,添加開機自啟動服務
進程管理工具supervisor的使用注意事項
Python 任務調度
版權聲明:本文內容由網絡用戶投稿,版權歸原作者所有,本站不擁有其著作權,亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容,請聯系我們jiasou666@gmail.com 處理,核實后本網站將在24小時內刪除侵權內容。