有小伙伴反馈代码运行服务概率性出现返回None的问题
并发执行一个简单脚本
def ok(t): return "ok"并发执行均可正常返回ok,无任何异常
查看出现错误的日志信息
Traceback (most recent call last): File "/app/runCode/callPy3.py", line 49, in call_func FileNotFoundError: [Errno 2] No such file or directory: '/app/box/sleep_time_fb3fd130-ba80-11ea-b4b2-0242ac1e573d.py'从错误日志信息中可以发现执行的文件没有找到,看看代码中这块的处理逻辑
从代码中可以看出,首先执行关键字函数后,再 finally 执行删除文件的操作,debug断点试验均为该处理顺序,那为何会出现该问题呢?
一开始并发执行的代码,均为直接返回,而用户反馈的有问题代码是因为sleep了30s,是否是代码在sleep时代码文件被删除? 故在执行某一个sleep 30秒的代码时,多次执行立即返回的代码,此问题复现
review所有代码,发现整个服务执行文件删除操作的仅仅2个地方:
上面代码中提到的运行关键字函数后删除代码文件在预处理时before_first_request初始化删除所有文件 既然运行关键字函数后删除代码文件的操作没有问题,那么问题很大概率时因为before_first_request的请求查看这段代码
# @app.before_first_request def before_first_request(): # 初始化时操作,仅第一次请求时操作 try: ... os.remove(file_path) except Exception as e: traceback.print_exc(e)before_first_request在官方以及非官方文档中均如此描述:
在对应用程序实例的第一个请求之前注册要运行的函数, 只会执行一次ok,既然怀疑before_first_request出现了问题,打印日志并部署运行
通过日志发现有如下
INFO:werkzeug:172.30.139.0 - - [30/Jun/2020 16:27:08] "POST /colab/call HTTP/1.1" 200 - INFO:__main__:**********************************删除文件啦啦啦啦啦 INFO:__main__:ImmutableMultiDict([('code', 'import time\ndef ok(t):\n time.sleep(t)\n return "ok"'), ('fun_call', 'ok(0)'), ('user', 'swapi')]) INFO:werkzeug:172.30.139.0 - - [30/Jun/2020 16:27:08] "POST /colab/call HTTP/1.1" 200 - INFO:__main__:**********************************删除文件啦啦啦啦啦 INFO:__main__:ImmutableMultiDict([('code', 'import time\ndef ok(t):\n time.sleep(t)\n return "ok"'), ('fun_call', 'ok(0)'), ('user', 'swapi')]) INFO:werkzeug:172.30.139.0 - - [30/Jun/2020 16:27:08] "POST /colab/call HTTP/1.1" 200 - INFO:__main__:**********************************删除文件啦啦啦啦啦 INFO:__main__:ImmutableMultiDict([('code', 'import time\ndef ok(t):\n time.sleep(t)\n return "ok"'), ('fun_call', 'ok(0)'), ('user', 'swapi')]) INFO:werkzeug:172.30.71.0 - - [30/Jun/2020 16:27:08] "POST /colab/call HTTP/1.1" 200 - INFO:__main__:**********************************删除文件啦啦啦啦啦 INFO:__main__:ImmutableMultiDict([('code', 'import time\ndef ok(t):\n time.sleep(t)\n return "ok"'), ('fun_call', 'ok(0)'), ('user', 'swapi')])很明显,before_first_request被多次执行了,啥原因呢?我们再次看看before_first_request的具体实现
#: A lists of functions that should be called at the beginning of the #: first request to this instance. To register a function here, use #: the :meth:`before_first_request` decorator. #: #: .. versionadded:: 0.8 self.before_first_request_funcs = [] @setupmethod def before_first_request(self, f): """Registers a function to be run before the first request to this instance of the application. .. versionadded:: 0.8 """ self.before_first_request_funcs.append(f)在初始化后第一次请求时会调用,后续的所有请求都不会在调用该函数,除非重新初始化
而该服务启动的方式恰好时多进程
app.run(host='0.0.0.0', port=5005, debug=False, processes=20)将多进程修改为1个进程或者修改成多线程的方式执行
app.run(host='0.0.0.0', port=5005, debug=False, threaded=True)此时问题没有复现
或者不使用 @app.before_first_request 注解的方式,直接init执行初始化操作同样可以解决以上问题