使用celery执行Django串行异步任务的方法步骤

 更新时间:2019年06月06日 08:59:40   作者:luozx207  
这篇文章主要介绍了使用celery执行Django串行异步任务,文中通过示例代码介绍的非常详细,对大家学习或者使用Django具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧

前言

Django项目有一个耗时较长的update过程,希望在接到请求运行update过程的时候,Django应用仍能正常处理其他的请求,并且update过程要求不能并行,也不能漏掉任何一个请求

使用celery的solo模式解决

安装redis

https://github.com/microsoftarchive/redis/releases

下载.msi文件安装,会直接将redis注册为windows服务

安装celery与redis依赖

pip install celery
pip indatll redis

一个celery应用

# celery_test.py
import time

from celery import Celery

app = Celery('tasks', broker='redis://127.0.0.1:6379/0')


@app.task
def add(x, y):
 time.sleep(5)
 return x + y

启动celery服务

celery -A celery_test.app worker --pool=solo -l info

查看完整的命令行参数列表

celery worker --help

对celery启动命令的解释

  • '-A' 是一个全局配置,定义了APP的位置
  • '--pool' 是POOL的配置,默认是prefork(并发),选择solo之后,发送的任务不会被并发执行,在worker执行任务过程中,再次发送给worker的任务会排队,执行完一个再执行另一个
  • '-l' 是WORKER的配置,定义了log级别

调用任务

>>> from celery_test import add
>>> add.delay(4,4)

因为启动了solo模式,因此,可以看到在一个add没有执行完前,即使再次发送执行add的任务,celery worker也会等到前一个任务执行完才去执行下一个

与Django结合

在装载celery应用前先setup django

import time
import os
import django
os.environ.setdefault("DJANGO_SETTINGS_MODULE", "demo.settings")
django.setup()

from celery import Celery

from django_app.update import update

app = Celery('tasks', broker='redis://127.0.0.1:6379/0', backend='redis://127.0.0.1:6379/0')

@app.task
def update_task():
 update()

然后在views中调用task就可以了。

from celery_test import update_task
def update_api(request):
 if request.method == "GET":
  update_task.delay()
  return HttpResponse(status=status.HTTP_200_OK)

执行过程中,程序的print信息会作为celery warning,报错信息会作为celery error

日志

在启动应用的时候指定日志文件路径

-f log_path

不设置这个参数的时候,日志默认输出到控制台

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • Python在字符串中处理html和xml的方法

    Python在字符串中处理html和xml的方法

    这篇文章主要介绍了Python在字符串中处理html和xml的方法,文中讲解非常细致,代码帮助大家更好的理解和学习,感兴趣的朋友可以了解下
    2020-07-07
  • Python random模块用法解析及简单示例

    Python random模块用法解析及简单示例

    这篇文章主要介绍了Python random模块用法解析及简单示例,具有一定借鉴价值,需要的朋友可以参考下。
    2017-12-12
  • python使用pipeline批量读写redis的方法

    python使用pipeline批量读写redis的方法

    今天小编就为大家分享一篇python使用pipeline批量读写redis的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-02-02
  • 详解python配置虚拟环境

    详解python配置虚拟环境

    这篇文章主要介绍了python配置虚拟环境,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-04-04
  • Python基于多线程实现ping扫描功能示例

    Python基于多线程实现ping扫描功能示例

    这篇文章主要介绍了Python基于多线程实现ping扫描功能,结合实例形式分析了Python多线程与进程相关模块调用操作技巧,需要的朋友可以参考下
    2018-07-07
  • Python命令行参数解析包argparse的使用详解

    Python命令行参数解析包argparse的使用详解

    argparse 是 python 自带的命令行参数解析包,可以用来方便的服务命令行参数。本文将通过示例和大家详细讲讲argparse的使用,需要的可以参考一下
    2022-09-09
  • 通过 Django Pagination 实现简单分页功能

    通过 Django Pagination 实现简单分页功能

    这篇文章主要介绍了通过 Django Pagination 实现简单分页功能,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-11-11
  • Python生成requirements.txt的三种方法

    Python生成requirements.txt的三种方法

    requirements.txt 文件通常用于列出项目所需的所有Python包及其版本,本文主要介绍了Python生成requirements.txt的三种方法,具有一定的参考价值,感兴趣的可以了解一下
    2024-07-07
  • Mac中升级Python2.7到Python3.5步骤详解

    Mac中升级Python2.7到Python3.5步骤详解

    本篇文章主要介绍了Mac中升级Python2.7到Python3.5步骤详解,具有一定的参考价值,感兴趣的小伙伴们可以参考一下。
    2017-04-04
  • pandas提取数据的6种方法汇总

    pandas提取数据的6种方法汇总

    这篇文章主要介绍了pandas提取数据的6种方法汇总,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-08-08

最新评论