Rivalry2

HTML Diff

2 added 2 removed

Original 2026-01-01

Modified 2026-02-19

1 Что такое Job и CronJob в Kubernetes, для чего они нужны, а для чего их использовать не стоит.Эта статья - выжимка из <a>лекции</a> вечерней школы "Слёрм Kubernetes".<h2>Job: сущность для разовых задач</h2>

2 Job (работа, задание) - это yaml-манифест, который создаёт под для выполнения разовой задачи. Если запуск задачи завершается с ошибкой, Job перезапускает поды до успешного выполнения или до истечения таймаутов. Когда задача выполнена, Job считается завершённым и больше никогда в кластере не запускается. Job - это сущность для разовых задач.<h2>Когда используют Job</h2>

3 При установке и настройке окружения. Например, мы построили CI/CD, который при создании новой ветки автоматически создаёт для неё окружение для тестирования. Появилась ветка - в неё пошли коммиты - CI/CD создал в кластере отдельный namespace и запустил Job - тот, в свою очередь, создал базу данных, налил туда данные, все конфиги сохранил в Secret и ConfigMap. То есть Job подготовил цельное окружение, на котором можно тестировать и отлаживать новую функциональность.При выкатке helm chart. После развёртывания helm chart с помощью хуков (hook) запускается Job, чтобы проверить, как раскатилось приложение и работает ли оно.

4 <h2>Таймауты, ограничивающие время выполнения Job</h2>

5 Job будет создавать поды до тех пор, пока под не завершится с успешным результатом. Это значит, что если в поде есть ошибка, которая приводит к неуспешному результату (exit code не равен 0), то Job будет пересоздавать этот под до бесконечности. Чтобы ограничить перезапуски, в описании Job есть два таймаута: activeDeadlineSeconds и backoffLimit.activeDeadlineSeconds - это количество секунд, которое отводится всему Job на выполнение. Обратите внимание, это ограничение не для одного пода или одной попытки запуска, а для всего Job.Например, если указать в Job, что activeDeadlineSeconds равен 200 сек., а наше приложение падает с ошибкой через 5 сек., то Job сделает 40 попыток и только после этого остановится.

6 backoffLimit - это количество попыток. Если указать 2, то Job дважды попробует запустить под и остановится.Параметр backoffLimit очень важен, потому что, если его не задать, контроллер будет создавать поды бесконечно. А ведь чем больше объектов в кластере, тем больше ресурсов API нужно серверам, и что самое главное: каждый такой под - это как минимум два контейнера в остановленном состоянии на узлах кластера. При этом поды в состоянии Completed или Failed не учитываются в ограничении 110 подов на узел, и в итоге, когда на узле будет несколько тысяч контейнеров, докер-демону скорее всего будет очень плохо.

7 Учитывая, что контроллер постоянно увеличивает время между попытками запуска подов, проблемы могут начаться в ночь с пятницы на понедельник. Особенно, если вы не мониторите количество подов в кластере, которые не находятся в статусе Running.

8 <h2>Удаление Job</h2>

9 После успешного завершения задания манифесты Job и подов, созданных им, остаются в кластере навсегда. Все поля Job имеют статус Immutable, то есть "неизменяемый", и поэтому обычно при создании Job из различных автоматических сценариев сначала удаляют Job, который остался от предыдущего запуска. Практика генерации уникальных имен для запуска таких Job может привести к накоплению большого количества ненужных манифестов.В Kubernetes есть специальный TTL Controller, который умеет удалять завершенные Job вместе с подами. Вот только он появился в версии 1.12 и до сих пор находится в статусе alpha, поэтому его необходимо включать с помощью соответствующего <a>feature gate</a> TTLAfterFinished.

10 ttlSecondsAfterFinished - указывает, через сколько секунд специальный TimeToLive контроллер должен удалить завершившийся Job вместе с подами и их логами.spec:ttlSecondsAfterFinished: 100

11 <h2>Манифест</h2>

12 Посмотрим на пример Job-манифеста.apiVersion: batch/v1kind: Jobmetadata:name: hellospec:backoffLimit: 2activeDeadlineSeconds: 60template:spec:containers:- name: helloimage: busyboxargs:- /bin/sh- -c- date; echo Hello from the Kubernetes clusterrestartPolicy: Never

13 В начале указаны название api-группы, тип сущности, имя и дальше - спецификация.

14 В спецификации указаны таймауты и темплейт пода, который будет запускаться. Опции backoffLimit: 2 и activeDeadlineSeconds: 60 значат, что Job будет пытаться выполнить задачу не более двух раз и в общей сложности не дольше 60 секунд.

15 template- это описание пода, который будет выполнять задачу; в нашем случае запускается простой контейнер busybox, который выводит текущую дату и передаёт привет из Kubernetes.

16 <h2>Практические примеры</h2>

17 kubectl apply -f job.yamlИ посмотрим, что получилось.

18 k get pod -w

19 Видим, что контейнер поднялся и завершился в статусе Completed. В отличие от приложений, которые всегда работают и имеют статус Running.

20 Статистику по Job можно посмотреть следующей командой.

21 kubectl get job

22 Видим, что завершились все задания, время выполнения - 5 секунд.

23 Ненужный Job обязательно надо удалять. Потому что, если мы не удалим его руками, Job и под будут висеть в кластере всегда - никакой garbage collector не придёт и не удалит их.

24 Если у вас запускаются по 10-20 заданий в час, и никто их не удаляет, они копятся и в кластере появляется много абстракций, которые никому не нужны, но место занимают. А как я уже говорил выше, каждый под в состоянии Completed - это, как минимум, два остановленных контейнера на узле. А докер демон начинает притормаживать, если на узле оказывается несколько сотен контейнеров, и не важно, работают они или остановлены.

25 Команда для удаления:

26 kubectl delete job hello

27 <h2>Что будет, если сломать Job</h2>

28 Job, который выполняется без проблем, не очень интересен. Давайте мы над ним немного поиздеваемся.Поправим yaml: добавим в темплейт контейнера exit 1. То есть скажем Job’у, чтобы он завершался с кодом завершения 1. Для Kubernetes это будет сигналом о том, что Job завершился неуспешно.

29 containers:- name: helloimage: busyboxargs:- /bin/sh- -c- date; echo Hello from the Kubernetes cluster; exit 1restartPolicy: Never

30 Применяем и смотрим, что происходит: один контейнер создался и упал с ошибкой, затем ещё и ещё один. Больше ничего не создаётся.

31 В статистике подов видим, что создано три пода, у каждого статус Error. Из статистики Job следует, что у нас создан один Job и он не завершился.

32 Если посмотреть описание, то увидим, что было создано три пода, и Job завершился, потому что был достигнут backoffLimit.Обратите внимание!В yaml лимит равен 2. То есть, если следовать документации, Job должен был остановиться после двух раз, но мы видим три пода. В данном случае "после выполнения двух раз" значит 3 попытки. Когда мы проделываем то же самое на <a>интенсиве</a> с сотней студентов, то примерно у половины создаётся два пода, а у оставшихся три. Это надо понять и простить.

33 <h2>Проверка ограничения по времени</h2>

34 Сделаем бесконечный цикл и посмотрим, как работает ограничение по времени - activeDeadlineSeconds.Ограничения оставим теми же (60 секунд), изменим описание контейнера: сделаем бесконечный цикл.

35 containers:- name: helloimage: busyboxargs:- /bin/sh- -c- while true; do date; echo Hello from the Kubernetes cluster; sleep 1; donerestartPolicy: Never

36 Под запустился.

37 Если посмотреть в логи, то увидим, что каждую секунду у нас появляется новый "Hello" - всё как надо.

38 Через 60 секунд под оказывается в статусе Terminating (иногда это происходит через ± 10 сек).

39 Вспомним, как в Kubernetes реализована концепция остановки подов. Когда приходит время остановить под, то есть все контейнеры в поде, контейнерам посылается sigterm-сигнал и Kubernetes ждёт определённое время, чтобы приложение внутри контейнера отреагировало на этот сигнал.

40 В нашем случае приложение - это простой bash-скрипт с бесконечным циклом, реагировать на сигнал некому. Kubernetes ждёт время, которое задано в параметре graceful shutdown. По дефолту - 30 секунд. То есть если за 30 секунд приложение на sigterm не среагировало, дальше посылается sigkill и процесс с pid 1 внутри контейнера убивается, контейнер останавливается.

41 Спустя чуть более 100 секунд под удалился. Причем ничего в кластере не осталось, потому что единственный способ остановить что-то в контейнере - это послать sigterm и sigkill. После этого приходит garbage collector, который удаляет все поды в статусе Terminating, чтобы они не засоряли кластер.

42 В описании Job мы увидим, что он был остановлен, так как активность превысила допустимую.

43 <h2>Поле restartPolicy</h2>

44 При проверке backoffLimit поды у нас перезагружались. При этом в манифесте указан параметр restartPolicy: Never. Но когда мы смотрели, как работает опция backoffLimit, поды перезагружались. Здесь нет противоречия: если вы посмотрите на весь yaml-файл, то заметите, что этот параметр относится не к Job, а к спецификации контейнера, который запускается внутри пода.apiVersion: batch/v1kind: Jobmetadata:name: hellospec:backoffLimit: 2activeDeadlineSeconds: 60template:spec:containers:- name: helloimage: busyboxargs:- /bin/sh- -c- date; echo Hello from the Kubernetes clusterrestartPolicy: Never

45 Этот параметр говорит kubelet, что делать с контейнером после того, как он был завершён с ошибкой. По умолчанию стоит политика Always, то есть если у нас контейнер в поде завершился, kubelet этот контейнер перезапускает. Причем, все остальные контейнеры в поде продолжают работать, а перезапускается только упавший контейнер.

46 Это политика по умолчанию, и если её применить в Job, то Job-контроллер не сможет получить информацию о том, что под был завершён с ошибкой. С его точки зрения под будет очень долго выполняться, а то, что kubelet перезапускает упавший контейнер, Job-контроллер не увидит.

47 Если вы укажете только backoffLimit, но забудете указать restartPolicy, то Job будет выполняться бесконечно.Поэтому в Job надо всегда указывать:<ul><li>backoffLimit (количество попыток),</li>

48 <li>activeDeadlineSeconds (общее время),</li>

49 <li>restartPolicy: Never (сказать kubelet, чтобы он никогда не перезапускал контейнер в поде; если контейнер в поде упал, то и сам под считается упавшим, то есть завершённым. Пусть Job-контроллер разбирается, что произошло).</li>

50 </ul><a>Инструкция по Job’ам в документации Kubernetes</a><h2>CronJob: создание объектов Job по расписанию</h2>

51 Job позволяет выполнить разовые задачи, но на практике постоянно возникает потребность выполнять что-то по расписанию. И вот здесь Kubernetes предлагает CronJob.CronJob - это yaml-манифест, на основании которого по расписанию создаются Job’ы, которые в свою очередь создают поды, а те делают полезную работу.

52 На первый взгляд, всё вроде бы просто, но, как и в предыдущем случае, тут есть куча мест, где можно испытать боль.

53 В манифесте CronJob указывают расписание и ещё несколько важных параметров.

54 <ul><li>startingDeadlineSeconds,</li>

55 <li>concurrencyPolicy.</li>

56 </ul>И два параметра, которые влияют на историю выполнения.<ul><li>successfulJobsHistoryLimit,</li>

57 <li>failedJobsHistoryLimit.</li>

58 </ul>Посмотрим на манифест CronJob и поговорим о каждом параметре подробнее.apiVersion: batch/v1beta1kind: CronJobmetadata:name: hellospec:schedule: "*/1 * * * *"concurrencyPolicy: AllowjobTemplate:spec:backoffLimit: 2activeDeadlineSeconds: 100template:spec:containers:- name: helloimage: busyboxargs:- /bin/sh- -c- date; echo Hello from the Kubernetes clusterrestartPolicy: Never

59 schedule - это расписание в виде строчки, которая имеет обычный cron-формат. Строчка в примере говорит о том, что наш Job должен выполняться раз в минуту.

60 concurrencyPolicy - этот параметр отвечает за одновременное выполнение заданий. Бывает трёх видов: Allow, Forbid, Replace.

61 Allow позволяет подам запускаться. Если за минуту Job не отработал, все равно будет создан ещё один. Одновременно могут выполняться несколько Job’ов.

62 Например, если один Job выполняется 100 сек., а Cron выполняется раз в минуту, то запускается Job, выполняется 61 сек., в это время запускается ещё один Job. В итоге в кластере одновременно работают два Job’a, которые выполняют одну и ту же работу. Возникает положительная обратная связь: чем больше Job’ов запущено, тем больше нагрузка на кластер, тем медленнее они работают, тем дольше они работают и тем больше одновременных подов запускается - в итоге всё застывает под бешеной нагрузкой.

63 Replace заменяет запущенную нагрузку: старый Job убивается, запускается новый. На самом деле это не самый лучший вариант, когда прерываем то, что уже выполнялось, и начинаем ту же самую задачу выполнять заново. В каких-то случаях это возможно, в каких-то неприемлемо.

64 Forbid запрещает запуск новых Job’ов, пока не отработает предыдущий. С этой политикой можно быть уверенным, что всегда запускается только один экземпляр задачи. Поэтому Forbid используют наиболее часто.

65 jobTemplate - это шаблон, из которого создаётся объект Job. Ну а всё остальное мы уже видели в манифесте Job.

66 Применим манифест.

67 kubectl apply -f cronjob.yaml

68 Посмотрим, что получилось:

69 k get cronjobs.batch

70 Увидим название CronJob, расписание, параметр запуска, количество активных Job’ов и сколько времени они работают.

71 Раздел Suspend - временная приостановка CronJob. В данном случае указано значение False. Это значит, что CronJob выполняется. Можно отредактировать манифест и поставить опцию True, и тогда он не будет выполняться, пока мы его снова не запустим.

72 Active - сколько Job’ов создано, Last Schedule - когда последний раз исполнялся.

73 Теперь можно посмотреть статистику по Job’ам и подам.

74 kubectl get job

75 Видно, что создан один Job.

76 kubectl get pod

77 Под создан, он выполнил полезную работу.

78 Что получается: CronJob создал Job, Job создал под, под отработал, завершился - всё здорово.

79 Ещё раз посмотрим на CronJob:

80 Last Schedule был 19 секунд назад. Если посмотреть на Job, то увидим, что у нас появился следующий Job и следующий под.Возникает вопрос: а что будет, если CronJob отработает хотя бы пару недель? Неужели у нас в кластере будет столько же Job’ов и подов в статусе Completed, сколько в этой паре недель минут?

81 Когда CronJob’ы только появились и были на стадии альфа-тестирования, примерно это и происходило: делали CronJob раз в минуту, смотрели - работает, всё здорово, а через неделю кластер становился неработоспособным, потому что количество остановленных контейнеров на узлах было ошеломляющим. Теперь же ситуация изменилась.

82 Снова откроем манифест и посмотрим, что было добавлено:

83 kget cronjobs.batch hello -o yaml

84 Появились опции failedJobHistorLimit со значением 1 и successfulJobHistoryLimit со значением 3. Они отвечают за количество Job’ов, которые остаются одновременно в кластере. То есть CronJob не только создаёт новые Job’ы, но и удаляет старые.Когда только контроллер CronJob создавался, эти опции не были установлены по умолчанию и CronJob за собой ничего не удалял. Было много возмущений от пользователей, и тогда поставили дефолтные лимиты.

85 <h2>И на сладкое - про startingDeadlineSeconds</h2>

86 В параметре startingDeadlineSeconds указывают количество секунд, на которое можно просрочить запуск Job. Если по каким-то причинам Job не создался и с момента, когда его надо было создать, прошло больше секунд, чем указано в этом параметре, то он и не будет создан. А если меньше, то хоть и с опозданием, Job будет создан.Тут есть небольшая ловушка, если concurrencyPolicy разрешают одновременное создание Job, то при большом значении параметра startingDeadlineSeconds возможен одновременный запуск десятков пропущенных Job одновременно. Для уменьшения всплеска нагрузки в код Kubernetes захардкожены лимиты и запрещающие процедуры:

87 Если параметр startingDeadlineSeconds не указан в манифесте:

88 CronJob контроллер при создании Job смотрит на время последнего запуска - значение LastscheduleTime в status: и считает, сколько времени прошло с последнего запуска. И если это время достаточно велико, а точнее за этот промежуток времени CronJob должен был отработать 100 раз или больше, но у нее этого не получилось:

89 <ul><li>например конкурент полиси стоит форбид, крон запускается раз в минуту, и один из запусков подзавис и работал 2 часа, то есть 120 минут;</li>

90 <li>или у нас один мастер в кластере, который упал на пару часов.</li>

91 </ul>В этом случае происходит нечто странное: CronJob перестает работать, новые Job’ы больше не создаются. Сообщение об этом приходит в Events, но хранится там недолго. Для восстановления работы приходится удалять CronJob и создавать его заново.И еще более странное:

92 Если установлен параметр startingDeadlineSeconds, то поведение немного меняется. 100 пропущенных запусков должны уложиться в количество секунд, указанных в этом параметре. т. е. если в расписании стоит выполняться раз в минуту, а startingDeadlineSeconds меньше 6000 секунд, тогда CronJob будет работать всегда, но в этом случае при политике Allow возможен одновременный запуск множества Job.

93 И наконец, любопытный side-эффект:

94 Если установить опцию startingDeadlineSeconds равной нулю, Job’ы вообще перестают создаваться.

95 Если вы используете опцию startingDeadlineSeconds, указывайте её значение меньше, чем интервал выполнения в расписании, но не ноль.Применяйте политику Forbid. Например, если было пропущено 5 вызовов и наступило очередное время исполнения, то контроллер не будет 5 раз запускать пропущенные задачи, а создаст только один Job. Это логичное поведение.<h2>Особенность работы CronJob</h2>

96 Цитата из <a>документации Kubernetes</a>:A cron job creates a job object about once per execution time of its schedule. We say "about" because there are certain circumstances where two jobs might be created, or no job might be created. We attempt to make these rare, but do not completely prevent them. Therefore, jobs should be idempotent.

97 - Вольный перевод на русский:

97 + Вольный перевод на ру��ский:

98 - CronJob создаёт объект Job примерно один раз на каждое время исполнения по расп��санию. Мы говорим "примерно", потому что иногда бывают случаи, когда создаются два Job’а одновременно или ни одного. Мы делаем всё, чтобы сделать подобные случаи как можно более редкими, но полностью избежать этого не получается. Следовательно, Job’ы должны быть идемпотентны.

98 + CronJob создаёт объект Job примерно один раз на каждое время исполнения по расписанию. Мы говорим "примерно", потому что иногда бывают случаи, когда создаются два Job’а одновременно или ни одного. Мы делаем всё, чтобы сделать подобные случаи как можно более редкими, но полностью избежать этого не получается. Следовательно, Job’ы должны быть идемпотентны.

99 Идемпотентны - должны выполняться на одной и той же среде несколько раз и всегда возвращать одинаковый результат.

100 В общем, используйте CronJob на свой страх и риск.

101 В качестве альтернативы CronJob можно использовать под, в котором запущен самый обычный crond. Без выкрутасов. Старый добрый cron работает без проблем, и мы всегда знаем, что задачи будут выполнены один раз. Надо только побеспокоиться, чтобы внутри пода с кроном не выполнялись одновременно несколько задач.

102 Изучить продвинутые абстракции и попрактиковаться в работе с Kubernetes можно с помощью <a>видеокурса Kubernetes База</a>. В октябре 2020 мы обновили курс, подробности <a>здесь</a>.