«По очереди» — это употребленное в наречном значении сочетание существительного с предлогом. Пишется раздельно.
Пример:
Той ночью они спали по очереди.
Правило применяется и к слову «вне очереди».
Примечание. Слитно пишется слово «поочередно», так как оно имеет в составе такие части, которые в современном языке не употребляются. В данном случае это — «очередно».
«Внеочередной» — прилагательное и пишется слитно.