Чем вызвано собственное свечение верхних слоёв атмосферы?

Несколькими причинами.

Во-первых, люминесценция. Остаточная атмосфера на этих высотах "заряжается" солнечными лучами, когда она оказывается на дневной стороне (фотоионизация), и затем постепенно отдаёт накопленную энергию, когда уползает на ночную сторону (релаксация).

Во-вторых, люминесценция под действием космического излучения.

В-третьих, хемолюминесценция при соединении атомов кислорода и азота. На таких высотах в силу чрезвычайной разряжённости атмосферы кислород и азот присутствуют не только в виде молекул, но и в атомарном виде. Жёсткое УФ излучение Солнца разбивает молекулы, и атомы разлетаются, не успев рекомбинировать. И шанс на рекомбинацию у них появляется о-очень нескоро. Поэтому если им подвернётся другой атом, они с радостью с ним соединяются в окись азота NO. При этом излучается квант света.

В-четвёртых, свечение вызывается ионами натрия, присутствующими в атмосфере на высоте порядка 80-100 км (натрий поставляется в атмосферу океанами). Этот слой, кстати, используется астрономами для динамической коррекции адаптивной оптики в телескопах - луч лазера вызывает интенсивное свечение ионов натрия и создаёт "искусственную звезду", по изображению которой удаётся в реальном времени компенсировать турбулентности атмосферы.