¿Cómo generar documentos desde github?

La window acoplable de ejemplo escribe que está documentada en GitHub. https://docs.docker.com/engine/installation/

De alguna manera, generan su documento desde github.com https://github.com/docker/docker.github.io/tree/master/engine

¿Qué software de documentation usan?

Es Jekyll en la página de Github. Básicamente, utiliza Jekyll como generador de sitios estáticos con GitHub Pages. Y agrega un dominio personalizado que es https://docs.docker.com

Mire aquí https://github.com/docker/docker.github.io/blob/master/README.md#staging-the-docs y dice sobre cómo configurar Jekyll en su máquina.

Además, esta página explica cómo configurar Jekyll con Github Page también: https://jekyllrb.com/docs/github-pages/