Opción A (Se necesita una conexión a internet disponible)
Descargar el script instalador:
curl -O http://python-distribute.org/distribute_setup.py
Ejecutar el instalador
python distribute_setup.py
Opción B (Puedes instalarlo off line una vez descargado el archivo tar.gz)
Descargar el paquete (según la última versión 0.6.35)
curl -O http://pypi.python.org/packages/source/d/distribute/distribute-0.6.35.tar.gz
Descomprimir
(En windows se puede usar 7 zip)
tar -xzvf distribute-0.6.35.tar.gz
Ejecutar el instalador
cd distribute-0.6.35
python setup.py install