En bash la mayor parte de las cosas las haces lanzando comandos como cp. Casi todos esos comandos son pequeños programas, aunque algunos como cd están incluidos en el shell.
Los comandos vienen en paquetes, la mayoría de la Free Software Foundation (o GNU). Mejor que listar aquí los paquetes, te enviaré al Linux From Scratch HOWTO. Tiene una lista completa y actualizada de los paquetes que se incluyen en un sistema Linux así como instrucciones sobre cómo construirlos.