Skoledirektoratet tog sin begyndelse som et skoledirektørembede. Med en kongelig forordning i 1844 (Anordning af 20. marts 1844) blev skoledirektionen suppleret med en lønnet direktør. Direktøren skulle fungere som direktionens sekretær og regnskabsfører. Hans opgaver i øvrigt bestod i at føre tilsyn med skolevæsenet og sikre, at lærerne udførte deres arbejde samt føre kontrol med, at undervisningspligtige børn fik undervisning.
Skoledirektørembedet blev i 1886 delt i to. En skoledirektør skulle tage sig af de offentlige skoler og en anden skulle bestyre de private skoler, der stod under Skoledirektionen. I 1899 blev de to skoledirektørembeder igen slået sammen til et embede med to vicedirektører under sig.
Skoledirektørembedet udviklede sig til et egentligt kontor, og i 1908 fik skoledirektøren navn af at være chef for Skoledirektionens kontor. I 1963 ændrede kontoret navn fra Skoledirektionens kontor til Direktoratet for Københavns kommunes skolevæsen (bedre kendt som Skoledirektoratet).
Magistratens 1. afdeling, som skolevæsenet hørte ind under, blev sammen med de øvrige magistratsafdelinger nedlagt i 1997. Skolevæsenet blev lagt ind under Uddannelses- og Ungdomsforvaltningen.
