Sjømilitære distriktskommandoer ble opprettet i 1894 (kgl.res. 30.12.1893), da det ble besluttet at sjefene for de eksisterende verftene også skulle være sjefer for hvert sitt sjømilitære distrikt. Sjefen for Karljohansvern verft ble sjef for Karljohansvern sjømilitære distriktskommando. Hans gjøremål begrenset seg i så henseende til å føre ruller over distriktets sjøvernpliktige. I 1901 ble det opprettet tre sjømilitære distriktskommandoer. Utkast til foreløpige bestemmelser for de sjømilitære distriktssjefer ble fastsatt ved kgl.res. 22.6.1901. Her ble det fastslått at distriktssjefen i 1. distrikt samtidig skulle være kommandant for Karljohansvern befestninger. I henhold til forsvarsordningen av 1927 ble 2. sjømilitære distriktskommando (Marviken) fra 1.5.1929 i fredstid underlagt 1. sjømilitære distriktskommando. I henhold til forsvarsordningen av 1933, da kystfestningene ble overført til Sjøforsvaret, ble fra 1.7.1934 de daværende sjømilitære distriktskommandoer opphevet og kysten inndelt i tre sjøforsvarsdistrikter. Midlertidig instruks for sjefen for 1. sjøforsvarsdistrikt ble fastsatt av Forsvarsdepartementet 11.7.1934.