De precieze ontstaansgeschiedenis van het Kanonenbahn-idee laat zich tegenwoordig niet meer terug volgen, maar al in 1871/72 moeten de eerste plannen zijn uitgewerkt.
Ze lieten in de kern al de wezenlijke elementen van de later uitgewerkte tracés zien. Door de in de herfst van 1873 zich aftekenende economische crisis was de regering van Bismarck in staat in 1876 de Halle-Kasselerbahn over te nemen en vlocht deze lijn bij in de plannen voor de Kanonenbahn.
De Pruisische wet van 11 juni 1873 – zo gewild de Kanonenbahn wet – zei het woordelijk. Het stelde de Pruisische minister van handel, industrie en openbare werken 120 miljoen taler (360 miljoen mark) voor de uitbreiding, vervolmaking en betere toerusting van het staatsspoorwegnet ter beschikking, een voor toenmalige omstandigheden geweldige som. Het geld zou voor een groot deel komen uit de door de fransen als oorlogsvergoeding betaalde 5 miljard frank, wat evenzo een gigantisch bedrag was. Tot dan toe was het in 1870 in alle Duitse spoorwegen geïnvesteerde bedrag ruim 1,3 miljard taler. De financiering van de Kanonenbahn was hierdoor verzekerd. op wat gedaan kon worden. De Pruisische staat beschikte in de vijftiger jaren over meerdere eigen spoorlijnen, door de veroveringen van 1866 waren er de staatsbanen van Hannover, Kurhessen, Nassau en Frankfurt am Main bij gekomen. Hoewel sinds de annexaties van 1866 het Pruisische land niet meer verdeeld was in losse stukken, was er geen eigen staatsspoorwegverbinding tussen de oostelijke lijnen en die in de westelijke provincies. Het hoofddoel zou zich moeten toespitsen op het sluiten van de gaten. Dat liet zich ook met burgerlijke argumenten goed verdedigen, want een intern goed aansluitend staatsspoorwegnet kon zo beter concurreren met de privé-lijnen – tot zegen van allen, zoals de nog onaantastbare leer van de volkseconomie het concurrentie-principe verkondigde.