Da ne bi uzalud izrovali bečke ili peštanske ulice, Austro-Ugari su odlučili "konjsku željeznicu" - kako se tada nazivao tramvaj - isprobati prvo u Sarajevu. Tako se u ljeto 1884. godine počelo sa kopanjem sarajevskih ulica i polaganjem tramvajskih šina. Tom prilikom Sarajevo je ostalo bez jednog od najljepših mostova - kamenog mosta koji je premošćavao Koševski potok kod Alipašine džamije, ali je dobilo i titulu prvog grada na Balkanu i u srednjoj Evropi koji je imao tramvaj. Prva tramvajska pruga u Sarajevu bila je duga 3,1 kilometar, a počinjala je od današnjeg Ekonomskog fakulteta, pružala se Ferhadijom i dalje glavnom gradskom ulicom (današnjom Titovom) preko Marijin dvora i završavala na uzanoj željezničkoj stanici. Tada je napravljena samo jedna traka pa se tramvaj vraćao istim šinama kojim je i došao. Bilo je propisano da jedan konj ne smije voziti više od dva kruga, kako se ne bi iscrpio.Johan Hanke je bio prvi "tramvajdžija".

Prvi tramvaj je zvanično počeo s radom 01. januara 1885. godine u 10 sati. Sva četiri kola za osobni promet stajala su pred stanicom u Ferhadiji, a pred njima su se okupili zemaljski poglavar Appel, civilni adlatus Nikolić, podmaršal Buvard, generali Haas i Arlow, predstojnici Zemaljske vlade i Gradsko poglavarstvo. Cijela ova svita je zatim sjela u kola i za 13 minuta odvezla se do gradskog kolodvora "glatko, čisto, nečujno, kao na dlanu".