U legendama i predanjima ostalo je zabilježeno da je ćupriju podigao siromašni kozar, Meho. Njegove su se koze dugo zadržavale oko nekog grmlja na rijeci gdje on pronađe ćup pun zlatnika. Tim je novcem platio sebi školovanje a kad je postao ugledan i bogat podanik Carevine, sagradi most na Miljacki na mjestu gdje su mu koze ukazale na zlato.
U narodu je, kao i za sve ostale objekte graditeljskog nasljeđa Bosne i Hercegovine, ostalo mnogo predanja o vremenu nastanka mosta i o značenju njegovog imena.Prema podatku iz 1682. godine, Alija Bejtić povezuje vrijeme nastanka i ime mosta sa naseljem Jarčedoli. On naselje datira u XVII vijek i porijeklo njegovog imena veže uz imenicu jarac ili jarčevi, koje su stanovnici toga sela sigurno gajili. Ispod ovoga sela na Miljacki se nalazi Kozija ćuprija, pa je zanimljivo da je po istoj životinji nastalo ime kako sela, tako i mosta. Jedno od predanja govori da su most podigli Rimljani. Međutim, kao odgovor na ovu tvrdnju može da se citira Robert Michel, koji kaže da su takve ocjene površne i da su ih, uglavnom, iznosili obični putnici ne htijući ovako monumentalne građevine pripisati Osmanlijama.
Postoje i tvrdnje da je Koziju ćupriju sagradio Mehmed-paša Sokolović. Svakako da ova tvrdnja ne bi bila naročito uvjerljiva da jedan drugi indirektni dokaz ne upućuje i na tu mogućnost. To je tekst natpisa u kamenu sa objekta (kioska) koji se nalazio u neposrednoj blizini mosta, a koji je sagrađen, vjerovatno, u vrijeme dovršavanja samog mosta, kao nadomjestak sofi koja se obično pojavljuje na centralnom stubu mostova sa više lukova (višegradski most). Tekst natpisa daje godinu postavljanja 1577-78, tj. isto vrijeme kada je postavljen i mlađi natpis na višegradskoj ćupriji. Prepis natpisa je ostao sačuvan kod Kadića:
”Sagradi se ovaj divni kiosk,
Ko ga vidi misli da je časni raj.
Jedan derviš mu izreče kronostih:
Sastajalište zaljubljenih, krasno mjesto.
Godina 985. H. (1577/78)
Mostovi boljeg kvaliteta i veće trajnosti su podizani na svim važnijim trgovačkim putevima kojima se odvijao saobraćaj onoga doba i koji su imali širi značaj. U prvo vrijeme su se podizali, uglavnom, drveni (most na Prači), a u XVI vijeku već postoji određen broj objekata koji su izgrađeni od kamena. Tradicija izgradnje drvenih mostova se uprkos tome i dalje održala na ovim prostorima kako zbog jednostavnijeg načina izgradnje, tako i zbog niže cijene koštanja.
Kamen kao građevinski materijal, prema svojoj bitnoj karakteristici i oblikovnim mogućnostima, predodređen je za stereotomsku formu. Osnovna stereotomska forma koja je u svim mostogradnjama svijeta postala zajednička karakteristika jeste svod – jedan svod položen između dvije obale ili niz svodova koji u određenom ritmu povezuju obale rijeka.
Prilikom izgradnje mostova konfiguracija terena i širina rijeke u znatnoj mjeri utiču na izbor lokacije na kojoj će se podići most i ima vrlo važnu ulogu za određivanje njegovog oblika. Šire rijeke, koje su na određeni način bile plovne, u početku su dobijale skele za prelaz (Bosna, Drina, Vrbas), a uže rijeke, naročito one sa strmijim obalama i promjenljivom količinom vode (Miljacka, Žepa, Prača, Bistrica) dobijale su mostove.
Na mjestu na kome je podignuta Kozija ćuprija Miljacka nije široka, niti su obale niske, već je rijeka duboko usječena u stijene. Izabrano je, dakle, najpogodnije mjesto za premošćavanje u cijeloj okolini. Dva stjenovita masiva, otprilike iste visine, približavaju obale na oko 17,5 metara. Nevelik raspon i znatna visina trase carigradskog druma na ovom dijelu su uslovili presvođavanje rijeke u jednom jedinom luku, analogno mostu na ušću Žepe ili u Mostaru.
Kozija ćuprija je kameni jednolučni most koji djeluje kao cjelina na kojoj su skladno povezani svi arhitektonski detalji - luk i dva olakšavajuća otvora. Veliki, približno polukružni svod nad koritom rijeke i dva razmjerno velika kružna otvora na njegovim čeonim zidovima, bjelina dobro obrađenog sarajevskog krečnjaka sa efektno potcrtanim krivuljama otvora u materijalu koji kontrastira bojom; ostvarenje koje je isto toliko igra koliko i kompozicija apstraktnih geometrijskih oblika u dinamičnoj negeometrijskoj razigranosti okolne prirode – to su prve impresije koje svaki posmatrač doživi kad neočekivano ugleda pred sobom ovo ostvaren je smiono i ljupko u isto vrijeme.