A terjeszkedő római birodalom hódító háborúi során fokozatosan az egész Pannóniát kezébe kaparintotta. Ez a terület mintegy ötszáz esztendőn keresztül maradt a római légiók kezén. Róma szempontjából a vidék katonai jelentősége volt a fontos, ugyanis az Itáliát védő erődláncolat egyik legfontosabb láncszemét képezte a dunai limes. A külső barbár támadások elhárítására építették ki a határvédő erődökből és őrtornyokból álló limest. Ilyen táborok voltak a mai Zimony helyén Taurunum, Slankamen mellett Acumincum, Pétervárad helyén Cusum, Bánostornál Bononia és Újlaknál Cuccium. A katonai hatalom biztosításának egyik elengedhetetlen feltétele volt az a kiterjedt útrendszer, amivel a rómaiak az egész tartományt behálózták. A közlekedési útvonalak mentén épültek ki a római városok, amelyek a gyors romanizáció által a közigazgatás és a kultúra valóságos központjaivá váltak.
Az ókori világ egyik legjelentősebb városa Vajdaságban Sirmium (ma: Sremska Mitrovica) volt. A táj, ahol a település kialakult, már az őskorban letelepedésre csábította az embert előnyös, szépséges fekvésével, enyhe éghajlatával. A kőkorszaki ember tevékenységének nyomairól számos régészeti lelet tanúskodik. A település név szerint első ismert lakói az illír népcsoportba tartozó amantinok és szirmienzek, valamint a kelta scordiscusok voltak.
Időszámításunk előtt 35-31 között a Száva folyótól északra elterülő vidéken is megjelentek Octavianus légióinak hódító zászlai. Sirmium így egy hatalmas világbirodalom vérkeringésébe illeszkedett be, és ennek több előnye.volt: elterjedt a rabszolgaság, fejlődésnek indult a mezőgazdaság, bányászat, kereskedelem és a kézműipar. A fontos utak kereszteződésénél fekvő város csakhamar felvirágzott, de fejlődése egy időre megrekedt, amikor kitört az őslakosság nagy lázadása (i. sz. 6-9). A rómaiak irgalmatlanul elfojtották a zúgolódást. A gyors pacifikáció és a romanizáció következményeként az őslakosság hamarosan elfeledve saját nyelvét és kultúráját, letűnt a történelem színpadáról.
A szerény település szomszédságában az első század elején katonai tábort alapítottak. Ez határozta meg Pannónia megszállóinak és őslakóinak életmódját és viszonyát is: mindent a római hadsereg érdekeinek kellett alárendelni. A táboralapítás után feltűntek az első kereskedők és kézművesek. A szegényes kunyhókat és faépítményeket egyre inkább kö- és téglaépítmények váltották fel. Sirmium épült, bővült, terjeszkedett, népesedett. A lakosság tarkabarka összetételű volt (illírek, kelták, görögök, zsidók), ennek ellenére mind rómainak vallotta magát.
Sirmium az első század végére jelentős katonai és gazdasági központtá fejlődött. A Flaviusok uralkodása alatt (69-96) megkapta a colonia rangot: „Colonia Flavia Sirmiensium” (a coloniák egyenrangú városok voltak Rómával, lakói is a teljes jogú római polgárok közé tartoztak).
A II. század folyamán Sirmium több római császárt látott falai között (Traianust, Marcus Aureliust, Septimius Severust), akik innen indították büntető hadjárataikat a birodalmi határokon túl, hogy az onnan be-becsapó nyugtalan törzseket megfékezzék. A jobb védelem és közigazgatás érdekében Traianus császár 107-ben kettéosztotta a tartományt: Pannonia Superior-ra (Felső P.) és Pannonia Inferiorra (Alsó P.). Hasonló okokból, a század fordulóján Diocletianus császár négy részre osztotta. Pannonia Superior északi részét Pannonia Prima (Első P.), a Drávától délre Savia (a Száva folyóról) néven szervezte újjá, a hajdani Inferior északi része a Valeria (Diocletianus társcsászárának feleségéről), a déli része pedig a Pannonia Secunda (Második P.) nevet kapta.
A III. század az ókori Róma történetének egyik legvéresebb időszaka. A birodalom nyugalmát a gyakori polgárháborúk, politikai és gazdasági krízisek borították fel. 235-285 között nem kevesebb, mint 26 császára volt a birodalomnak, és ezek közül csak egy halt meg természetes halállal. Róma fokozatosan elvesztette politikai jelentőségét, és a birodalom hatalmi góca Pannóniába tevődött át. Ennek egyik oka az volt, hogy a pannóniai légiók kitanulták a „császárcsinálás” minden fortélyát. Egymás után kiáltották ki saját tisztjeiket császárokká. Öt római császár mondhatta Sirmiumot vagy közvetlen környékét szülőföldjének: Decius, Aurelianus, Probus, Maximianus és II. Constancius.
A birodalom és Sirmium számára is fordulópontot jelentett a dalmáciai születésű Diocletianus (284–305) trónra lépése. Ő a politikai egyensúlyt gyökeres reformokkal és a kormányzás megosztásával akarta megőrizni. Régi bajtársát, Maximianust társcsászárrá nevezte ki, majd Mediolanumban (ma: Milano) 293. március 1-jén kihirdette a két fő- (augustus) és két alcsászárból (caesar) álló négyes uralmat (tetrarchiát). A birodalom felosztásakor, Diocletianus Keletet tartotta meg, Galerius Thraciát és a dunai tartományokat, Maximianus Italiát, Afrikát és a szigeteket, Constantinus Chlorus Galliát, Hispaniát Mauretaniával és Britanniával együtt. Mindegyik uralkodó rendeletei érvényesek voltak társaik tartományaiban, de az állam legfőbb ura Diocletianus maradt.
A tetrarchia bevezetése után Róma már csak névlegesen volt a birodalom fővárosa, mivel mind a négy uralkodó az, „örök várostól” távoli városokban tartott udvart, emeltetett pompás palotát: Diocletianus Nikomédiában (ma: Izmit, Törökország), Galerius Sirmiumban, Maximianus Mediolanumban, Constantinus Chlorus Augusta Treverorumban (ma: Trier, Németország).
Galerius császár székhelyévé történő kinevezése Sirmium történelmének legfényesebb időszaka volt. Számos új, reprezentatív épülettel gazdagodott. Ammianus Marcellinus, az ókori világ utolsó nagy történésze Sirmiumot a „nagyképességű dicső városanyának” nevezte. Az egykor virágzó császárváros építményeit kevésbé kímélték meg az évszázadok, ma csak töredékekben maradt ránk. Sremska Mitrovicán 1957-tól folynak az ásatások. Sirmium módszeres feltárását nehezíti az a körülmény, hogy a későbbi város ráépült a rómaira, s olyan épületek, lakónegyedek vannak fölötte, amelyek lebontása szóba sem kerülhet. Ismerkedjünk meg egy kicsit közelebbről a III–IV. századi Sirmiummal. A barbár betörések elleni védekezésül, még az I. században magas fallal és bástyákkal építették körül. Az érkező idegent a városfalakon belül megszokott kép fogadta, mivel a birodalom városai eléggé hasonlítottak egymásra, mert mindegyik az. „örök várost”, Rómát igyekezett utánozni, amennyire lehetett. Az utcák kövezve és csatornázva voltak. A friss vizet 14 km távolságból, a Fruška gora-i Manđelos faluból vezették le. A város közepén volt a forum, a nép gyülekezőhelye és egyben piactér, amelyen a nagyszabású és gazdag épületek sorakoztak: a tanácsépület, színház, szentélyek, templomok, Litinius császár fürdői, gabonaraktár, bazilika és más középületek. A város tereit, épületek szökőkutak, domborművek és márványszobrok díszítették. A forumon keresztezték egymást az utak, körülötte helyezkedtek el a kereskedelmi tegvedek és a műhelyek, s távolabb lakott tágas oszlopcsarnokos házaiban az arisztokrácia. A forumtól délre épült fel, a város két legimpozánsabb épülete a császári palota és a versenypálya (hyppodrom). A palotában és sok előkelő villában megtalálhatjuk a rómaiak jellegzetes központi fűtésének (hypocaustum) maradványait, amelynek segítségével a padlót és a falakat egyenletes hőmérsékleten lehetett tartani. A gazdag rómaiak díszítő szenvedélyének bizonyítékai a gyönyörű mozaikpadlók és a falfestmények.
A város gazdaságának alapját a földművelés, szőlőtermelés, ipar és kereskedelem képezte. Sirmiumban jelentős kézművesműheIyek működtek. Itt készültek a pannóniai légiók fegyverei. A IV. századtól saját pénzverdéje volt. A Sirmiumi kézműves műhelyek termékei iránt nemcsak a helybeli piacon, hanem távolabbi vidékeken is nagy volt a kereslet.
A település temetője a városból kivezető utak mentén terült el. A temetkezési szokások a nyelvi és származási tarkaság ellenére nagy vonásokban egységesek voltak. Az I–II. században a temetkezés leggyakoribb formája a halotthamvasztás volt. A II. század közepétől terjedt el a halotthantolás, amely a század végén a szarkofágokba való temetés szokásával egészült ki. A sírokba mellékleteket tettek: üveg- és agyagedényeket, pénzt, ékszert, játékokat, olajmécseseket és más használati tárgyakat. A kereszténység elterjedésével megfogyatkoztak a sírmellékletek.
A Milanói türelmi rendelettel Konstantin császár 313-ban véget vetett a pogányság és kereszténység több évszázados harcának. Sirmium jelentös egyházi központ volt, ahol püspök székelt, és a IV. század közepén néhány fontos zsinatot tartottak.
A hunok V. századi támadása meggyorsította a barbárok beszivárgását a birodalom tartományaiba. A leggyőzhetetlennek hitt világbirodalmat mind gyakrabban érték megalázó vereségek. Rogyadozott az európai határok erődláncolata, s a Duna folyó sem nyújtott már kellő védelmet a támadókkal szemben. Sirmium utolsó szabad évtizedeit élte. 441-ben a hunok kezére jutott. Uralmuk szertefoszlása után hódító hódítót követett: gepidák, osztrogótok, langobárdok, Bizánc, majd az avarok küzdöttek Sirmiumért. A VI. század közepén a felperzselt Pannóniát elözönlötték az avarok. Sirmiumot rögtön maguknak követelték, de a jól védett város kemény dió volt a hódítók számára. Az avarok vezére, Baján kagán küldöttséget menesztett Tiberius császárhoz Konstantinápolyba, követelvén, hogy a császár adja át nekik Sirmiumot. A császárt felbőszítette ez a parancs, és azt válaszolta, hogy szívesebben a kagánnak adja két lánya közül az egyiket, mint Sirmiumot. A konstantinápolyi kudarc után Sirmiumot még kitartóbban támadták és három évig sikertelenül ostromolták. Végül 582-ben az avarok kezére került. Az életben maradt polgárok Boszniába és Dalmáciába húzódtak vissza, abban reménykedve, hogy egy napon majd visszajöhetnek Sirmiumba. A békeszerződés értelmében a lakosok távozásukkor csak egy köpenyt vihettek magukkal. Az elrejtett kincsek után kutatva az avarok feldúlták az egész várost, és így nagy károkat okoztak a meglevő épületeken.
Feliratos tégla Sirmiumból. A rajta levő görög nyelvű szöveg: „Krisztus urunk, segítsd meg
a várost, állítsd meg az avarokat, tartsd meg a rómaiak országát és e sorok íróját”
A római uralom megbukott, akárcsak a többi provincia, Pannónia is behódolt a barbároknak. Az avar uralom egy egészen új fejezetet nyitott meg ennek a városnak a történelmében, amely abban az időben többet ért, mint a császár leánya.