1802. december 15-én Kolozsvárott született Bolyai Farkas és Benkő Zsuzsanna szülők gyermekeként. Matematikai neveltetésének kezdetét apjától kapja, aki a marosvásárhelyi Református Kollégium tanára volt. János is itt végezte az alsó és középfokú iskolát. Matematikai tehetsége már korán megmutatkozott, és az apa, ha beteg volt, 13 éves fiát küldte előadást tartani az akkori bajuszos diákoknak.
1818-tól, 16 évesen kezdi meg tanulmányait a bécsi Hadmérnöki Akadémián, ahol évfolyamtársai közül messze kiemelkedik matematikai tudásával. Katonai tanulmányait 1823-ban fejezte be kitűnő eredménnyel, és alhadnagyi ranggal Temesvárra helyezték. Amikor szolgálatának első évében, mindössze 21 évesen, megalkotta az abszolút (nem euklideszi) geometriát, apjának címzett híres levelében veti papírra az azóta sokat idézett mondatát, hogy "a semmiből egy új, más világot teremtettem".
Az egyik akadémiai jegyzetfüzetében találhatók azok az 1820 körül készített ábrák és utalások, amelyek bizonyítják, hogy már akkor foglalkozott a paralelák problémájával. Felfedezését az új geometriai rendszerről apjához írt levelében fejti ki, és 1825-ben, amikor több évi távollét után hazalátogatott, bemutatja apjának a paralelák problémája megoldását. Ekkor kezdődött az apa és fia között a vita, mert az apa nem érti meg és nem méltányolja felfedezését.
A katonatisztet 1826-ban áthelyezik Aradra. Innen küldi el bécsi matematikatanárának az új geometriai művének kéziratát, de az érdemi elismerés ekkor is elmarad. A korszakalkotó mű, amely mindössze 29 oldal terjedelmű, a marosvásárhelyi kollégium nyomdájában jelenik meg 1832-ben latinul, apja Tentamen című könyvének függelékeként. Innen ered az Appendix ragadványnév (appendix = függelék, toldalék, melléklet). A rendkívűl tömören megírt értekezés címe magyarul így hangzik: "A tér abszolút igaz tudománya: függetlenül Euklidesz XI. (a priori soha el nem dönthető) axiómájának igaz vagy téves voltától: hozzácsatolva téves volta esetén a kör geometriai négyszögesítése". A könyv egy példányát bírálat céljából elküldték Gaussnak, a matematikusok akkori fejedelmének, aki az alkotást zseniálisnak, de korát annyira megelőzőnek tartotta, hogy még ő sem vállalta az új geometria támogatását, pedig az Appendixben megalkotott geometriai rendszer alapján Bolyai Jánost ma a világon eddig élt tíz legnagyobb matematikus között tartja számon a nemzetközi tudósvilág az orosz Lobacsevszkijjel együtt, aki Bolyaitól függetlenül hasonló eredményekhez jutott.
Mivel a mű kinyomtatási költségeit magának kellett fedeznie, az anyagiak hiánya miatt eredményeinek csak egy részét közölhette. A kutatásokkal csak a szolgálati idején kívül, szabad óráiban foglalkozhatott a temesvári, aradi, lembergi majd olmützi állomáshelyén. A katonai szolgálat sehogyan sem volt ínyére. Lázongott a számára gyermekded feladatok és a szolgai fegyelem ellen. Közben megkapta a maláriát és átvészelt egy kolerafertőzést. Megromlott egészségi állapotára hivatkozva feletteseitől kérte három évre való felmentését a napi szolgálatok alól, hogy tudományos kutatásait folytathassa, de kérelmét elutasították, ellenben 1833 közepén kapitányi rangban nyugállományba helyezték. Ezután Domáldon, majd 1846-tól Marosvásárhelyen tudományos problémákba és írásba mélyedve töltötte életét. Elhagyatottan és szegényen hunyt el 1860. január 27-én.
Életművére, amely világhírt szerzett Bolyai nevének és a magyar tudománynak, halála után két évvel figyelt fel a drezdai Richard Baltzer, de csak 1867-es dolgozatában jelenik meg az új geometriai rendszer elemzése. 1868-ban az Appendixet lefordítják franciára. Egy olasz folyóiratban átdolgozása jelenik meg a műnek, majd napvilágot lát az olasz fordítás is.
1872-ben kijön a nyomdából a német fordítás. 1891 és 1896 között négy angol kiadása jelent meg az Appendixnek, 1895-ben pedig elkészült a tokiói kiadás is. A mű magyar fordítása csak 1895-ben jelent meg!
Az abszolút geometrián kívül a matematika más területén is tevékenykedett. Az 1837-ben egy lipcsei pályázatra beküldött, Responsio című dolgozatában a komplex számok hatványait és logaritmusait, korát megelőzve, függvénytani alapon értelmezte. E munkájával Bolyait Hamilton angol matematikus mellett a komplex számok modern elmélete megalapozójának tekinti a tudósvilág.
Az Appendix latin kiadása után a tudós a haláláig mintegy 25000 oldalnyi szöveget írt. Ebből azonban az anyagiak és az erkölcsi támogatás hiánya miatt életében semmi sem jelent meg nyomtatásban. A kéziratokkal telt ládákat Bolyai halálakor a marosvásárhelyi várparancsnok lefoglalta és a városi rendőrség fészerében helyezte el, ahol a rácsorgó esőtől egy részük elázott. A lefoglalást avégett tették, hogy megvizsgálják, nincs-e bennük katonai vonatkozású titok. A ládák a rendőrségről a Református Kollégiumba kerültek.
1869-ben Rómában, Párizsban és Bordeauxban ismertetik Bolyai János biográfiáját, amikor még odahaza senki sem figyel fel eredményeire. És amikor megjelenik az Appendix olasz kiadása, az olasz tudományos akadémia matematikai osztálya elnöke levelet ír Eötvös Józsefnek, a Magyar Tudományos Akadémia akkori elnökének és kérdi tőle, hogy Bolyai tagja-e a Magyar Tudományos Akadémiának. Nemhogy tagja lett volna az Akadémiának, de még a nevét sem igen hallották! Az olasz matematikus felhívja Eötvös figyelmét, hogy ilyen lángelme iratai között biztos még sok értékes eredmény található. És ekkor Eötvös utasítására a kéziratok fölkerülnek a Magyar Tudományos Akadémiára, ahol 1894-ig tanulmányozták, majd visszaküldték őket Marosvásárhelyre, ahol ma is a Teleki-tékában őrzik és kutatják.
Ezekből a kéziratokból tudtuk meg, hogy az 1840-es évek elején Bolyai elhatározta az emberi tudás egészét felölelő összefoglaló műnek a megírását, melynek a címe TAN lett volna. Ennek keretében á MÚLTAN az elmúlttal, vagy is a történelemmel foglalkozott volna, és ennek csak a vázlata s egy-egy része készült el. Az ÜDVTAN egyik része a "Nyölv", amely az anyanyelvnek a gondviselésévei foglalkozik. Az ÜDVTAN-hoz sorolja az "Igaztan"-t (ez a mennyiségtan), az "Oktan"-t, azaz a logikát, a "Széptan"-t, azaz az esztétikát és a "Jótan"-t. Ez utóbbi tárja fel a boldogság megvalósításának útjait és kívánalmait. Itt kapnak helyet az újonnan kidolgozandó törvények, életmódszabályok, egyszóval mindaz, ami a társadalmi közösséget összetartja és rendezi.
A hadseregben Bolyai a legjobb kardforgatók közé tartozott, és mégis azt vallotta, hogy "nem durva erővel, hanem műveltséggel kell igyekeznünk kitűnni". Nem tett különbséget magyar, német vagy román között. Ezzel kapcsolatban a következőket írta: "Nem akarok boldogító, idvezítő terveimmel csak a magyar nemzetre szorítkozni: az egész emberi nem általános boldogítása fekszik nekem szivemen. Mi fölséges, édes érzés lesz, ha minden választékok leomolván, az ember az embert embernek nézi."
Bolyai matematikai munkásságához nemcsak az Appendix és a Responsio tartozik, hanem a magasabb fokú egyenletek megoldásának kutatása is. Ezenkívül Toró Tibor, a Temesvári Tudományegyetem professzora a Bolyai-gyűjteményt kutatva megtalálta azt a kéziratot, amelyben Bolyai, mintegy száz évvel Einstein előtt, leírja azt az elméletet, miszerint a tér szerkezetét a gravitáció határozza meg, tehát azt az elméletet, amelyet Einstein a saját alkotása csúcsának tekint: az általános relativitás elméletét. Már Gauss göttingai utóda, Bernard Rieman megsejtette, hogy a tér szerkezetét fizikai tényezők határozzák meg, de nem tudta megmondani, hogy melyik az a fizikai tényező. Bolyai ellenben kijelentette, hogy ez a tényező a gravitáció, azaz az általános tömegvonzás, a nehézkedés.
Bolyai eredményei annál figyelemre méltóbbak, ha tudjuk, hogy elszigetelten, nehéz körülmények között élt, távol a tudományos élettől, és nem jutottak el hozzá a friss információk. Csak két forrása volt, ahonnan matematikai természetű újdonságokról értesülhetett. Az egyik saját matematikatanár apja, aki egész életén át szoros tudományos kapcsolatot tartott és sok levelet váltott Gauss-szal. A másik kútfő a magyar nyelvterület első könyvtára, a marosvásárhelyi Teleki-téka, melynek Bolyai János rendszeres látogatója volt.
Bolyai János nevét ma az egész világon ismerik azok, akik felsőbb matematikát tanulnak. 1902-ben a Magyar Tudományos Akadémia megalapította a Nemzetközi Bolyai díjat, azzal a szándékkal, hogy ötévenként ítélnék oda világhírű matematikusoknak. A nemzetközi bizottság először 1905-ben Henri Poincarénak nyújtotta át, majd 1910-ben David Hilbert kapta a díjat. 1915-ben Einsteint javasolták a díjra, ám a háború éveiben a díjátadásra már nem kerülhetett sor.
Kolozsvárott az egyetem Bolyai nevét viseli, a Hold tulsó oldalán pedig egy kráter őrzi a nevét. A berlini Copernicus Intézet által 1441-es számmal lajstromozott kisbolygó is Bolyai nevét kapta.