1970. április 13-án Sopronban született. Győrben kezdte tornász pályafutását, de már az Újpest sportolója volt, amikor az 1988-as ifjúsági Európa-bajnokságon az első komolyabb sikereit és érmeit elérte: lólengésben 3., gyűrűn pedig 2. lett. Az 1989-es az Ifjúsági Barátság Versenyen gyűrűn már aranyérme lett, és bekerült a felnőtt válogatott keretébe is. Első világbajnoki érmét gyűrűn érte el, az 1992-es világbajnokságon második lett. Ugyanebben az évben a barcelonai olimpián 6. helyezett, az egyéni összetettben pedig a 9. helyen zárt. 1995 augusztusában Amerikába szerződött, és egy St. Louis-i magánklubban kapott állást, gyerekekkel foglalkozott. Az 1996-os világbajnokságon ismét második let. következett az atlantai olimpia, ahol csak az olasz legenda, Yuri Chechi előzte meg. Szilveszter a román Dan Buricával holtvesenyben lett második Az olimpiai játékok utáni két világbajnokságon, 1997-ben valamint 1999-ben szinténa dobogó második fokára állhatott fel gyűrűgyakorkatai után. A sydney-i olimpián azután már eljött az ő ideje! Az ausztrál metropoliszban a legmagasabb pontszámmal került a gyűrű döntőjébe, ahol utolsónak, nyolcadikként mutatta be gyakorlatát, Csollány Szilveszter nem hibázott, gyakorlatára 9,85-ös pontot kapott, és ezzel lett olimpiai bajnok! Pályafutására 32 évesen, Debrecenben tette fel a koronát, amikor hazai közönség előtt világbajnok lett. 2003-ban zárta le karrierjét. Hét alkalommal választották meg az Év Tornászának, 2000-ben és 2002-ben pedig az Év Sportolójának. 2013-ban Izlandon vállalt munkát, két év után hazatért, később Ausztriában, Svájcban dolgozott. Idehaza edzőként nem találta meg a számítását. Csollány Szilveszter 2017 és 2021 között az ELTE Savaria Központban oktatott sporttornát. A kiváló sportoló 2022 januárjában a Covid-járvány áldozataként elhunyt.