Ján aj ako patriarcha Carihradu žil veľmi prísnym životom. Drahý nábytok po svojom predchodcovi predal, peniaze rozdal chudobným, vyhýbal sa spoločnosti a zábavám, nikdy neusporadúval hostiny. Usiloval sa pozdvihnúť úroveň kňazov – tak duchovnú, ako aj vzdelanostnú. Bol veľmi horlivý aj voči veľmožom a ostatným. Napomínal aj cisárovnú Eudoxiu, ktorá bola pyšná, lakomá a utláčala ľud. Biskupi, poplatní cisárovnej, sa zhromaždil, zosadili Jána z hodnosti carihradského patriarchu a požiadali cisára, aby Jána vypovedal do vyhnanstva. Ľud sa proti tomu búril, avšak slabý cisár sa nevedel postaviť proti cisárovnej a jej spoločnosti. Ján sa radšej sám vydal do rúk cisárovi, aby zabránil krviprelievaniu. Ľudia sa však zhromaždili a tiahli k cisárskemu palácu. Vtedy sa zľakla aj Eudoxia a Jána prepustili. V roku 403 ho však znovu dala uväzniť a roku 404 ho odvliekli – už ako starca – do vyhnanstva do mesta Kukusus (dnes Göksum) v Arménsku. Bol to pustý kraj. Zovšadiaľ však k Jánovi prichádzali ľudia, aby mu prejavili svoju úctu a aby z jeho úst počuli výklad Božieho slova. Zvesti chodili stále o ňom aj do Carihradu. Zastal sa ho aj pápež Inocent I. V roku 407 teda Jána vypovedali ešte ďalej, až k úpätí Kaukazu do Potiontu. Počas cesty mu nedopriali ani oddych, za každého počasia musel pochodovať. 13. septembra prišli do malej osady. Tam si chcel Ján aspoň na chvíľu odpočinúť. Cítil, že sa blíži koniec. Odložil svoje šaty, obliekol sa iba do bieleho ako na svadbu. a rozdal všetko, čo ešte mal. Noc strávil pri hrobe mučeníka sv. Baziliska, ktorý tam bol pochovaný. Ten sa mu zjavil a povedal mu, že na druhý deň budú už spolu v nebeskej sláve. Skutočne, 14. septembra, sotva nastúpil na pochod, spadol na zem. Odniesli ho do svätyne sv. Baziliska, kde svoj život aj dokončil, opakujúc svoj obľúbený vzdych: „Buď chvála Pánovi za všetko. Amen.“
Pochovali ho vedľa sv. Baziliska, no roku 438 jeho pozostatky preniesli do Carihradu. V 13. storočí jeho telo previezli do starej vatikánskej baziliky sv. Petra v Ríme. Ján zanechal po sebe najobsiahlejšie dielo zo všetkých východných gréckych otcov. Sú tam výklady Svätého Písma, homílie a listy. Roku 1568 dostal titul doktor Eucharistie. Je patrónom kazateľov.