Johannes Bitter wurde am 2. September 1982 in Oldenburg geboren. Mit dem Handballspielen begann er 1989 bei der HSG Neuenburg/Bockhorn. Anfangs versuchte er sich als Feldspieler, wechselte aber zwei Jahre später auf die Torhüterposition. Zwischen 1999 und 2002 spielte Bitter für die SG VTB/Altjührden in der 2. Bundesliga Nord, später wechselte er zum Wilhelmshavener HV, mit dem er in die erste Handball-Bundesliga aufstieg. Nach nur einer Saison wechselte er zum SC Magdeburg. Ab Sommer 2007 lief er dann für den HSV Hamburg auf, bei dem er in fast neun Jahren sowohl Deutscher Meister, als auch DHB-Pokalsieger und Champions League Sieger wurde. Nach dem Insolvenzfall der Hamburger Handballer im Januar 2016, schloss sich Bitter dem TVB Stuttgart an. Am 01.11.2018 durfte Jogi im Ligaspiel gegen die Füchse Berlin ein besondere Jubiläum feiern. Es bestritt sein 500. Bundesligaspiel, welches dann auch noch gewonnen wurde.

Auch in der Nationalmannschaft war der Weltmeister von 2007 bereits in 154 Spielen im Einsatz.

Seit Januar 2016 ist der 2,05 Meter große Torhüter beim TVB durch seinen Rückhalt und seine individuelle Klasse ein absoluter Führungsspieler. Mittlerweile läuft er als Kapitän des Teams auf.