Глемп занимал пост председателя этой Конференции в 1981-2004 годах. В 1981 году после смерти кардинала Стефана Вышинского он стал примасом, то есть первым епископом, Польши. Этот почетный титул закреплен за архиепископом старейшей кафедры в стране - Гнезно.
После выделения Варшавы в отдельный архидиоцез в 1992 году Глемп стал архиепископом Варшавским, однако решением папы Иоанна Павла Второго сохранил за собой титул примаса до достижения возраста 80 лет в 2009 году. В 2006 году Глемп ушел на покой с поста архиепископа Варшавского.
Кардинал Глемп сыграл особую роль в процессе демократизации Польши. После объявления в 1981 году военного положения духовный лидер призвал народ «сохранять спокойствие, отбросить насилие, прекратить братоубийственные сражения». В 1989 году Католическая церковь под его руководством участвовала в диалоге с коммунистическими властями Польши о путях демократизации страны.