Geboren in Prag. Drei Jahre seiner Kindheit verbrachte er im Konzentrationslager Theresienstadt.

Nach seinem Studium arbeitete er als Journalist und Lektor. Wegen seiner kritischen Haltung wurde er 1967 aus der Kommunistischen Partei ausgeschlossen. Nach dem "Prager Frühling" 1968 bekam er Publikationsverbot; seine Texte erschienen bis 1989 nur im Ausland. Er verdiente seinen Lebensunterhalt als Ambulanzfahrer, Müllarbeiter, Briefträger und Landvermessergehilfe. Nebenbei schrieb er.

1969 verbrachte Klíma ein Jahr als Dozent an der Michigan University in Ann Arbor/USA. 1970 kehrte er nach Prag zurück.

2002 erhielt Klíma den Franz-Kafka-Literaturpreis der Franz-Kafka-Gesellschaft in Prag.