Klinghoffer nasceu na Galícia (hoje na Polônia), mas cresceu em Viena. Ele estudou Direito e Ciências Políticas na Universidade de Viena, onde recebeu doutorado em Direito em 1927 e em Ciência Política, em 1930.
Quando a Alemanha anexou a Áustria mudou-se para França, mas em 1940 ele teve que se mudar novamente, desta vez para o Brasil. No Brasil ele era Ciência Assessor do Delegado americano na Convenção jurisprudência internacional, no Rio de Janeiro 1946-1948 e Assessor Jurídico da Embaixada da Áustria no Brasil entre 1948 e 1953.
Em 1953, ele emigrou para Israel e foi nomeado para a Faculdade de Direito da Universidade Hebraica de Jerusalém, onde foi professor titular (1953-1954), Professor Associado (1957-1968), decano da Faculdade de Direito (1959-1961) e Professor Livre-Docente (1968-1974). Foi Assessor Jurídico da Controladoria do Estabelecimento de Defesa nos anos 1975-1976. Ele também foi presidente da Associação pelos Direitos Civis em Israel 1976-1982.
Em 1961, foi um dos fundadores do Partido Liberal e foi eleito para o quinto Knesset. A festa mais tarde se fundiu com Herut em Gahal, para o qual ele foi eleito para o 6 e 7 Knessets.
É conhecido por suas contribuições para o Direito Constitucional e Administrativo israelense. Em 1964, ele propôs ao Knesset uma extensa Bill of Rights Act. Apesar de ter sido rejeitado, ele teve um impacto sobre leis posteriores Básicos de Israel, Direito, especialmente Básica: Dignidade Humana e Liberdade.