Narodil se 20. července 1947 ve Frankfurtu v Německu, kde rovněž začal studovat fyziku (pro ní se rozhodl již v deseti letech), ale nebyl si vhodností své volby jistý, zvláště teoretická fyzika ho neuspokojovala. Jeho přístup k fyzice se změnil až v souvislosti s diplomovou prací. V roce 1978, kdy dokončil dizertaci, jej jeho žena Lore Waglerová přesvědčila k přijetí práce v laboratořích IBM ve Švýcarsku, kde pracoval na vývoji STM. V letech 1985–1986 pracoval pro IBM v Kalifornii, pak byl dva roky hostujícím profesorem Stanfordské univerzity