Ottrubay József 1926. augusztus 6-án született Dr. Ottrubay Dezső, törvényszéki elnök második gyermekeként Budapesten. Tizenegy évesen szülei Kőszegre küldték internátusba, ahol a gimnázium elvégzése után tiszti iskolában folytatta tanulmányait. A háború utolsó éveiben a magyar hadsereg tüzérségében szolgált, s Budapest ostromában több ízben megsebesült. A háború után a budapesti műszaki egyetemen gépészmérnöki tanulmányokat folytatott, s aktívan részt vett a katolikus egyetemisták mozgalmában – ami miatt a kommunista állambiztonság többször letartóztatta. A zaklatások és fenyegetések elől 1949-ben Bécsbe, majd onnan Innsbruckba, végül Svájcba menekült. Elektrotechnikai tanulmányait Zürichben folytatta, itt szerzett diplomát, s itt alapított családot. A soproni születésű Magdalena Theresia von Arentschild lett a felesége. Öt gyermekük született.
1959-ben a Technische Hochschule der Innerschweiz docensévé, majd az intézmény igazgatójává nevezték ki, s hamarosan családjával együtt megkapta a svájci állampolgárságot. Kapcsolata nővérével igen szoros volt, különösen miután Melinda hercegné és férje, Esterházy Pál herceg 1956 után szintén Svájcba menekült.
Pál herceg halála után, 1990-es nyugdíjba vonulását követően ő lett nővére fő tanácsadója, így nagy szerepe volt az Esterházy Magánalapítvány működtetésében. Közös céljuk volt a hercegi dinasztia történelmi örökségének megóvása, konkrétan a burgenlandi birtokok, várak, kastélyok, mezőgazdasági területek egyben tartása és maximális hasznosítása, párhuzamosan a kulturális hagyományok ápolásával. Éveken át az alapítvány elnökségének is tagja volt, később, visszavonulásakor pedig különösen vigyázott arra, hogy a nemzedékváltással elkötelezett, nagy tudású szakemberek vegyék át a stafétabotot. Bölcs tanácsait fia, az Alapítvány mai vezérigazgatója mindvégig szívesen fogadta. Ottrubay Józsefet szűk családi körben helyezték örök nyugalomra.