Józef Chyliński urodził się 20 pażdziernika 1904 r. w Jabłonowie Pomorskim. Po zdaniu matury ukończył Szkołę Podchorążych Piechoty w Komorowie koło Ostrowi Mazowieckiej. Pózniej , z bardzo dobrą opinią, został wyznaczony na dowódcę plutonu 3. Kompanii Strzeleckiej w 8. Pułku Piechoty Wielkopolskiej w Poznaniu. W 1930 r. zdobył puchar za zajęcie drugiego miejsca w pięcioboju nowoczesnym w zawodach, które odbyły się w dowództwie Okręgu Korpusu VII w Poznaniu. Po odbyciu rocznego kursu oficerskiego w Centralnym Instytucie Wychowania Fizycznego, od września 1933 r. do 1935 r. był dowódcą 1. Kompanii Strzeleckiej w macierzystej jednostce. Jednocześnie ukończył kurs dowódców kompanii piechoty w Centrum Wyszkolenia Piechoty w Rembertowie. Z najwyższą oceną przesunięty został na dowódcę ckm, a po ćwiczeniach pułkowych przydzielony do prac specjalnych w sztabie gen. Tadeusza Kutrzeby.
W pierwszych dniach września 1939 r. organizował VI Batalion Strzelców do dyspozycji dowódcy Armii "Poznań" i na czele 1. Kompanii walczył nad Bzurą. W boju pod Kiernozią kolo Łowicza ,18 września, został ranny, lecz mimo to walczył w obronie Modlina, gdzie powtórnie został ranny w dniu kapitulacji Modlina, 27 wrzesnia.
W obozie jenieckim w Działdowie został zaprzysiężony przez mjr. Józefa Ratajczaka, póżniejszego komendanta Okregu ZWZ Pomorze, do tajnej organizacji konspiracyjnej. Po zwolnieniu z obozu przebywał w Warszawie i należał do Oddziału I Organizacyjnego Dowództwa Głównego Służby Zwycięstwu Polski. 20 pażdziernika 1939 r. został oddelegowany na Pomorze w celu rozpoznania i nawiązania kontaktów konspiracyjnych. Po powrocie do Warszawy spotkał się z mjr. Józefem Ratajczakiem i przypuszczalnie z gen. Michałem Tokarzewskim, dowódcą SZP, zdając relację z przeprowadzonego wywiadu.
W początkach stycznia 1940 r. wyjechał ponownie na Pomorze i zaczął działalność w Toruniu jako wysłannik Komendy Głównej ZWZ. Rozpoczął ją od organizowania sieci łączności do Włocławka, Bydgoszczy i Grudziądza. Przełamując ogromne trudności, kontynuował nawązane wcześniej kontakty z istniejącymi już organizacjami: m.in. Szarymi Szeregami, Grunwaldem, Stronnictwem Narodowym oraz oraganizacją Orła Białego. W myśl jego instrukcji zaczęto organizować wywiad, kontrwywiad, służby kobiece, sanitarne, punkty kontaktowe łączności i kwatery dla Sztabu Okręgu.
W początkach marca 1940 r został p.o. szefa sztabu formującej się Komendy Okręgu Pomorskiego. Podczas organizacji Okręgu Pomorskiego kontaktował się osobiście z KG ZWZ, biorąc udział w odprawach w Warszawie. Po aresztowaniach jesiennych 1940 r. czasowo kierował pracami okregu pomimo braku formalnej nominacji. Jesienią 1941 r. udał aię do Warszawy na spotkanie z nowym komendantem Okregu Pomorskiego ppłk. Rudolfem Ostrihanskym, ps. "Aureliusz", który zagrożony aresztowaniem musiał opuścić Poznań i przez pewien czas sprawował nadzór nad Pomorzem. Gdy po upływie dwóch miesiecy Ostrihansky musiał opuścić także Pomorze, Chylinski samodzielnie realizował zadania, tym samym faktycznie pelnił funkcje komendanta.
Od pażdziernika 1943 r. komendantem Okregu Pomorskiego został ppłk. Jan Pałubicki, ps. "Janusz", a szefem sztabu, awnsowany w 1942 r.. do stopnia majora, Jozef Chyliński, który dużą wagę przykładał do rozbudowy sieci wywiadu i kontrwywiadu oraz oddziałów prtyzanckich, w zakresie niezbędnym do potrzeb Okręgu i przyszłego powstania , a także planowanej akcji sabotażowo- dywersyjnej. Odbierał meldunki z całegp Pomorza i częściowo z Prus Wschodnich. Ważnym osiągnięciem było zdobycie informacji o nowej broni "V", produkowanej w Peenemunde i przesyłanie meldunków do Komendy Obszaru Zachodniego, która przekazywała je następnie do Warszawy.
Po rozwiązaniu AK działał nadal w konspiracji. Do 9 czerwca 1945 r. był szefem sztabu, a póżniej komendantem Okręgu Delegatury Sił Zbrojnych Okregu Bydgoskiego. W pierwszych dniach maja 1945 r.otrzymał, od szefa sztabu Obszaru Zacdniego DSZ Kazimierza Leskiego, dyrektywy i instrukcje dalszej pracy konspiracyjnej w propagandzie i wywiadzie. Zaskoczony przez UB, 24 sierpnia 1945 r.w Bydgoszczy, w lokalu konspiracyjnym przy ul. Poznańskiej 1, wyskoczył przez okno z drugiego pietra, łamiąc sobie rękę. Został ujęty przez UB i, po cięzkim pobiciu, przewieziony do więzienia w Gdańsku. Wyrokiem Wojskowego Sądu Rejonowego w Gdańaku z dnia 25 listopada 1946 r. został skazany na półtora lat więzienia, z zaliczeniem pobytu w areszcie. 24 lutego 1947 r. został zwolniony z więzienia. Otrzymał od władz komunistycznych propozycję wstąpienia do Ludowego Wojska Polskiego, lecz ją odrzucił.
4 września 1948 r. przedostał się nielegalnie do Szwecji, gdzie rozpoczął nowe życie jako uczeń stolarski. Stamtąd 2 listopada 1949 r. wysłał list do Naczelnego Wodza Tadeusza Komorowskiego "Bora", z prosbą o weryfikację.. 25 maja 1949 r. został zweryfikowany przez Główną Komisję Weryfikacyjną AK w Londynie, jako szef sztabu i komendant Okręgu Pomorze w stopniu podpułkownika.
W 1951 r. zamieszkał w Toronto w Kanadzie. Zmarł tam 9 czerwca 1985 r. Prochy jego zostały sprowadzone do Polski w kwietniu 1987 r. i spoczęły na cmentarzu w Łodzi.
Był odznaczony m.in. Orderem Virtuti Militari V kl. (1944 r.), Krzyżem Walecznych (1944 r.) i Złotym Krzyżem Zasługi z Mieczami (7lutego 1945 r.)
Był żonaty z Ireną Jankowską, która zginęła, w czasie Powstania Warszawskiego, z pięcioletnim synem Zygmuntem. Po raz drugi ożenił się w Toronto z Anną Tyblewską.
Wspomnienie Hanny Nowickiej zd. Dulskiej, ps. "Iskra", opublikowane w Gazecie Wlkp 3-4. XI. 2001 r.