Народився 24 листопада 1861 року в м. Кам’янець (тепер м. Кам’янець-Подільський). Закінчив IV Гімназію у Львові (1880). Вивчав класичну і польську філологію в Яґеллонському університеті (1880–1884), був студентом Станіслава Тарновського (Stanisław Kostka Tarnowski, 1837–1917), Луціяна Маліновського (Lucjan Malinowski, 1839–1898), Максиміліана Іскшицького (Maksymilian Iskrzycki, 1837–1891), Казімежа Моравського (Kazimierz Morawski, 1852–1925). Завдяки отриманню державної стипендії цісаря Франца-Йосифа продовжив освіту в Ляйпцизькому й Мюнхенському університетах (1884–1885), а також у Парижі (1886). У цей період здійснив наукові подорожі до Базеля та Рима, де проводив архівні пошуки. 1884 року захистив у Яґеллонському університеті докторську дисертацію на тему “«Відмова грецьким послам» Яна Кохановського, її першовзірці, генеза” („Odprawa posłów greckich” Jana Kochanowskiego, jej wzory, geneza). Габілітувався у цьому ж університеті в липні 1887 року на тему “Четверта частина «Дзядів» Адама Міцкевича. Порівняльне дослідження” (Czwarta część „Dziadów” Adama Mickiewicza. Studium porównawcze). Після габілітації два семестри 1888 року працював приват-доцентом у Яґеллонському університеті, а 1889 року за рекомендацією Тарновського був запрошений на роботу до Фрібурського університету у Швейцарії. Впродовж 1889–1901 років був професором кафедри слов’янських мов і літератур у Фрібурі. 1901 року на запрошення Адама Красінського (Adam Krasiński, 1870–1909) переїхав до Варшави, де протягом трьох наступних років (1901–1904) був директором Бібліотеки ординації Красінських (Biblioteka Ordynacji Krasińskich).Odprawa posłów greckich” Jana Kochanowskiego, jej wzory, geneza. W lipcu 1887 roku uzyskał habilitację na tym samym uniwersytecie na temat Czwarta część „Dziadów” Adama Mickiewicza. Studium porównawcze. Po habilitacji przez dwa semestry w 1888 roku pracował jako docent na Uniwersytecie Jagiellońskim, a w 1889 roku, z polecenia Tarnowskiego, został zaproszony do pracy na Uniwersytecie we Fryburgu w Szwajcarii. W latach 1889–1901 był profesorem Katedry Języków i Literatur Słowiańskich we Fryburgu. W 1901 roku, na zaproszenie Adama Krasińskiego (1870–1909), przeniósł się do Warszawy, gdzie przez kolejne trzy lata (1901–1904) pełnił funkcję dyrektora Biblioteki Ordynacji Krasińskich.

У серпні 1904 року перейшов на роботу до Львівського університету, де очолив кафедру, якою перед ним завідував Пьотр Хмельовський (Piotr Chmielowski, 1848–1904). У Львівському університеті Калленбах протягом 1904–1914 i згодом в 1916–1919 роках очолював кафедру історії польської літератури. У 1907/1908 навчальному році був деканом філософського факультету Львівського університету, в 1915–1919 роках – звичайним професором Варшавського університету, а в 1919–1922 – звичайним професором Віленського університету, де став першим деканом гуманітарного факультету.

Zainteresowania naukowe Kallenbacha dotyczyły twórczości Adama Mickiewicza oraz literatury polskiej XVI–XIX wieku. Zajmował się przede wszystkim twórczością Piotra Skargi, Aleksandra Fredry, Henryka Sienkiewicza. Wprowadził do obiegu naukowego znaczną liczbę dokumentów archiwalnych związanych z wileńskim okresem życia Mickiewicza. Do jego najważniejszych prac należą: Adam Mickiewicz (Kraków, 1897), Zygmunt Krasiński. Życie i twórczość lat młodych (1812–1838) (Lwów, 1904), Czasy i ludzie (Warszawa, 1905), O nieznanych utworach Mickiewicza (Lwów, 1909), Poezja w latach 1800–1863 (Kraków, 1918), Towianizm na tle historycznym. Stosunek Towiańskiego do Proroka (Kraków, 1922). Wydał siedem tomów dzieł Mickiewicza (A. Mickiewicz. Pisma. T. 1–7, wyd. Józef Kallenbach. Brody, 1911), a także dwa tomy listów Krasińskiego do Cieszkowskiego (Listy Zygmunta Krasińskiego do Augusta Cieszkowskiego. T. 1–2, wyd. Józef Kallenbach. Warszawa, 1912).

Był przewodniczącym Towarzystwa Literackiego im. A. Mickiewicza (1908–1918) oraz Polskiego Towarzystwa Ludoznawczego we Lwowie (1905–1909). W 1906 roku pełnił funkcję redaktora czasopisma „Lud”, organu Polskiego Towarzystwa Ludoznawczego.

Учнями Калленбаха у Львівському університеті були полоністи Юліуш Кляйнер (Juliusz Kleiner, 1886–1957) і Кароль Бадецький (Karol Badecki, 1886–1953), а також майбутній журналіст і літератор Станіслав Василевський (Stanisław Wasylewski, 1885–1953).

Помер 12 вересня 1929 року в Кракові, де спочатку й був похований. 1931 року перепохований на Личаківському цвинтарі у Львові.