Родился Кристап Зилле 27 апреля 1896 года на хуторе Тренце Лигер (вероятно, современные Liģeri) под посёлком Джуксте в семье батрака Яниса Зиле и Аннете, урождённой Чудер. Батрацкий сын с ранних лет познал тяжёлый труд: работал помощником лесоруба, затем на лесопилке. В августе 1915 года, в разгар Первой мировой войны, добровольно вступил в ряды латышских стрелков. 17 января 1917 года на Рижском фронте ефрейтор Зилле, командир отделения 2-го взвода 1-й роты 3-го Курляндского латышского стрелкового полка, был тяжело ранен немецкой пулей в голову. Полгода лечился в Новгородской губернии, после выздоровления вернулся на службу. Вместе с товарищами стал красным латышским стрелком, служил в артиллерии Латышской дивизии. В июне 1918 года был назначен в артиллерийскую часть вновь сформированной Латышской дивизии. Участвовал в подавлении так называемого «эсеровского мятежа» в Москве, затем воевал на Южном фронте против Деникина и Махно. За подвиги Кристап Зилле был награждён орденом Красного Знамени за номером 208. В 1918 году вступил в ВКП(б).
После Гражданской войны Зилле остался в рядах Красной Армии. В 1925 году успешно окончил артиллерийские курсы в Одессе. Параллельно занимался спортом и стал чемпионом Одесского военного округа по вольной борьбе. С 1930 года Зилле служил в авиации, летал на аэростатах, «налетав» за пять лет почти 400 часов. Живя в Москве, был активным членом Секции бывших красных латышских стрелков.
В 1935 году Кристап Янович был назначен командиром воздухоплавательного аппарата – стратостата. До подъёма на стратостате «СССР-1-бис» в июне 1935 года Зилле вместе с Юрием Прилуцким совершил два высотных полёта на аэростате с открытой гондолой: 16 июня они поднялись на высоту 8 500 метров, а 19 июня — на 10 500 метров. 26 июня 1935 года в качестве командира экипажа стратостата «СССР-1-бис» вместе с Юрием Прилуцким и Александром Вериго достиг высоты 16 100 метров. Однако из-за утечки водорода скорость снижения стратостата стала резко увеличиваться. Зилле принял решение: на высоте 3 500 метров он дал команду членам экипажа покинуть гондолу на парашютах. Сам же он остался в гондоле и приземлился стоя на ступеньках внешней металлической лестницы стратостата. Сбросив балласт, он максимально замедлил скорость снижения. За этот полёт Зилле был награждён орденом Ленина (Постановление ЦИК СССР от 29 июня 1935 года).
В 1938 году К.Я. Зилле служил начальником опытного отряда Опытно-исследовательского воздухоплавательного дивизиона. В апреле 1939 года участвовал в полёте стратостата «СССР-3».
В 1941 году, с началом Великой Отечественной войны, служил начальником штаба 1-го полка аэростатов заграждения в Москве. Его боевой путь отмечен медалью «За победу над Германией в Великой Отечественной войне 1941-1945 годов». Кристап Янович Зилле скончался в 1954 году. Похоронен на 1-м участке Введенского кладбища в Москве.