Систематического естественно-научного образования у Кастере не было, что не помешало ему, однако, сделать выдающиеся открытия в области не только археологии, но и биологии (эксперименты с перелётами летучих мышей и т. п.), гидрогеологии, минералогии и, конечно, в первую очередь — подземной топографии. Кастере уважали и ценили крупные учёные. Они внимательно прислушивались к его советам, не раз вместе с ним спускались в подземные полости.

Исследование пещер было сопряжено с постоянным риском. Десятки раз Кастере попадал в сложнейшие ситуации. «Исследование пропасти Мартеля, открытой мной в 1933 году и в течение десяти лет считавшейся самой глубокой во Франции, досталось мне ценой больших усилий, — вспоминает он. — Плохо снаряжённый, работая с помощью жены и ещё двух отважных, но неопытных товарищей, я пережил в этой пропасти беспокойные часы. Во время моего первого спуска в эту пропасть я остановился на глубине шестидесяти метров там, где подземный каскад исчезает под нагромождением колоссальных камней, почти полностью закрывающих весь наклонный туннель. Обследовав это препятствие, я убедился, что оно находится в состоянии неустойчивого равновесия и малейший толчок может вызвать камнепад. Через несколько дней я отважился влезть на эту гигантскую ловушку, считая, что основные мои козыри — ловкость и малый вес. Добравшись до вершины, я спустился по другую сторону, очень довольный, что прошёл без всяких затруднений и что наклонный коридор идёт дальше. Чары были разрушены, и с тех пор я много раз с женой и помощниками проделывал свои опасные упражнения. Но однажды произошла катастрофа. Каменный барьер, который я с самого начала счёл очень опасным, но к которому мы постепенно привыкли, рухнул с ужасающим грохотом. Глыбы в три-четыре кубических метра летели кувырком и разлетались в стороны в русле потока, у которого мы все стояли. Чудом никого не задело, и во всей этой передряге погибла лишь часть оборудования, которое у нас буквально вырвало из рук».

А вот другое, не менее опасное приключение:

«В 1934 году в громадном гроте Шикер, расположенном в Атласских горах, я открыл подземную реку, протекающую по нижнему этажу, и уже собирался сесть в крохотную надувную лодку, когда услышал необычайный шум. Сильные взрывы заставили меня поспешно вернуться к верёвочной лестнице, у верха которой на узком выступе должны были находиться носильщики и переводчик Ликси. Подойдя к низу колодца, я с изумлением увидел, что пропасть надо мной освещена ровным светом и что взрывы и раскаты несутся сверху! Шум смешивался с каким-то рёвом и выкриками, ещё больше удивившими меня. Я цепляюсь за лестницу и начинаю подниматься. Но тотчас же до меня доносится голос Ликси, перекрывающий весь этот гам: „Не поднимайтесь, лестница горит!“ Я сваливаюсь вниз, ошеломлённый и взбешённый, так как не могу понять, что же всё-таки происходит. Я стою, прижавшись к каменной стене, ожидая, когда упадёт лестница, которая, конечно, должна оборваться. Наконец взрывы становятся реже, слабее, и испуганный голос кричит: „Если можете, поднимайтесь!“ Я карабкаюсь по лестнице, но, прежде чем добраться до верха, попадаю в облако удушливого дыма и на ощупь заканчиваю подъём. Мой отряд в полном составе, но в каком виде! Сквозь густой дым я вижу почерневшие лица, задыхающихся людей, все кричат, кашляют, плачут одновременно. Весь этот шабаш объяснялся просто, но как я мог об этом догадаться? Готовясь к длительному подземному походу, я решил взять запас карбидов для перезарядки наших ацетиленовых ламп. Совершенно разумная, даже просто необходимая предосторожность. Но вместо того чтобы использовать металлический бидон, человек, на обязанности которого лежало обеспечение этого запаса, предпочёл бидону, показавшемуся ему слишком громоздким, большой капюшон собственного бурнуса. Пока я занимался разведкой в нижнем этаже, он, передвигаясь на четвереньках по узкому выступу, где все меня ждали, выронил всё содержимое своего капюшона в водный бассейн у основания массивного сталагмита, к которому была прикреплена моя верёвочная лестница. Желая исправить свою неловкость, несчастный приблизил зажжённую лампу к поверхности воды, в которой бурно кипели карбиды, и в результате произошёл первый сильный взрыв, сопровождающийся пламенем, за которым последовали дальнейшие взрывы. Пока импровизированный ацетиленовый генератор не был полностью истощён, он всё время давал пламя, взрывы и густой дым, а испуганные свидетели сбились в кучу и, не имея возможности потушить пламя, старались подбодрить себя криками. Лестница скрылась, оказавшись в центре пылающего костра, но, к счастью, она основательно намокла, пока её прикрепляли к основанию сталагмита, и это спасло её от обрыва. Носильщик, сильно обожжённый, лежал в углу в полной прострации. У него были ожоги на руках, на лбу и на щеках, исчезла его короткая вьющаяся борода. Глаза чудом уцелели».

В 1941 году Кастере совместно со своим другом и учеником Марселем Лубаном начал штурм зловещей пропасти Хенн-Морт («Мёртвая Женщина») — как оказалось, самой глубокой во Франции. «Нам пришлось спускаться в пропасть вдвоём, — вспоминает Кастере. — В тумане гигантская двойная воронка выглядела по-настоящему устрашающей. Колоссальный провал с вертикальными стенами, у которых летом и зимой лежит много снега, и посреди этого снежного поля зияет вход в пропасть».

На глубине 110 метров путь спелеологам преградила очень узкая лазейка, которую удалось преодолеть ценой больших усилий. Опустившись на глубину 170 метров, продвинуться дальше они не смогли: недоставало снаряжения. Понимая, что исследовать пропасть вдвоём невозможно и опасно, Кастере и Лубан набрали отряд добровольцев. «Недостаточность питания и другие лишения военных лет делали каждый поход под землю мучительным, — пишет Кастере. — К этому надо ещё добавить низкие температуры в пропасти и ужасающие каскады, да и оборудование и снаряжение у нас было никуда не годным. Несмотря на очень неблагоприятные, а порой опасные обстоятельства, мы проникали всё дальше, всё глубже в эту громадную пропасть».

При седьмой попытке, 18 июля 1943 года, Кастере с группой из четырёх человек достигли подземного зала на глубине 245 метров. Два водопада образовали здесь озеро, которое в свою очередь изливалось пенящимся водопадом в пропасть, расположенную ещё ниже. В кромешной тьме — лампа погасла — Кастере спустился в этот вертикальный стометровый колодец. «Оглушённый водопадом и насквозь промокший, я спустился на дно колодца, и мне тут удалось зажечь лампу и установить, что пропасть продолжалась ещё одним вертикальным колодцем, в который также низвергался водопад. Свистком я скомандовал подъём. Четверо моих товарищей по ударной группе вытащили меня, я вернулся совершенно измученный, вода стекала с меня ручьями, я был без сил, но смог убедиться, что пропасть идёт дальше и что нам никогда не покорить её нашими слабыми силами. Я достиг глубины трёхсот сорока пяти метров по вертикали, но это был предел моих возможностей».

Через месяц спелеологи снова вернулись в Хенн-Морт. Им без больших проблем удалось достичь глубины 220 метров, но тут произошёл случай, который Марсель Лубан описал в своём дневнике так:

«Вдруг послышался глухой шум… И сразу громкий крик, который прозвучал особенно страшно во мраке, и вслед за тем троекратный призыв: „Помогите!“ Перепрыгивая с камня на камень, я и Кастере оказываемся около раненого товарища. Это Морель. Он лежит, скорчившись, в воде и сдавленно хрипит. Мы осторожно поднимаем его и прислоняем к стене. Он смотрит на нас. Никогда не забуду этого взгляда — в нём ужас, страдание, растерянность. Наконец к нему возвращается дар речи. Тело его не пострадало, голова была защищена каской. Сломана только левая рука. Морель поддерживает её здоровой рукой, он совершенно подавлен происшедшим, покачивает головой и тихонько стонет. Исследование прерывается. С этой минуты у нас одна цель, единственное, за что мы должны бороться, — вынести раненого из пещеры. С большими предосторожностями раненого подвели под самую верёвочную лестницу, на него надели прочный спасательный пояс. Мы привязываем его. Два свистка. Подъём начинается и резко прекращается: Морель срывается с двухметровой высоты. По счастью, мы были поблизости и смогли подхватить его на лету».