1936年5月，李四光带着夫人和女儿从英国讲学回来，先到上海，然后把妻子和女儿安顿在南京，他便到南京“中央地质研究所”工作去了。此时，他仍然是这个地质研究所的所长，两年的海外生涯，他无时无刻不在怀念祖国，梦寐以求的是要回来为祖国的建设、祖国的繁荣富强、祖国的地质事业做一番贡献。
自从“九一八”事变以来，日本侵略者强占了我国东北三省，由于蒋介石对日侵华采取不抵抗政策，日寇长驱直入，中华民族陷入空前的危机之中。李四光对蒋介石的反共卖国，无限愤慨，但又无能为力。他在忧愤中，没有忘记做自己的科学研究工作：从长远来看，祖国需要科学，祖国的大好河山是会回到人民的怀抱的。于是，他带了几个学生背上行装，到黄山和庐山作地质调查去了。
黄山风景优美，是我国著名的游览胜地，素有“黄山归来不看岳”之说。山上还有36峰，72佳绝处，层峦叠嶂，瀑布垂帘，云雾缭绕，雾映霞光，奇松异柏，怪石嶙峋。李四光一行人，饱览了这佳绝的风景，并在这无数的景观中，注意搜寻地质上的特征。
一天，他们来到海抜720米的慈光寺，由一位披着袈裟的小和尚领着参观寺殿。当他们走出大殿，向四下鸟瞰时，小和尚道：
“先生们请看北边五座山峰，多像五匹骏马呀！据说，从前每到夜晚，这五匹马就到这殿前石头池子里饮水。所以这池子叫‘五马饮槽’，但自从修起这道围墙，它们就不来喝水了。”
当李四光的目光跟随小和尚的指向，观看那五座山，听讲故事的时候，他突然有所发现，于是大声地喊道：
“你们看！”大家顺着他指示的方向看去，左面的珠砂峰和右面的紫云峰，以及两峰之间的山谷形态，呈一个大的半圆形。李四光说：
“这就是U形谷，是古代冰川沿着山谷往下滑动时，铲削岩石而形成的深槽，谷壁陡直，谷底平缓，横切面是U字形。”
顿时，学生们高兴得沸腾了，李四光兴奋地举起地质锤，狠狠地敲击了一下岩石，迸出了一串闪光的火花。学生们跟着李四光冲下山去，直奔珠砂峰下的谷底去了。他们在左面的谷壁岩石上，发现了冰川流过时同岩壁摩擦而形成的冰蚀面（冰川运动时在岩石上的磨蚀面）和擦痕（冰川流动时在岩石上摩擦而留下的痕迹），好几条擦痕平行排列，又深又大，长度不等。沿U形谷往下，又发现了堆积很厚的冰川砾石、泥砾等等。他们一边拍照片，一边挑选好的砾石作标本，带回住地。
李四光站在黄山的冰川谷上，脑际浮现出一幅中国第四纪冰川的壮观景象：在200万—300万年以前，在我国的黄山、庐山、泰山、太行山、衡山等地区，一座座冰山巍然耸立，积雪终年不化，漫山遍野，白雪皑皑。山间分布着一条条长长的冰川，像一条条银色的游龙，从山上直挂山腰，有的一直延伸到山麓。冰川缓慢地向前流动着，它以巨大力量向侧面和底部的岩石铲削着，有时发出格格的响声。冰川流动到雪线时，全部融化了，它沿途携带的岩块、砂泥开始沉积下来，形成冰水沉积物。
黄山冰川遗迹的又一次发现，激励着李四光去写出论文，通告全世界地学界的人士。他用英文写成了《黄山第四纪冰川流行的确据》一文，在国外发表。法国地质学家德日进，又是个神父，因为违犯了教规，被贬到我国泥河湾当神父。看了这篇文章，像当头挨了一棒，目瞪口呆，不知所措，半晌说不出话来。美国地质学权威巴尔博，看了这篇文章后，灰溜溜地跑回美国了。
当时正在南京中央大学当教授的澳洲专家费思孟，在办公室读着李四光的文章，就坐不住了，便找了两个助手上黄山，可是什么也没有看见，就回来了。于是去找李四光，希望他能陪着去黄山考察。费思孟跟着李四光再上黄山，看到了很多冰川遗迹，例如U形谷、冰川擦痕、泥砾石等，他心服口服地承认了中国的第四纪冰川。回南京不久，就在中国和柏林的地质杂志上，同时发表了他写的《中国第四纪冰川》的文章，承认“这是一个翻天覆地的发现。”
考察完黄山，李四光又带着几位学生来到庐山考察。1936年的盛夏，蒋介石在庐山上办政治训练班和军事训练班。一时，庐山上岗哨林立，戒备森严。一天，李四光带着学生在庐山东边的一个小山上考察冰川沉积，突然来了3个国民党的兵拦住他们，蛮横地进行盘问，搜去他们全部图片和野外记录，并把他们带到部队扣留起来。后来，经过了几个小时的交涉，李四光师生才获得释放，这时已经是后半夜了。
李四光和他的学生们，在鄱阳湖边的白石嘴、蛤蟆石，发现了明显的冰流擦痕。为了更好地研究第四纪冰川，1937年就在这三面环水的白石嘴上盖起了一座白石陈列馆，里面陈列着冰川遗迹的标本和照片。一天，南京国民党政府给陈列馆打来电话，说是鄱阳湖是训练海军的地方，陈列馆要在两天内搬走，不然就要炸掉。当时，李四光在北京大学讲课，不在庐山。许杰和李毓尧前去交涉，结果无效。待李四光回庐山时，陈列馆已被炸成一片废墟了。
1936年的下半年，女儿李林患了肺病，李四光送夫人和女儿到了庐山。1936年12月12日发生的西安事变和平解决后，蒋介石飞到庐山“休养”。蒋介石和汪精卫决定：“邀请全国各大学教授及各界领袖来庐谈话。”交换对“政治、经济、教育等方面”的意见，日期定在1937年7月15日至8月15日，分期分批进行，李四光被邀请参加首批座谈会。
庐山谈话会临近，国民党政府要人、社会名流、大学教授接踵而来。7月4日，汪精卫也抵达了庐山。
李四光非常关心这次庐山谈话。7月7日，侵华日军发动了卢沟桥事变，在这种形势下，蒋介石想谈什么呢？他同汪精卫在日本，后来在南京都有过交往，而且知道蒋、汪之间的矛盾，所以特地来到牯岭汪精卫的住处作一次拜访。李四光开门见山地提出抗战问题。
“现在再不打，别无出路了。”李四光说。
汪精卫却说了一通不能打的“道理”，李四光同他争论起来，汪说：
“你是书呆子，懂什么？”
李四光气愤地站起来说：“看谁看得对！”说完立即告辞了。
回来后，李四光义愤填膺地对朋友李一平说：“此人可杀！”
7月16日，第一次谈话会在牯岭图书馆举行。汪精卫主持会议。17日蒋介石发表了谈话，并且宴请了与会人员，但李四光没有出席他们举行的谈话会，这在当时蒋管区知识界是罕见的，表现了他强烈的爱国主义思想。
