政府抛出这四个字，便再无音讯，面对这种情况，王正廷、顾维钧毅然决定，拒绝签字。
和谈失败的消息传到北京，如一声炸雷，震醒了还在期盼着公理的人们，北京的师生首先起来用行动表示了人民群众对帝国主义的愤慨，为商议如何抗议巴黎和会，5月1日，在北京大学，一些积极分子聚集在一起，商议制定5月3日学生大会的事，会议上，大家大骂一直和日本进行“交易”的曹汝霖、章宗祥、陆宗舆。
市民们也很愤慨，他们首先想到的是威尔逊。“不是他说要帮我们的吗？”“多希望这个消息是不准确的呀！”《每周评论》中指出：“巴黎的和会，各国都重在本国的权利。什么公理，什么永久和平，什么威尔逊总统十四条宣言，都成了一文不值的空话。”并且说巴黎和会“与世界永久和平，人类真正幸福，隔得不止十万八千里，非全世界人民都站起来直接解决不可。”
人民支持王正廷、顾维钧不要在和约上签字，但段祺瑞、曹汝霖他们却一再施加压力，要求马上签字，免得触怒了列强们，1919年5月，中国，民怨潜涌一触即发。
5月3日，各报公开报导了青岛危急的消息，人们都如同宣告了死刑一般，悲愤欲绝。
李大钊神色凝重地站在窗前，若有所思，直到走进来的陈独秀说：“守常，消息知道了，你是对的。”李大钊这才转过神，马上招呼陈独秀坐下，陈独秀非常激愤，大声说：“真没想到美国会这样，在最后关头出卖中国，我们绝对不能坐以待毙，我们要争取改变任人宰割的命运。”李大钊说：“对，独秀，今天约你来，就是想请你参加七点多的全体学生大会，凭你的口才，你一定能掀起群众的爱国热情。人多力量大，我们现在需要的是支持。”陈独秀很坚定地说：“你放心吧。”
不到七点，北京大学的会堂已集了千余人。高等师范、法政专科、高等工业学校等全都派来代表。人们互相议论着，人声鼎沸，会议由北京大学校长蔡元培主持，他说：“各位，请注意，由于政府长期实施卖国政策，使我国错失良机，山东问题一败涂地。但我们不能任别人主宰我们的国家，今天把大家召集来，就是想听听各位的意见，我们集思广益，找出办法挽回败局。”
会场马上严肃起来，先是北京大学新闻研究会的邵君讲述了和会山东问题的经过，又说了一下现在的形势。他讲完后，李大钊便请陈独秀上台演说，他很清晰地阐述了山东最初借给德国的原因，他说：“山东是中国人的地，别国不能有丝毫损害，山东人民3600万，自有史以来，就为中国种族，操中国语言，奉中国宗教，该地租与德国的原因，早已人所尽知，当时因教案问题，德人用武力要挟，中国不得已而为之，从形势来说，胶州为中国北部门户，是自海到京的最捷近的通路，而且胶济铁路与津浦相接，可以直达首都。仅为国防问题，中国全权也不能听任他国在此地有任何争执；从文化方面来说，山东为孔孟降生之地，中国进化，该省力量居多，所以山东是全国人民目光所集的地方。我们绝不能失山东，绝不能这样不明不白地失山东。”接着，陈独秀又说了外国的阴谋和政府的卖国行径。他滔滔不绝，义愤填膺，台下掌声雷动，上万只眼睛注意着这个个子不高的人。很多人心中重新对陈独秀进行了认证，所以，陈独秀领导五四运动，下面才一呼百应。
后来，各人又发表了意见，会场中出现一种如火如荼、不屈不挠的景象，最后李大钊发言总结，他说：“中国存亡，就在此一举了。中国的土地，可以征服，而不可以断送；中国的人民可以杀戮，而不可以低头！”当时很多人痛哭淋漓，公理正义竟足以使人的思想和情感超出生死问题以至到达如此地步，陈独秀看着这一切，心想：理想的社会，真正的自由，实在有以血泪换得来的可能。最后，大家决定马上发电给各国和会代表和各国专使，重申民意，并决定在5月4日举行国民大会。
5月4日，天刚朦朦亮，李大钊便起来了。打开窗户，一阵冷风吹进，尽管是5月，可仍有些冬的寒意，想到昨晚和同学们一起制条幅，写传单，李大钊不禁感到欣慰，青年们毕竟是血性的，李大钊相信，今天无论如何也会是个历史性的日子。
“好早哇！守常。”陈独秀边揉着眼睛边从里屋走出来，由于昨天大家连夜工作，所以陈独秀睡在了李大钊的家里。“起来了，昨天睡得还好吧！”李大钊笑着问。“嗯，不过心里总是惦记着今天的事。以前也不是没有过学生运动，都是被政府镇压了，我担心这次政府仍不讲情理呀！”“不管怎么样，我们都要同政府斗，要尽我们的全力达到目的。”李大钊点点头说，“这次我们的行动很有组织，并且计划也很周密，只要我们能得到更多的支持，我们就能胜利。”两个人也没吃早饭，就又开始商议起来。
中午12点30分，太阳毒辣辣地挂在天上，天安门前，人潮涌动，男女同学都很有秩序地穿着制服，神情激动，李大钊正在此安排举行游行的大会，同时选举代表，到除日本国外的各国公使馆陈述对于青岛之民意及其决心。李大钊、陈独秀布置了一下游行的注意事项和秩序问题。然后让学生们先回校吃饭、休息，午后一点，再到天安门广场集合。
同学们回校后，一些学生领袖准备着与政府的交涉，一些学生接着制标语、条幅，北京大学里一个同学咬破手指，血书“还我青岛”四字，同学们大受振奋，更加跃跃欲试。
5月4日，下午1点，北京城内空气变得紧张起来，北京各校三千余名学生从四面八方向天安门广场走来，他们怒火中烧，高举着“外抗强权，内除国贼”、“还我青岛”、“取消二十一条”、“拒绝巴黎和会上的签字”的大旗，高呼着口号，真是震天动地。
北京警厅一听说学生开始游行，主办是北京大学，便马上派人去北大阻止，可是校园里已人去楼空，赶到天安门广场，正好各校学生也刚到，步军统领李长泰擦了把汗，心里暗骂着学生们就能捣乱，但一看这场面，不得不马上装出亲切的样子，从车上下来，学生们对他视若未见，仍集体喊着口号：“宁为玉碎，不为瓦全！”；“打倒章宗祥、曹汝霖卖国贼！”
李长泰呆站在那，一时间感到很茫然，但马上想到自己是步军统领，怎么看起学生的脸色来了，不禁暗暗提气，他故意清了清嗓子，好引起学生们的注意，然后才大声喊：“你们不要喊了，有什么话尽管对我说，不必这么招摇嘛！”马上有学生接道：“政府要出卖国土，你是政府的官员，我们不信任你。”真是话不投机半句多呀！李长泰只好软下来说：“同学们，怎么能这样说政府呢？是政府给你们拨款，让你们成才，发展工商业，你们应以国家大局为重，不要辜负了政府的苦心，请同学们快快回去吧。”马上学生中传来讥笑声，有人喊一句：“别理他，我们走！”呼啦一下，学生们就从李长泰身边拥了过去。李长泰站在那，恨恨地说：“让你们现在神气，哼！看以后怎么治你们！”然后他转身上车，回警厅报告去了。
学生们出了正阳门，又经过闹市区，市民们都驻足在路两旁，给他们鼓掌，学生们喊的口号深得民心。
陈独秀看天也不早了，于是就跟李大钊商量回城去各使馆进行宣传，两人又把队伍带回了城，向使馆区东交民巷走去。将近时，突见前面站着三十多个警察，李长泰走出来，皮笑肉不笑地说：“我劝你们回去你们不听，闹出事来，可不是我所愿意的。”说完，故意摸了一下枪。陈独秀蔑视地瞅着他，说：“你身为中国人，却镇压爱国运动，国将不国了，你的枪却还要对准人民吗？”陈独秀说着走上前三步，直视着他，说：“如果你要开枪，就照这来吧！”他拍着胸膛，对着李长泰。李长泰看着他这样，不禁倒吸了一口气，毕竟自己理亏，陈独秀抓住时机，马上又喊起了口号，学生们万口一声地响应着，又向东交民巷走去，这时候，无论怎样怯懦的人也都变成有勇气的人了。
到了领事馆区，马上又出来很多士兵，挡住去路，李大钊走上前说：“我们并无他意，只是要跟各国公使说一下民意，寻找他们的支持。”领头的一个长官模样的人冷冷地说：“不行，我们事前未得到通知，你们不能进。”双方僵持住了。这时，北大的小陈，一个能说能写的青年，操着东北口音，对陈独秀说：“不如我们先去赵家楼曹汝霖那吧！”这个建议大家都说好，李大钊一看事不宜迟，就对周围几个领头的同学说：“他们不让进，肯定是警厅事先通知的，而且这么多人进，目标太大，不如各校指派两名代表，进英法等公馆，请求主持公道。”大家商议完也只一会儿工夫，便马上分头行动了，大队伍转向赵家楼曹汝霖的住宅，曹汝霖是当时北京政府的交通总长，1919年任袁世凯的外交次长，是签订二十一条的代表之一。他和章宗祥、陆宗舆又是段祺瑞对日借款和签订军事协定的经手人之一，因此学生们对他恨之入骨，曹遂成了众矢之的。
一路上，学生们都高呼“卖国贼曹汝霖”、“卖国贼章宗祥”等气愤的话，这时候群众的各个分子都没有个性的存在，只是大家同样唱着，同样走着，不到4点半钟的光景，就全体走到曹宅前面了。这时候，大多数的同学都从墙外把所持的旗帜抛入墙内，大喊大骂，有的在大门上乱敲着。曹宅的大门右侧有一个小窗，仅可通过一个人身，且有厚木门关住，这时匡互生就一拳打破这个窗门，独自爬进窗口，有人在下面托他一把，他就很困难的、也极危险的进入宅内，一忽儿把两扇笨重的大门敞开，门外的人一拥而入。
据匡互生说，内有两百来个警察荷枪实弹，但终禁不住他拔开大门。学生群众走进曹宅，先要找卖国贼论理，他们冲入客厅，只见客厅正中悬挂着一张日本天皇的照片，这更激起学生们的怒意：“看！这就是曹汝霖卖国的罪证！”“砸了它！”于是几人一起把像架踩个粉碎。
曹汝霖、章宗祥此时正在内堂下棋，听得外面有动静，让管家去看，不一会，管家上气不接下气地跑回来说：“不好了，老爷，学生们来闹事，现在已经在客厅了。”曹汝霖、章宗祥一听马上慌了神，这时学生们的脚步声和说话声已经传了进来，曹汝霖也顾不得形象了，打开后窗就狼狈地往上爬，还边对章宗祥说：“咱们分开走，他们是找我的，你走前门可能没事。”其实曹汝霖这小子存了坏心眼，他知道学生要找的是“卖国贼”，那怎能放过章宗祥呢，他想让章分散学生们的注意力，他好逃跑。
章宗祥这时也蒙了，心里没了主意，你曹汝霖怎么说就怎么是吧。他硬着头皮往外走，正被学生们撞个正着，其中匡互生马上认出他来，大喊：“快抓住他，他是章宗祥！”章宗祥一听不妙，就开跑，跑到一家皮蛋店被抓住了。同学们一拥而上，用手执的小旗杆子对着他当头乱打，手中没有武器的就权借皮蛋作武器，向章宗祥的头上打中几十皮蛋，章宗祥被打得满脸是血，耳目口鼻都塞满了皮蛋汁。
章宗祥一看这形势，求饶也不管用了，干脆，用手护着头，躺在地上，赖着不动，大家你一句我一句地怒骂他的卖国行径。匡互生上前踢了他一脚，说：“你别装死，快起来！”章宗祥依然不动。匡互生说：“干脆，咱们把这曹宅烧了，让曹汝霖这和尚回不了庙！”说着匡互生就往曹宅走。段锡朋一听，有些害怕了，他赶紧拉住匡互生，阻止他说：“你别莽撞，这我负不了责任。”匡互生毅然回答：“谁要你负责任！你也确实负不了责任。”
马上，熊熊大火在曹宅燃起。大家站在外面，拍手称快，这时，有人喊了一句：“快跑，军警来了！”学生们马上分散跑开，匡互生站在那说：“大丈夫敢做敢当，我就不走，看他们把我怎么样！”
结果，军警抓走了包括匡互生在内的32名学生。
