胡适离开澄衷学堂是1906年上半年的事，恰好这年夏间中国公学招考新生。他所以报考中国公学，起因于他读到了姚宏业的遗书。
姚宏业（1881—1906），字剑生，民主革命家，湖南益阳下梅塘人。1904年赴日留学，首倡保护路矿主权，1905年加入中国同盟会。
1905年12月8日，陈天华（姚宏业的湖南老乡、挚友），同盟会骨干。在日本东京南面的大森海湾，跳海自杀了。
陈的自杀，最直接的原因，是当时愈演愈烈的反对“取缔在日留学生规程”风潮。日官方提出要对中国留学生加强管理约束，引发了留学生群体强烈不满，当地报刊又出现了诋毁中国留学生的言论。31岁的陈天华，为唤醒同胞的民族尊严，决定以死明志！
姚宏业是这场风潮的积极参与者，他对陈的“以死明志”最为悲痛。
然而，这场风潮，原本却是始于一个误会。
鸦片战争以后，清朝廷昏聩无能，致使中国沦落到任人宰割的境地，泱泱华夏遭遇了空前的民族危机。此时，近邻日本却因明治维新的成功而迅速崛起，这使国内的仁人志士看到了希望，以为复制日本模式便可以救国于危难。
从1896年开始的留日运动，在进入20世纪以后，逐渐出现高潮，东渡日本的学子或官费，或公费，或自费，络绎于途。在大约十年的时间内，至少有五万人在日本接受了各种程度、各种类别的教育。”
当时日本的学校各式各样，其中不乏以牟利为目的之所谓野鸡学校。而8000名中国留学生（1905年）也是良莠不齐，玩乐之徒丢了中国人的脸。于是，1905年11月2日，日本文部省19号令正式公布了《关于许清国人入学之公私立学校之规程》。
其实这个规程主要是将各类学校纳入文部省统一监管，同时正确引导留学生尽快步入正轨。这很正常，所以规程刚出炉的时候，没有引起什么大的反响。
但是，学校执行走了样，有学校布告称：“限令各生于该月二十九日前呈报其原籍、住址、年龄、学历等，若逾期不报，则对该生不利。”语气生冷强硬，立刻引起留学生的警觉。他们翻出20几天前刊登的《规程》，反复阅读、比对、琢磨，在读到以下两条时，读出了敌意。
第九条：“受选定之公立或私立学校，其供清国学生宿泊之宿舍或由学校监督之公寓，须受校外之取缔。”
第十条：“受选定之公立或私立学校，不得招收为他校以性行不良而被饬令退学之学生。”
“取缔”一词深深刺痛了中国学生的心，冲动之下，他们忘记了日文的“取缔”有监督管理的意思。经过层层揣摩、层层演绎，这个规程竟成了“取缔留学生规程”。当然，敏感也不是毫无道理，因为早在六七月间，坊间就有传闻说要取缔留学生，沸沸扬扬的。这次，学生们以为是揭开了盖子。
尽管中国留学生总会出面交涉，日本文部省紧急解释调停，但为时已晚，留学生的群情激奋已无法阻挡。
姚宏业等人认为事关国体，倡议全体罢课回国，各校留学生纷纷响应。女校也竖起了大旗，以秋瑾最为激进，她举刀明誓：“如有人回到祖国，投降满虏，卖友求荣，欺压汉人，吃我一刀！”
鲁迅、许寿裳、杨度等人持不同意见，认为不必全体罢课回国，但他们的声音太小，没人听。
据记载，当时的激进派自发组织了纠察大队，甚至带着短刀在各校门口蹲堵，阻拦留日学生到校上课。
正在僵持不下之时，陈天华的死，成了重磅炸弹，彻底激化了“敌我矛盾”。实际上，冷静回想一下陈的遗书，不难发现，他的自尽主要是因为日本报刊诋毁中国留学生“放纵卑劣”，他要以死来换取同胞的觉醒悔悟、奋发图强。而对于这个规程，他的本意是“可了则了，切勿固执”。
但没人顾得上陈的本意，他的死，就是促成留日学生集体归国的致命一击，任谁也不可能挽回了。
这么多学生集体回国，以后该怎么办？这是姚宏业首先想到的问题。
“国民欲有爱国之思想，不可无自立之学校。”办学！这是姚宏业的答案。
从12月4日罢课，到14日第一批留学生回国，仅仅10天时间。匆匆忙忙中，大伙儿订立了《归国办法》和《善后办法》，其中明确提出了归国办学的思路。
正当大家四处张罗之时，清政府留日监督处突然传来消息，要求全体学生立即返回日本复课。原来，从风潮初起，清官方就和日本交涉，力求平息事态、安抚学生。一下子，留学生群体分裂成两派，一是归国派，一是复课派，双方你来我往谁也说服不了谁。
1月11日，两派召开协商会，一致同意以自愿为原则复课，并电告全国。
大批学生返回日本继续读书了，留下的只有几百人。那么，这学还办不办？
姚宏业等人怀揣赶超耶鲁大学、早稻田大学的美好憧憬，决定不改初衷，继续兴办本土大学。将学校定名为“中国公学”。
万事开头难，而前路更难。那一年的旧历春节，干事们在奔波中度过。尽管他们晓之以理动之以情地演讲，但社会各界对这所新学校多持观望态度，并不给予实质性的支持。
据早期学生张承槱回忆：“当时办学毫无基础，全体同仁遭遇极大困难，同情者虽多，而实际援助者除上海总商会会长曾铸捐了数千元外，其他各界毫无表现，全凭我数百人自己解囊相助，大多数困苦不堪，连生活也难于维持了。”
校舍房租每月必付不得拖欠，学生宿舍租在农户家，因为缺钱，两个学生合租一个铺位。就在如此艰苦的条件下，中国公学竟然颤颤巍巍地开学了。
理想丰满，现实骨感，最难的是两点：
一是生源不足。3000人锐减到260人，还不到10%。学生来自13个省，年龄不一、层次不一，同班同学能差出14岁之多！教员配备完全跟不上，有些课程还要请日本教师来讲，再请懂日语的同学做翻译。甚至年龄大一些的学生要给低年级做兼职讲师，颇有点自给自足、自教自学的劲头。这能长久吗？
二是资金匮乏。社会各界持观望态度，有的甚至说办学是假，革命党的阴谋才是真，这样的谣言喧嚣直上，就更没有人敢出钱了。下层盯着中层，中层盯着上层，谁也没有真行动。
这边正焦头烂额，那边开学才不到十天，竟出了一件大事，差点让这新学校夭折！
办学条件艰苦，教学水平也跟不上，有的学生已心生不满。副干事朱剑和部分江苏籍学生发生了点口角，本来也不是大事，互相体谅一下也就过去了。但冲动是魔鬼，朱干事甩了一句难听话：“江苏人闹事，江苏人皆出。”意思是闹事的都滚蛋。
这本来是一句气话，何况朱干事自己就是江苏人。但江苏籍学生们不干了，认为学校有意排斥，闹着要罢课、要退学。
为避免同室操戈愈演愈烈，朱干事被迫辞职了，但江苏籍学生们态度坚决拒绝和解，他们带人破坏了学校设施，公开在报纸上声讨攻击中国公学。最终，50多名学生坚决退学，自立门户，组了一个健行公学。
学校诞生仅10天就闹出来的分崩离析，无疑使中国公学的形象大受损害。本来观望的人，这下成了看热闹的，说这帮学生简直就是胡闹，幸亏自己当初没出钱。而更严重的影响是，上海官府本来批付一部分经费，但因为出了这事，已经在走流程的款项，被紧急召回了。
整个事件，姚宏业一直尽力周旋，力求保住中国公学的颜面，但无奈以失败告终，他痛感：“东京之现象既如彼，内地之悲观又如此，此次归国对外之种种大愿，终莫得遂。”
失意失望、郁闷悲痛，姚的脑中渐渐浮现出陈天华的身影。冥冥之中，他萌发了同样的以死明志的念头。
4月5日，姚宏业和干事王敬芳促膝长谈，把自己所有想说的话都说尽了。王觉察出不对劲，想着第二天是清明节，就说一起出去散散心，姚一口答应。但第二天敲门时，姚不在屋内。此后7天，杳无音信。
13日，报纸上刊登了一则消息，说黄浦江里打捞上来一具尸体，是个穿西装的中国人。王敬芳、张邦杰等人感觉不妙，立刻赶往医院认尸。但尸体已经膨胀模糊，无法辨认，只从口袋里翻出两枚图章，一个“剑生”，一个“竞生启事”。剑生、竞生是姚的字号，这尸体无疑就是他了。在场之人无不痛哭流涕，无法抑止。
人们在整理姚的遗物时，发现一封事先写好的遗书，字里行间，言辞慷慨，声泪俱下：
“……我愿我死之后，君等勿复念我，而但念我中国公学……竭力求学以备中国前途之用……振起精神，无轻灰心，无争意见，于各事件不完善者补之，不良者改之，务扶我中国公学为中国第一等学堂，为世界第一等学堂而后已。我愿我四万万同胞之官绅、兵士、农工商，贵者施其权、富者施其财，智者施其学问，筹划以共，维持扶助我中国公学……我死后如有知也，愿此一点灵魂与我中国公学共不朽！”
赤子丹心，苍天可鉴。投江这一年，姚宏业不过才25岁。
悲剧发生后，感动了不少人慷慨解囊相助。清政府迫于舆论压力，也不得不在1907年夏由两江总督端方拨给上海市郊吴淞炮台公地100余亩土地为校址，大清银行助借10万两白银兴建校舍。
姚宏业几千字的遗书在报纸上发表后，引起社会震动。胡适从报上读到这份遗书。受到极大感动与鼓舞，遂决定报考该校。