1858年底，第二次鸦片战争的硝烟尚未散尽，嘉约翰又携新夫人再临广州城，再续他在中国近半世纪的行医授业传教生涯。

嘉约翰重返广州后，面对被焚毁的医院，这位在当时西方一流的医科院校培养出来，习惯在充足物质设备条件下工作的医生，没有坐等条件完备就迅速开始医疗救治业务。同时，因陋就简地在南郊增沙街租下一间店铺，修辑粉刷一下，改作医院用房，成为博济医院的雏形。1859年1月中旬医院正式开业，命名为博济医院，他用在美国募集的经费购置了一批医疗器械。医院开办之初，正值鸦片战争战火方熄，中国刚刚经历了一场西方列强的侵略，当地从官方到民间对嘉约翰办医院并不欢迎，战前他主管的医院就是被仇恨侵略的当地民众烧毁。他办医院的条件很差。医院能生存下来，首先是靠嘉约翰所具有的传教士执着的宗教传道救世精神，还由于许多穷人因没钱治病的，或是“病急乱投医”的人壮着胆子来试诊，治好了病，名声也传播开来，连富贵人家也上门求医。医院由艰难维持到发展扩大。

随着嘉约翰治愈病人之众，当地人见识了他的精湛医技，感动于他不计报酬尽心医治病人的医风，加上博济医院免费收治病人的方式，使他医名大振，甚至到了有点神化的地步，当地人改变对西医多少有点疑惧的心态，求治的病人渐渐增多，后来病人更如潮涌至。权贵富豪有病，往往通过关系找嘉约翰求诊，一般老百姓，就只有在医院前漏夜排着长队候诊，嘉约翰咬着牙强忍累坚持诊治尽可能多的患者，不放弃在广州各阶层中开展行医，医治了大量病人，接诊遍及全粤,医院业务发展迅速，使得病房不足，扩大医院规模势在必行。嘉约翰又于1863年在广州毂埠找到一块地皮，始建新博济医院，到1866年完工，10月开诊收治病人。博济医院尽管规模迅速扩大，成为一家多功能医院，仍难满足病人住院需求，附近的民房和礼拜堂也被当作临时住院处。

由于嘉约翰竭尽全力的推动，博济医院的扩展得到各方的赞助。首先得到美国传教士创办的广州医学传道会支持赞助，该会在美国募捐，并以可观资金赞助博济医院。英国教会及英商也为博济捐款，随着医院的治疗效果日益显著，中国的官僚包括两广总督在内也纷纷解囊，这在中国官场少见，中国民间更不乏赞助。这使博济医院不但可以免费治疗患者，自身也不断扩展，成为颇具规模的西医院，也成为中国历史最久远、影响最大的西医院之一，对西医在近代中国的传播和发展起了极大的促进作用。该院是中国近代第一所综合性多功能的医院,除擅长的眼科和外科,还精通内科、妇科、儿科、产科等,1892年,博济医院报道了在医院施行的我国第一例剖腹产的案例。

在嘉约翰艰苦经营下，博济医院迅猛发展。1860年又以1300元改建了医院，有7间病房，60张病床，男女病人分开两处，医院门诊部每周开诊一次。同时，他又到佛山与肇庆两地开设诊所和门诊部，开展医疗工作。到1874年,医院床位增加到120张,医治的病人包括各个阶层。1875年,接受了1000个住院病人,门诊病人数达到18000人。至1891年, 开院36年,医治52万人,出版了27部关于医疗和手术方面的书籍,培养了100名助手。到1935年博济百年为止，该院治疗病人200多万，施行外科手术20多万例。

该院内外科医疗水平俱优,早期尤以外科手术闻名。博济医院因为嘉约翰医术精良，声名鹊起。嘉约翰是一名医技卓越的医生,对外科和内科都很精通,“历医各症如砂淋、肉瘤、眼疾、蛊胀等类”,人皆“称其神技,众口交推”,尤其擅长治疗结石病，在华数十年,他亲自治愈1300余例。在嘉约翰主持下,至1874年医院共做过368例结石手术,其中301例膀胱结石,有67例采用碎石术。1880年,嘉约翰成功施行了卵巢截除手术,对于肿瘤切除术做了很大改进。他还研究了梅毒和吸食鸦片成瘾的发病率,帮助吸食鸦片者戒毒。

随着医院发展起来，完全免费提供医疗服务难以维持，对病人索要费用的问题渐渐引起各方的注意。教会医学杂志发表了各方教会医生的讨论，分歧者各执所见。少数医生反对收费，根据是他们的病人大多是穷困潦倒的平民，所以仍应遵循早期传教先锋开创的慈善治疗的原则。主张收费者也有他们的理由，首先免费治疗不能吸引有钱人和有势力的人，而且，即使免费诊治赠药也未必完全得到病人的信任。后者拥有更多的赞同者，收费看来已成趋势。况且，博济医院发展起来后，开支日大，维持困难。然而，博济医院对穷人一如既往免费诊病。即使对穷人以外人士的医疗收费也很低。

嘉约翰行医、办医院的获得巨大成功。他在中国引进西方医疗技术及近代医院管理模式的开创性试验成功，使中国的西医界公推为西医界首席权威与代表，推举他担任各类医疗机构、职业团体、医疗卫生活动的负责人。虽然他本人宁愿默默从事医务事业，救治病患者，但当需要一个当时在中国西医界领军并在中国人中享有威望的人，来协调中国西医界事业时，非嘉约翰莫属。嘉约翰于1865年接管广州金利埠医院。1887年，被选为中华教会医学会第一任主席。

在嘉约翰艰苦备尝的奋斗努力下，他管理的博济医院，创下中国医学界的多个第一，成为中国近代第一所综合性多功能的医院。1892年,博济医院报道了我国第一例剖腹产的案例。

博济医院为中国医界树立一个完全殊异中国传统医学的现代医学样版，先行创立了整套适合中国的现代医院科学管理的规章规范与管理方法，摸索出一套适合中国国情的现代医院管理经验。展示以现代科学为基础的西医模式的卓有成效，引发中国医坛风气之变，一间间新型的西医医院在中国出现。

由于西医是最先引进中国的西方科学技术，西医在时人眼中近乎神奇的效用，引发中国人对当时先进的西方科学文化的认识，一时间从朝廷赴粤大员、官吏兵卒、名绅巨贾、士大夫知识分子，到平民百姓、乞丐妓女都有到医院求治的，博济医院则放开怀抱迎纳一切求治的人。这对广东乃至中国，认识当进西方科学文化的先进而引进，所起的作用无疑是巨大的。博济医院，从设备器用、医疗技术、科学管理方法、先进思想理念，展示给中国人。