1891年11月1日,黄遵宪被任命为清政府驻新加坡总领带,到任后,他详察南洋各岛情形,体察侨民疾苦,并着手改善侨胞待遇,当地英国殖民者设立的华民政务司“名为护卫华人,实则事事与华人为难”,甚至敲诈勒索。黄遵宪一面与贡国殖民主义者斗争,一面将《大清律例》中有关财产各条抄出,并译成英文,要求总督交给华侨聚居地承审官“一体遵办”,以保护华侨的财产,同时,黄遵宪还白日提倡发展华文教育,改会贤社为图南社。分亲任社长,拟定学规,每月设定课题,鼓励南洋诸生学习中国文化,研究地方礼俗,关心民事民疾,当他卸任归国时,门生潘百禄在《送黄观察公度夫子返国》一诗中,用“遂 佰文明开”、“无异岭表韩公来”表达对都是的赞誉之情。
《马关条约》签订后,准开沙市、重庆、苏州、杭州为通商口岸。中日对方进行其休交涉时,黄遵宪受委派评选苏、杭两地谈判事宜。他谈判的对手是日本著名外交家珍田舍已,当时,珍田摆出一副盛 气凌人的架势,要求在苏、杭开埠,专界专管,并且蛮横地说:“奉本国政府接收专管租界之合,但求按约指地。”黄遵宪毫不示弱,不为其气势所慑。他援引《马关条约》条文,指出“新约所评,只许通商,遍查中文、日文、英文,并无许以苏州让人一地,听日本 政府自行管理 之语”,拒绝了珍田的无理要求,分又新自草拟《商埠议案》,凡时《马关条约》文本语焉不详的地方,只要有有昨于挽回中国自主要利的“无孔不钻”,“无微不至”,从而有理有利有节地挫败了珍田舍已的嚣张气焰,在国家民族危亡的情势下为中国争了口气。
黄遵宪在《上某星使论外交家尽职书》中,把他十几年问处理外交事务的经验总结为“挪展之法” “渐摩之法”和“抵制之法”,其中最重要的是“抵制之法”,因为在他看来,当时清朝处于列强环视之下,帝国主义瓜分中国的不平等条约已祸害多年,在对外交涉中只图能多挽回些利权,以保国民生计,又因为在弱肉强食的竞争原则下,弱国无外交,与帝国主义的斗争就不能不讲究策略,分阐述说:“于固执已见,则诿以彼国来明我意;于争夺已权,则托于我国愿同协力;于要求已利,则谬谓两国均有利益,不斥彼之说为无理,而指为难行;不以我之说为必行,而请其酸度。”即在谈判中千万不能感情用事,把事情弄僵,购误全局,一定要掌握好谈判分寸,应想方设法达到自己的目的,同时又不至于使对方下不了台,交不了差。黄遵宪继续阐述说:“不以彼不悦不怿而阻而不行。言语有时而互驳,而辞气终不愤激;辞色有时而受拒,而请谒终不惮烦;议论有时而改易,而主意终不游移。将之以诚恳,济之以坚贞,守之以含忍。”黄遵宪认为,凡此种种交涉手段和谈判策略,最终是要达到使“吾民受护商之益”,即保护并发展民族工商业的目的。