19世纪中叶之后，上海成为了全国的经济贸易中心，大批的宁绍人为了谋生而赴沪从业。光绪初年，谢纶辉亦随着移民热潮来到了上海谋发展，在乡人的引荐下，他在上海咸康钱庄学业，由于他精明能干，极富理财天资，得到了咸康钱庄经理陈笙郊的器重，不久，陈笙郊即委以要职。陈笙郊是上虞小越人，他对这位来自同郡的老乡十分关照，后凡钱庄内的交际要务，陈均派谢纶辉打理。谢纶辉天性重义，且具有非凡胆略，经常能出奇招，化解一些钱庄间的棘手问题，几年之后，谢纶辉在钱业界积聚了很高的威信。
光绪十五年（1889年），陈笙郊发起成立北市钱业公会，谢纶辉作为主要参与者之一，选择谢纶辉为经理的钱庄闲置房成立了北市钱业公会。谢纶辉也亲任北市钱业会馆董事、总董等职。
光绪二十年，陈笙郊与镇海方性斋与金山黄氏合股创设“承裕钱庄”，董事会因欣慕谢纶辉的才华，一致公推谢纶辉担任“承裕钱庄”经理，当时的钱庄经理全权负责钱庄的运转，而董事基本不插手钱庄的业务。承裕钱庄创办后，由于谢纶辉操作稳健，钱庄业务蒸蒸日上，经营数载，承裕钱庄一跃成为了业中翘楚。
光绪二十三年（1897年），清廷准奏以官商合股方式开办中国第一家新式银行——中国通商银行，定海人朱葆三以大股东身份出任总董，陈笙郊出任第一任华大班。华大班即为中方总经理，当时银行内一切存款、放款、资金运用、签订合约、选用职员等大权，均由大班掌握。陈笙郊出任通商银行要职后，其北市钱业会馆总董一职由谢纶辉续任，1902年，谢纶辉又被选为上海商业会议公所议员，谢纶辉一跃成为了上海钱业界举足轻重的领袖人物。
清末民初，私营钱庄与洋行之间经常会发生利益冲突，为了保护小资本的钱庄权益，北市钱业公会规定：“到期庄票，如遇钱业自行来收，即可当日解付同行之银，互相汇划；如遇洋银行来收，须解现钱，故再迟一天”。这项规定招致了洋商银行和外商商会的强烈不满，他们邀请钱业总董谢纶辉出席会议，会上，谢纶辉据理力争，说“钱业章程，外人不得干预，其庄票收授与否，权操于洋商”，随后即离席告辞，在谢纶辉的强硬态度之下，洋商不得不照常收用。谢纶辉一言九鼎之魄力，深得钱业界信服。
谢纶辉发迹后对家乡的教育事业十分关注。光绪二十七年（1901年），姚北乡绅杨卣香首倡三乡学堂之议，在沪的谢纶辉等人闻之慨然提倡，并劝募于旅沪同乡会，允助学校常年经费每年大洋二千余元，诚意学堂成立后，谢纶辉担任校董。此外，谢纶辉还在泗门出资创办“核真学校”及“景棋学堂”，每学期按时从上海钱庄划拨现洋到校，从不拖欠。鉴于他热心教育事业、造福桑梓的义举，教育部特奖给他三等金质嘉羊勋章。
光绪三十一年（1905年），时任中国通商银行华大班职务的陈笙郊在病重之际，向银行董事会举荐谢纶辉接替己职，获得董事会通过，谢纶辉成为了中国通商银行第二任华大班。谢纶辉接手中国通商银行后发现行屋已陈旧不堪，银行的业务发展受到了限制，遂向董事会提议重建银行大厦。光绪三十二年，经董事会筹备，中国通商银行新大厦正式开工，大厦由英商玛利逊洋行承揽设计，建筑名师格兰顿绘图，外观呈英国哥德式建筑风格。建成后的银行大厦，在十里洋场宛如一棵闪亮的明珠，十分豪华气派，落成开张之时，全上海轰动了，国人无不为此盛举扬眉吐气。
谢纶辉执掌中国通商银行业务长达十四年之久。光绪三十四年（1908年），谢纶辉又兼任了赓裕钱庄经理，并投资上海怡大、同余、恒祥、聚康、汇康等钱庄，参股轮船招商局，成为了名震上海滩的金融巨子。
谢纶辉一生提倡勤俭生活，但对慈善公益事业，却每每出手大方。民国六年，他慨然出资二万四千银元，置田二百余亩；灶地五百三十五亩，在泗门建造“希范”义庄，乡里凡有穷乏无靠者、丧葬无力及客死无所归、失火无所居者，义庄悉数恤之。1918年，大总统冯国璋题奖“敬宗睦族”匾额，以褒奖谢纶辉建庄义之举。
谢纶辉是泗门谢氏十五房之后，因该房世代清贫，房内支祠久无创建，谢纶辉发迹之后，在泗门东岳庙西南建造了谢氏十五房祠堂。1919年，谢纶辉去世，乡人把十五房祠堂称作“纶辉祠堂”，以表示对这位善士的感念与缅怀。