中国农业银行，前身最早可追溯至1951年成立的农业合作银行，是在新中国时期成立的第一家专业银行，也是新中国成立的第一家国有商业银行。
1979年2月，中国农业银行恢复成立，总部设在北京。
1979年2月23日，国务院发出《关于恢复中国农业银行的通知》。1984年6月1日，农业银行引进首笔世界银行贷款。
1985年6月24日，中国农业银行首次统一行名字体。1985年6月25日，中央决定成立中国农业银行党委。
1994年，中国农业发展银行分设。
1996年，农村信用社与中国农业银行脱离行政隶属关系，中国农业银行开始向国有独资商业银行转变。
1997年，农行政策性业务剥离速度加快。
1999年，农行和工，中，建三家银行剥离1.4万亿元不良资产给四大资产管理公司。2004年，农行第一次上报股改方案。
2004年，中国农业银行积极支持公益事业，组织广大员工开展“中国农业银行万亩员工林示范工程”捐款活动，用于甘肃省定西地区荒山绿化，捐款共计547.8万元，为“再造西部秀美山川”贡献力量；
据不完全统计，为帮助灾区人民重建家园，向遭受印度洋海啸的东南亚国家捐款283.8万元；向中国扶贫基金会捐款10多万元；向国务院确定的定点扶贫县支出帮扶款100万元；坚持为金融系统特困女职工捐款，捐助金额达89.2万元。
2006年11月，完成了历时三年多的全国数据集中项目。
2006年，中国农行在中国企业联合会、中国企业家协会联合发布的2006年度中国企业500强排名中名列第十三。
2007年，完成数据中心迁移工程一期，顺利实现了业务数据由数据运行中心(北京)和全国36个分中心到农业银行数据中心(上海)的大切换，各项技术指标达到，并通过国际标准化认证，农业银行灾难备份中心(北京)的建设进展顺利，作为农行IT基础架构的重要核心之一。
2007年1月19日至20日，全国金融工作会议确定农业银行股份制改革总的原则是“坚持面向‘三农’、整体改制、商业运作、择机上市”。
2007年9月，农行选择吉林、安徽、福建、湖南、广西、四川、甘肃、重庆等八个省(区、市)开展面向“三农”金融服务试点。
2007年向社会发布了社会责任报告，坦诚、详尽地展示了中国农业银行乐以天下、忧以天下的企业责任观及2007年度社会责任表现，并承诺将紧扣“三农”主题，关注“三农成长”,认真履行企业
社会责任，为广大人民福祉，为小康社会建设尽职尽责。
2008年1月23日，农业银行明确提出“3510”奋斗目标和发展战略。
2008年3月，农行开始推动在6个省11个二级分行开始“三农”金融事业部改革试点。2008年5月底，“三农”金融服务第一阶段试点结束。
2008年，四川汶川地震发生后，农业银行在第一时间进行捐款，截至2008年5月28日下午，中国农业银行向地震灾区的捐款总额达10440.28万元，其中农行员工个人自愿捐款7440.28万元。中国农业银行自1979年恢复成立以来，在社会各界的大力支持下，全行员工开拓创新，奋力拼搏，在建设现代商业银行的征途上，积极探索，勇于实践，实现了由专业银行向现代商业银行的历史性转变，资金实力显著增强，业务领域不断拓宽，经营结构逐年优化，财务收益大幅跃升，管理水平不断提高，在支持国民经济发展、为客户提供优质服务的同时，自身不断成长壮大。
2008年8月，农行总行设立“三农”金融事业部，全面推动全行“三农”金融事业部制改革。2008年10月，农行股改方案获国务院通过。
2009年1月15日，中国农业银行股份有限公司在北京人民大会堂宣告成立。标志着中国国有商业银行的股份制改革基本完成。
2009年1月15日，中国农业银行由国有独资商业银行整体改制为股份有限公司。
2009年11月3日，中国农业银行与微软(中国)有限公司在北京签署战略合作备忘录，双方将在金融电子化渠道、银行后台IT支撑系统等方面开展全方位合作。
2009年12月10日，农银国际控股有限公司在香港开业，农行加快国际化战略布局。
2009年，中国农业银行全面推进业务经营转型，其价值创造力、市场竞争力和风险控制力持续提升。2009年，农业银行全面推进业务经营转型，价值创造力、市场竞争力和风险控制力持续提升。
2010年末总资产突破10万亿元大关，各项存款达8.99万亿元，各项贷款4.96万亿元，贷存比仅为55.77%,资本充足率为11.59%,核心资本充足率为9.75%,均处较高水平。
2010年，渣打与农行建立了战略合作伙伴关系，并成为农行在香港首次公开发行的基石投资者。2010年7月，农业银行在上海证券交易所挂牌上市，完成了向公众持股银行的跨越。
2010年7月15日和16日，农行A股、H股分别在上海证券交易所和香港联交所成功挂牌上市，总市值位列全球上市银行第5位。美国投资管理公司资本集团(TheCapitalGroup)旗下的CapitalResearchandManagement(CRM),持有农行H股数量达39.32亿股，占农行H股总数的12.79%,美国摩根士丹利对农行H股持股比例为16.31%,卡塔尔投资局购买了28亿美元农行股份、科威特投资局8亿美元、渣打银行持股121728.1万H股、荷兰合作银行2.5亿美元、柒集团2.5亿美元(澳大利亚公司)、淡马锡2亿美元、大华银行1亿美元、ADM公司1亿美元、至此中国五大银行全部完成“A+H”两地上市。农行A+H股IPO将在全球募集221亿美元，成为全球历史上最大IPO,农行股改上市项目也被美国哈佛大学编入全球知名企业成功经营案例库。
2011年7月22日，中国农业银行与英国剑桥大学剑桥海外留学生基金会在京签署了《中国农业银行剑桥奖学金谅解备忘录》。
2011年末，总资产达11.68万亿，是世界五百强企业之一。
2012年11月23日，国家住建部住房公积金监管司信息化推进处吴旭彦处长一行来泰安就本项工作开展调研，并在泰安市公积金中心召开座谈会。
2012年12月23日，中国农业银行2013年“金钥匙春天行动”启动仪式在厦门举行。
2012年，农行以康复扶贫贷款为推手，不断推动残疾人社会保障体系和服务体系建设，增强贫困残疾人的自身发展能力。截至2012年末，农行累计投放康复扶贫贷款3.4亿元，较2011年增加1.7亿元，贷款支持助残扶贫企业或项目42个，辐射8731户残疾人农户，户均增收8990元。
2013年2月20日，湖北省人民政府和中国农业银行《城镇化建设与金融服务全面战略合作备忘录》签约仪式在武汉举行。
2015年8月28日，中国农业银行在中国品牌价值研究院主办的中国品牌500强中排名第23位。
2015年10月8日，中国人民银行人民币跨境支付系统(以下简称CIPS系统)成功上线。中国农业银行作为CIPS系统首批的19家上线直参行之一，与工行、中行、交行、汇丰、渣打等主要对手行实现了业务往来。当日上午9时整，该行深圳分行成功发送了农业银行全国首笔CIPS往账业务，通过CIPS实时清算到达台湾账户行，帮助客户实现快速收款，见证了中国跨境人民币支付系统启用的历史时刻。
2015年，中国农业银行累计办理跨境人民币结算量近2万亿元，其中办理“港股通”跨境人民币资金结算量239亿元，为116家跨国集团企业开展跨境人民币双向资金池归集，金额达130亿元，为多家境外机构提供投资银行间债券市场及RQFII托管服务。
2016年2月25日，农业银行、中国工商银行、中国银行、建设银行、交通银行中国五大国有商业银行联手，在北京举行签约仪式。五大银行承诺，将对客户通过手机银行办理的境内人民币转账汇款免收手续费，对客户5000元人民币以下的境内人民币网上银行转账汇款免收手续费，以降低客户的费用支出。
2016年3月31日晚间，农业银行发布年报显示，公司2015年度实现营业收入5361.68亿元，同比增长2.9%;净利润1807.74亿元，同比增长0.7%;归属于母公司股东的净利润1805.82亿元，同比增长0.6%;基本每股收益0.55元；并拟向全体股东每10股派现1.668元(含税)。截至2015年末，农业银行总资产为177,913.93亿元，较上年末增加18172.41亿元，增长11.4%。其中，发放贷款和垫款净额增加7666.79亿元，增长9.9%;投资净额增加9364.17亿元，增长26.2%;现金及存放中央银行款项减少1560.08亿元，下降5.7%;存放同业和拆出资金增加2223.08亿元，增长22.7%;买入返售金融资产减少376.09亿元，下降7.4%。
2016年8月，中国农业银行在2016中国企业500强中，排名第7位。2016年10月30日，农行被爆推出史上最严房贷：个人房贷只准收回，不得新增。
2017年7月20日，《财富》发布了最新的世界500强排行榜，中国农业银行排名第38位。
2018年上半年，农行净利润增速为6.63%,建设银行为6.3%,其他两家银行增速则均低于6%;农行不良贷款余额1858.95亿元，较上年末减少81.37亿元，不良贷款率1.62%,较上年末下降0.19个百分点，再次实现“双降”。3月12日，农业银行公布了1000亿元的定增计划，用于补充银行的核心一级资本；5月29日，证监会发审委审核通过；7月3日晚间，农行公告发行完成。此次定增也成为A股历史上最大规模的再融资。
2018年6月14日，中国农业银行和腾讯公司签署全面合作协议。双方将在数字银行建设、智慧城市和乡村生态圈建设、金融科技、投融资等业务领域开展深入合作，通过整合各自的优势资源，为客户提供优质、创新的金融服务。
2018年9月末，中国农业银行个人存款余额突破10万亿元。
2018年11月26日，农业银行发布公告称，拟设立农银理财有限责任公司，注册资本为不超过人
人民币120亿元，农业银行持股比例为100%。农银理财注册地拟为广东省深圳市，将按照法律法规及有关监管要求，建立完善的公司治理架构，作为农业银行所属全资一级子公司管理。
2019年1月4日，银保监会正式批准中国农业银行设立理财子公司。
10月14日，因工作需要，蔡东请求辞去中国农业银行股份有限公司执行董事、副行长及董事会战略规划委员会委员、风险管理/消费者权益保护委员会兼美国区域机构风险委员会委员职务。
2022年5月24日，中国农业银行发布公告，中国农业银行网站95599域名将于5月26日21:00停止使用，后续请使用www.abchina.com域名访问我行门户网站首页。
2022年7月，英国《银行家》杂志公布了“2022年全球银行1000强”榜单，中国农业银行位居榜单第三名。
2022年12月2日，农业银行发布公告称，该行董事会会议审议并通过了《聘任付万军先生为中国农业银行股份有限公司行长》的议案，同意聘任付万军为该行行长，其任职资格自中国银保监会核准之日起生效。
2023年3月30日，中国农业银行股份有限公司发布2022年度业绩。实现净利润2,587亿元，增速6.9%。营业收入7,249亿元，增速0.7%。手续费及佣金净收入813亿元，增速1.2%。平均总资产回报率(ROAA)0.82%,加权平均净资产收益率(ROAE)11.28%。成功发行800亿元永续债和1,300亿元二级资本债，资本充足率为17.20%。
2023年6月8日，中国农业银行下调人民币活期存款利率5个基点至0.20%,二年期人民币定期存款利率下调10个基点至2.05%,三年期和五年期挂牌利率均下调15个基点分别至2.45%和2.5%
2023年7月28日，农业银行数字化业务运行中心在合肥举行启用仪式，数字化业务运行中心建设是农业银行十四五规划的重要内容，是农业银行实施数字化转型、推动高质量发展的战略性工程。
2023年9月1日，中国农业银行发布公告，下调人民币存款挂牌利率。
