按照古代户籍划分,陈与义算不上地地道道的洛阳人——他的老祖宗本来一直居住在京兆,也就是现在的陕西西安,后来赶上安禄山造反,只得跟着唐玄宗入蜀避乱,迁居青神。后来,陈与义的曾祖陈希亮又把家搬到了洛阳。陈与义也算出生在书香门第。他的曾祖陈希亮(字公弼),官至太常卿,与苏洵父子为世交。大文豪苏东坡后来还写了《陈公弼传》作为纪念。陈与义的祖父和父亲也曾做过官,其外祖父张友正还是名显一时的书法家。 陈与义也确实给先祖争气。出生于哲宗元祐五年(公元1090年)六月的他自幼勤奋好学,博闻强志。稍长,他又学诗于当时颇有名的崔鶠(音yàn),其后进入太学深造。
24岁时,陈与义考中进士,随后当上文林郎。这是个闲职,负责开德府(今濮阳)的文学教育工作。陈与义干了3年后辞职,回家与一帮好友吟诗赏画,日子过得好不快活。又过了两年,他被任命为辟雍录,也就是到太学的预备学校里当老师。
宣和二年(公元1120年),陈与义的母亲辞世。他在汝州服丧期间,结识了州守、词人葛胜仲。两年后,由葛举荐,他入京做了太学博士。次年,他29岁时的诗作《和张矩臣水墨梅五绝》,竟被徽宗看上了。
陈与义自幼聪明好学,能诗文,为同辈所敬重。《宋史》本传说他“天资卓伟,为儿时已能作文,致名誉,流辈敛衽,莫敢与抗”。徽宗政和三年(1113年)登上舍甲科,被授于开德府(今河南濮阳)教授,累迁太学博士,进升为符宝郎,掌皇帝八宝及国之符节,不久被贬为陈留郡(今河南杞县境)酒税监。
靖康二年(1127年)四月,金兵攻入宋都汴京(今河南开封),掳走宋徽宗、宋钦宗二帝,北宋遂亡。陈与义自陈留避难南奔,经襄阳,转湖南,绕广东、建,于绍兴元年(1131年)抵南宋首都临安(今浙江杭州)。陈与义为高宗旧臣,高宗得知他的忠心,便任命他为礼部侍郎。不久,以徽猷阁直学士知湖州(今浙江吴兴)。召为给事中,参与讨论政事,抄发章疏,稽察违失,以备顾问应对。又以显谟阁直学士提举江州(今江西九江)太平观,旋而复用为中书舍人、直学士院。绍兴六年(1136年)十一月,拜翰林学士、知制诰。七年正月,授参知政事(相当于副宰相),唯师礼用道德以辅朝廷,尊主威振纲纪而呕心沥血。
陈与义性格沉重,不苟言笑,待人接物谦虚谨慎。被他推荐和提拔的官吏很多,他从来不向外人流露,也不向被推荐、提拔的人表白,更不提出任何要求。因此,他在士大夫阶层中具有较高的威望。朝臣们多愿向他坦露心迹或请求指正迷津。当时,丞相赵鼎在朝廷放言:“人多谓中原有可图之势,宜便进兵,恐他时咎今日之失机。”高宗说:“今梓宫与太后、渊圣皆未还,若不与金议和,则无可还之理。”丞相的意思是,多数人主张打回汴京,收复中原,若不如此,恐怕将来因失去机会而受到追究。而高宗则认为,二帝被掳,连同太后、嫔妃、宫女都在金人手里,若不议和恐难于返回。陈与义听了之后,赞成丞相的用兵,反对高宗的议和,便婉转地说:“若和议成,岂不贤于用兵;万一无成,则用兵必不免。”高宗曰:“然。”从道理上以为陈与义的话很对,但事实上他甘心于偏安江左,以求苟延残喘。陈与义看出高宗无意收复中原,他很失望,便以病托辞退职,朝廷复以资政殿学士(授予罢政宰相的职衔)知湖州,加提举临安洞霄宫(今浙江余杭西南,宋代凡执宰大臣去位者,皆以提举洞霄宫系衔)。绍兴八年(1138年)十一月病逝,终年四十九岁。