安阳地处中原，历史文化悠久，是中国著名的八大古都之一，甲骨文的诞生地，国家历史文化名城和风景胜地，是中华民族古老文化发祥地之一。安阳县小南海原始人洞穴发掘证实，早在2.5万年前，先民就在此生活，其文化处在旧石器时代晚期。新石器时代的遗址在境内随处可见。远古时期的颛顼、帝喾二帝先后在帝丘和亳建都（均在内黄县梁庄乡），并葬于此（内黄县二帝陵）。《禹贡》载，夏代，安阳一带属冀州。 

商代，太戊（商中宗）都亳，死后葬于亳都东南（均在内黄县境）。公元前1518年前后，河亶甲将都由嚣迁于相（一说位于安阳市区，一说位于内黄县境）。公元前1300年，商王盘庚自奄迁都于殷（今安阳市区小屯一带），安阳市区及所属各县为畿内地，在此传八代十二王，至公元前1046年周灭商，共建都于此254年（据夏商周断代工程最新成果订正）。

西周时，周灭殷后，周封武庚于此守殷祀，分殷畿内地为邶、鄘、卫三国，林州、内黄县属卫国，安阳、汤阴为邶国地。后武庚勾结管、蔡作乱，周公东征，杀武庚、管叔，流蔡叔、霍叔，又封武王少弟康叔于卫国，都朝歌，安阳一带均为卫国之地。

春秋时期，属晋，为晋东阳之地。

战国时期，先属魏、后属赵。魏文侯时，任命西门豹为邺令，治邺。西门豹破除“为河伯娶妇”之恶俗，并于公元前421年率邺民开凿漳河十二渠以灌田，使邺地农业有了很大发展。《史记》载：赵惠文二十四年（前275）廉颇攻魏，拔防陵、安阳。“安阳”之名始见于史册。据明代《彰德府志》载，秦时“故城在州东南四十三里，近内黄县”。

秦统一中国后，分天下为36郡，安阳一带分属邯郸郡、河内郡和东郡。

西汉时，汉高祖二年（前205），置隆虑县、荡阴县，并废安阳县入荡阴，二县均属河内郡，邺、内黄等地属冀州魏郡。

东汉建安九年（204），曹操攻下邺城，居邺。建安十七年（212），曹操割河内郡的荡阴、朝歌、林虑，东郡的卫国、顿丘等，益魏郡。魏郡加上原领15县，共辖29县，现安阳市均在魏郡范围之内，治所在邺。

晋时，仍置魏郡，领邺、长乐、魏县、斥丘、安阳、荡阴、内黄、黎阳8县。由于晋王室内乱，边疆少数民族乘机内侵，在北方形成“五胡十六国”局面，安阳一带成为兵家必争之地，有多个国家先后在邺建都。晋成帝咸康元年（335），后赵石虎即位，由襄国（今河北邢台）迁都于邺，后赵都邺历时15年。公元350年，内黄人冉闵废后赵石鉴，尽灭石鉴子孙，遂即皇帝位，改国号大魏（亦称冉魏）。公元352年，前燕击魏，冉闵被燕将慕容恪生俘，杀于龙城，冉魏亡，共都邺3年。公元357年，前燕慕容儁从蓟州（今天津蓟县）迁都于邺，前燕都邺共13年。其后，邺先后为前秦、后燕、北魏所属。公元398年，北魏拓跋珪在邺设行台，辖魏郡、阳平、广平、汲郡、顿丘、清河6郡，安阳属魏郡。公元401年，罢邺行台，设相州，取河亶甲居相之义为州名，是为“相州”名称之始。此时，相州的辖区大致相当于曹魏时代的魏郡。

南北朝时，公元532年，高欢攻取邺城，迎渤海太守元朗为主，率百官入居邺城。北魏尔朱氏伐高欢于邺城，高欢倚韩陵山布成圆阵，大败尔朱氏。公元534年，高欢立元善见为帝，即孝静帝，改元天平，并从洛阳迁都于邺城，史称东魏，都邺16年。在东魏孝静帝都邺时，改相州为司州，改魏郡为魏尹。时安阳县、汤阴县皆废入邺县，内黄县废入临漳县，林县为林虑郡治所。邺县、临漳县、林虑郡皆隶属于司州。

公元550年，元善见禅位于丞相高洋（高欢之子），改国号齐，仍以邺为都。

齐幼主承光元年（577），北周军攻邺，大破齐军，齐王公以下皆降，北齐共都邺27年。

北周时，仍以邺为相州，置相州总管府。北周大象二年（580），相州总管尉迟迥举兵讨伐杨坚，兵败。杨坚焚毁邺城，并将相州治所和邺民全部迁邺南之安阳，安阳遂称相州，又称邺。邺城的旧址设灵芝县。从此，安阳取代邺城成为这一带的政治经济文化中心。

隋初，仍为相州，炀帝时，废州复置魏郡，治所安阳，领安阳、邺县、临漳、成安、零泉、尧城、洹水、滏阳、临水、林虑、临淇11县。

唐武德初，复改魏郡为相州。天宝元年（742），改相州为邺郡。乾元元年（758）复为相州，隶河北道，领安阳、邺、汤阴、林虑、尧城、临漳6县。

五代时，后梁贞明元年（915），置昭德军，后唐时为魏州的属郡，后晋天福三年（938），复升为彰德军，“彰德”之名始见于史册。

宋时仍为相州，置彰德军。宋太宗至道三年（997），在州、县以上增设路，相州隶属河北路，领安阳、汤阴、临漳、林虑4县。

金明昌三年（1192），升相州为彰德府，此为“彰德府”名称之始。金沿宋制，彰德府属河北西路管辖，统领安阳、林虑、汤阴、临漳、辅岩5县。

元时，改彰德府为彰德路，属中书省。元世祖至元二年（1265），复置彰德总管府，下辖录事司及怀、孟、卫、辉4州，安阳、临漳、汤阴、辅岩、林虑5县。

明代，为彰德府，领磁州、安阳、汤阴、临漳、林县、武安、涉县共1州6县，改属河南布政使司。从此，彰德府及其属县改属河南省，至清代沿袭不变。

清初，沿袭明制，仍为彰德府，领1州6县。雍正三年（1725），划直隶大名府的内黄县入彰德府。次年，析出磁州改属直隶广平府，时彰德府领安阳、汤阴、临漳、林县、武安、涉县、内黄7县。

民国初年，废彰德府，存安阳县，隶河南省豫北道。民国21年（1932），在省、县之间设立行政督察专员公署，河南省第三行政区督察专员公署（驻安阳城内东大街西头路北），领安阳、临漳、武安、涉县、林县、汤阴县、内黄、汲县、滑县、浚县、淇县11县。

抗日战争时期，中国共产党领导抗日军民在安阳一带开辟了敌后抗日根据地，并成立了抗日民主政府，有安阳、邺县、漳南、汤阴、淇汤、林县、林北、高陵、卫南、滨河等，形成冀鲁豫和太行两大根据地。

1949年2月4日，在中共太行行署党组织的领导下，中共安阳市委、安阳市人民政府在安阳县水冶镇成立。5月6日安阳城解放后，安阳市党、政、军机关入城办公，时安阳市辖第一、第二、第三、第四4个区，辖区范围只限火车站及城周四关附近，市区面积4.5平方公里。

1949年8月1日，平原省成立，安阳市为平原省省辖市。1952年11月30日，平原省撤销，安阳市划归河南省，仍为省辖市。1973年2月，经中央和河南省委批准，安阳市下辖文峰区、北关区、铁西区、郊区4个县级区，市区面积经多次调整扩大，达到247平方公里。

1983年9月，河南省实行市管县体制，撤销安阳地区，将原安阳地区所辖的安阳县、林县、汤阴县、淇县、浚县5县划归安阳市领导。市管县后，安阳市辖5县4区，面积6106平方公里。1986年1月，又析出浚县、淇县划归鹤壁市管辖，同时，将濮阳市的内黄县、滑县划归安阳市领导。调整后，安阳市辖安阳县、林县（1994年元月更名林州市）、汤阴县、内黄县、滑县5县和文峰区、北关区、铁西区、郊区4区，总面积达7413平方公里。

2014年元月，滑县划归省直接管辖，调整后安阳市辖安阳县、林州市、汤阴县、内黄县4县（市）和文峰区、北关区、殷都区和龙安区4区，总面积5599平方公里。