孙权对此十分怨恨，便派鲁肃索要荆州。孙刘两方的将领在阵前“单刀会”，据理相争但最终不欢而散。
孙权命吕蒙准备进攻荆州南部，鲁肃将万余人马于益阳牵制关羽，刘备从益州带兵回援。
时关羽号称有三万人马，自选五千精锐准备从上游渡河，鲁肃派遣吴将甘宁率领一千人前往关羽的对岸驻守，甘宁的后方还有吕蒙、孙皎、潘璋的数路吴军正与鲁肃的兵马分道并进。
关羽认为东吴已经做好了开战的准备，就没有过河。在河对岸扎营，这个地方后来称为“关羽濑”。
此时，曹操进取汉中的张鲁，刘备便迅速和孙权修和。
协议平分荆州，即分荆州的江夏郡、长沙郡、桂阳郡属于孙权，分荆州的南郡、零陵郡、武陵郡属于刘备，这就是三国史上著名的湘水划界。
建安二十二年（217年），鲁肃病逝。吕蒙接替鲁肃镇守陆口，在表面上，吕蒙对关羽倍加殷勤、广施恩厚。但在暗地里，吕蒙依然渴望着攻杀关羽。
建安二十三年（218年），太医令吉本、少府耿纪、司直韦晃等人谋反。但不久事情败露，几人被曹操所杀。
曹操于是召曹仁为征南将军，讨伐关羽。曹仁屯樊期间，大肆征调徭役，南阳郡一带军民苦不堪言。
于是，宛城太守侯音与卫开劫持太守造反，与关羽联合。曹仁率军前往平乱，于次年正月攻破宛城，将侯音斩杀，并屠城。
建安二十四年（219年），刘备军与曹操军相争汉中，魏将夏侯渊被刘备大将黄忠所斩，曹操亲提大军来争汉中，刘备据守，赵云又在汉水劫去粮草，曹操无奈只得退出汉中，刘备遂占据汉中。
建安二十四年（219年）七月，刘备自称汉中王，任命许靖为太傅，法正为尚书令，关羽为前将军，张飞为右将军，马超为左将军，黄忠为后将军，并派益州前部司马、犍为人费诗去关羽驻地授予关羽官印。
关羽闻知黄忠地位和自己一样，愤怒地说：“大丈夫终不与老兵同列！”
不肯接受任命。费诗对关羽说：“创立王业的人，所用的人不能都一样。以前萧何、曹参和汉高祖年幼时就关系很好，而陈平、韩信是后来的亡命之人；可排列地位，韩信位居最上，没有听说萧何、曹参对此有过怨恨。如今汉中王因为一时的功劳，尊崇黄忠，而在他心中的轻重，黄忠怎能和您相比呢！况且汉中王与您犹如一体，休戚相前，祸福与共。我认为您不应计较官号的高下，以及爵位和俸禄的多少。我仅是一个使者，奉命之人，您如果不接受任命，我就这样回去。只是我为您这样感到惋惜，恐怕您以后要后悔的。”
关羽听了他的话以后，大为感动，醒悟过来，立即接受了任命。
而后关羽留南郡太守糜芳守卫江陵，将军傅士仁驻守公安，自己率领大军攻打襄阳的吕常和樊城的曹仁。
关羽在交战之中，关羽曾被魏将庞德射伤了额头。
曹操从汉中战场撤出后，立即派遣于禁督率三万大军救援樊城。
此后，开始连下起了十余日的霖雨，关羽利用汉水暴涨的机会水淹七军，然后乘船攻之，进而逼降于禁、擒获庞德。
关羽欲任用庞德为将，但遭到拒绝，于是斩杀庞德。
至此，救援樊城的魏军全军覆没，曹仁驻守的樊城也岌岌可危。关羽的军队乘船临樊城，围城数重。
建安二十四年（219年）十月，陆浑民孙狼等苦于徭役，叛上作乱，南附关羽。自许昌以南的诸多山贼纷纷遥受关羽印号，为之支党，关羽的声势一度威震华夏。
建安二十四年（219年）末，曹操以为汉献帝在许，与关羽军相近，欲迁都避其锋芒，司马懿、蒋济等劝阻，认为孙权必然不愿看到关羽得志，可以用答应将江南封给孙权为条件让他从背后出兵攻击关羽。
同时曹操派遣徐晃、赵俨等率军救援樊城，更准备亲自征讨关羽。救援樊城的徐晃因兵力不足，认为很难与关羽抗衡，不过之后曹操先后派遣徐商、吕建等将领以及殷署、朱盖等十二营兵马增援徐晃。
关羽在围头派有军队驻守，在四冢还有驻军。徐晃于是扬言将进攻围头，却秘密攻打四冢。关羽见四冢危急，便亲自率领步、骑兵五千人出战，徐晃迎击，关羽退走。
关羽在堑壕前围有十重鹿角，徐晃追击关羽，二人都进入关羽对樊城的包围圈，包围圈被打破，傅方、胡修都被杀死，关羽于是撤围退走，然而关羽的船只仍据守沔水，去襄阳的路隔绝不通。
起先，孙权曾派人为自己的儿子向关羽的女儿求婚，关羽辱骂来使，拒绝结亲，孙权十分恼恨。
孙权命吕蒙为主帅偷袭荆州，并亲自率军为后援。荆州重镇江陵守将麋芳（刘备小舅子）、公安守将士仁因与关羽有嫌隙而不战而降。
当关羽领兵出征时，由糜芳、士仁两处负责供应粮草军需，两人不愿全力救援关羽。
关羽放出话说：“回去后就惩处他们。”
糜、士二人都恐惧不安。于是孙权暗中派人去诱降糜、士二人。此时关羽得知南郡失守后，立即向南回撤。
回师途中，关羽多次派使者与吕蒙联系，吕蒙每次都厚待关羽的使者，允许在城中各种游览，向关羽部下亲属各家表示慰问，有人亲手写信托他带走，作为平安的证明。
使者返回，关羽部属私下向他询问家中情况，尽知家中平安，所受对待超过以前，因此关羽的将士都无心再战了，士卒渐渐溃散，退至麦城。
建安二十四年（219年）十二月（公历的220年1月中下旬和2月上旬），关羽率数十骑出逃，一路突围至距益州不过一二十里的临沮，遇潘璋部将马忠的埋伏，被擒，和长子关平于临沮被害。
孙权将关羽首级送给曹操，曹操以诸侯之礼将其安葬于洛阳，同时孙权则将关羽身躯以诸侯礼安葬于当阳，即关陵，也称当阳大王冢。
蜀汉在成都为关羽建衣冠冢，即是成都关羽墓，以招魂祭祀。因此民间也称关羽“头枕洛阳，身卧当阳，魂归故里。
景耀三年（260年）九月，蜀汉后主刘禅在追谥几位重要大臣时，追谥关羽为“壮缪侯”。他的儿子关兴继承了爵位。
公元263年，庞德之子庞会，随钟会伐蜀，屠灭了关羽的家族。