公元215年（建安二十年），曹操征伐據守漢中的張魯，任用劉曄為主簿。
當時張魯弟弟張衛領兵堅守，曹操攻陽平山上各個屯寨，但山勢險峻難登，難以攻克；而且士兵死傷甚多，糧食又缺乏，曹操於是打算撤軍，命令夏侯惇和許褚呼叫山上的軍隊撤退。
此時有一些軍隊在夜裡誤闖張衛別營，營中士兵大驚四散，當時在軍隊後方的劉曄見此認為可以取勝，勸夏侯惇等不要退軍。
夏侯惇見後相信，於是回去告訴曹操，曹操於是進攻張衛，張衛不敵退走。
張魯不久投降，曹操得漢中。劉曄及後即勸曹操進攻劉備新佔的蜀地，認為攻佔漢中後令蜀人震驚，只要進攻他們就會望風歸附；否則讓諸葛亮、關羽、張飛等人穩定人心，據守險要，那日後就難以征服。
但曹操不聽。七日後，有從蜀地投降的人說蜀地人心惶惶，劉備斬殺驚惶者亦不能安定人心。
曹操於是再問劉曄現在可否進攻，劉曄卻說蜀人人心已經較為安定，不能進擊。曹操最終回師。及後任行軍長史，兼領軍隊。
公元220年（黃初元年），劉曄升任侍中，賜爵關內侯。
當時曹丕問朝臣究竟劉備會否為被孫權襲取荊州而殺害的關羽報仇，大多數都是認為劉備力量薄弱，名將只有關羽；關羽死後國內憂慮，根本不會再發動戰爭。
但劉曄卻認為劉備一定會借出兵而重振聲威；而且認為劉備和關羽情如父子，一定會為他報仇。最終劉備果然於次年（公元221年）進攻孫權，發動夷陵之戰。
當時孫權舉全國之力應付，並向曹魏稱藩，朝臣很多都慶賀，但劉曄卻認為孫權並沒有臣服之心，這次只是逼不得已才稱藩。
劉曄更建議曹丕乘虛領兵攻滅東吳，以絕後患。
但曹丕不同意。東吳在夷陵之戰戰勝後果然漸見不臣之心，曹丕於是打算討伐，但劉曄認為吳國剛剛大勝蜀漢，上下一心，而且有長江天險，不能這麼倉卒進攻。曹丕又不聽。
公元224年（黃初五年），曹丕親自領軍到廣陵泗口，命令荊州和揚州的軍隊並進，進攻東吳。
。當時很多人都以為孫權會親率軍隊抵抗，但劉曄認為孫權知道曹丕只率大軍到江北壓境，過河戰鬥者必定是其他將領，因而必定會靜待進攻，不會親率迎擊。最終孫權都沒有來，曹丕唯有撤退。
魏諷在東漢末年很有名聲，卿相以下的官員都與他誠心結交。
公元220年（延安元年），劉備將領孟達率眾投降，曹丕對孟達甚為器重，任命他為新城太守，加散騎常侍；當時的人都稱他有「樂毅之量」。
而劉曄一見他們二人，都說他們必定會叛變。
最終魏諷於公元219年（建安二十四年）在鄴城叛變；而孟達則於公元227年（太和元年）與諸葛亮通訊，意圖叛亂。
公元227年（太和元年），魏明帝曹叡繼位，進封劉曄東亭侯，食邑三百戶。
次年，遼東公孫淵脅逼叔父公孫恭讓位，自立為遼東太守﹕劉曄認為公孫氏佔領遼東很久，恃著海和山的阻隔，可能會好像胡族一樣難以制約，甚至發動叛亂。
建議應趁公孫淵初登位，出其不意出兵討伐，並開設懸賞引誘他的反對者協助，可能未必開戰就能解決遼東割據問題。
但最終都沒有被接納，公孫淵亦與於公元237年（景初元年）叛魏。
劉曄得到明帝寵信親近，有一次曹叡打算攻伐蜀漢，朝臣都說不可以，但劉曄私下卻對曹叡說可以；後出去和朝臣又說不可以，因為劉曄的膽識，說時都好像是真心的，曹叡和各大臣都沒有懷疑。
當時中領軍楊暨被明帝寵信，亦敬重劉曄，他是最為反對曹叡伐