新莽末年，起義軍此起彼伏，其中實力最強的義軍有兩支，一支是以樊崇，逄安等人為主的赤眉軍，一支是王鳳，王匡等人的綠林軍。兩支義軍聲勢浩大，此時張卬聞訊趕到了綠林山，加入了綠林軍，成為裡面的一員重要的將領。由於綠林山爆發了瘟疫，隨後綠林軍開始了分兵作戰，一支稱之為下江兵，一支稱之為新市兵。

此時，劉縯從宛城起義的舂陵義軍，可以說是兵微將寡，劉秀甚至還騎牛作戰。於是，劉縯，劉秀等人聯合了綠林軍的新市，平林兩軍聯合和新莽軍作戰，後來王常的下江兵也加入了進來。綠林軍連戰連勝，兵馬也達到了幾十萬，但是將領之間互不統屬，於是有必要立一個劉氏的皇室後裔來扯起大旗，令行禁止，出師有名。而這個過程就把綠林軍的短視和自私體現得淋漓盡致。

最初是要不要立劉氏皇族後裔的問題，張卬等人是反對的，因為害怕立了劉氏之後，失去了自由，要聽從號令了。不過，在王常的說服下，張卬，成丹等人最後還是同意了，只不過並不代表他們會妥協。由於當時皇族後裔大多在舂陵的義軍裡，其中劉縯和劉玄最有資格來擔當這個領袖。劉縯個性剛毅，英勇善戰，常常以漢高帝劉邦自比，無論是能力和志向都不差，本來就是不二之選。可是，短視的綠林軍領袖普遍認為劉縯當皇帝后，必然難於制衡，於是選擇擁立好控制的劉玄為帝，這才符合他們私下的利益。

於是，在前線的劉縯被調回來參加綠林軍大會，會上大部分人表示支援劉玄為帝，除了對劉縯心悅誠服的王常（後來雲臺二十八將之一）。劉縯知道形勢對自己不利，便說，今日過於倉促，不如延遲再議。大家就快被劉縯說服時，就是這個張卬，把劍往下一插，對著眾人說：“疑事無功，今日之議，不得有二。”這下這些“牆頭草”首領又開始支援起劉玄，劉縯無奈，旁邊都是綠林軍的人，只好勉強同意。

而劉玄，正是因為張卬的這一劍，才順利登上皇帝的寶座，是為玄漢。假如沒有張卬橫插這一竿子，劉縯的“緩兵之計”成功，皇帝之位落到誰手裡還不一定呢？畢竟，綠林軍是忌憚劉縯的。只是這個被綠林首領擁立的更始帝劉玄，實際上就是一隻“白眼狼”。他先是利用綠林軍對劉縯的嫉妒忌憚，殺了劉縯和猛將劉稷，劉秀乾脆請求外放，劉玄自斷臂膀。

後來，綠林軍攻滅了新莽，進入長安後，更始帝就開始腐化墮落，天天和幾個婦人喝花酒，不理朝政。綠林軍領袖王鳳一看不妙，先歸隱山林去了。果不其然，更始帝逼反了另外一支實力強大的赤眉軍，綠林軍內部也開始了內槓，擁立功臣張卬等人因為“東歸”的問題和更始帝反目成仇。更始帝還殺了陳牧，成丹，申屠建等當初擁護他的首領，張卬，王匡等人出逃投降了赤眉軍。

可見，綠林軍當初所謂劉玄好控制的夢想，還是落空了，有的人還因此遇到殺身之禍。張卬這個擁立更始帝的“關鍵先生”，在赤眉軍攻下長安後，又遊說了謝祿殺了軟禁中的更始帝。因此，同是劉玄宗室和舊臣的劉恭，殺了謝祿替更始帝報仇，然後自己下獄，後被劉秀赦免了。而這個直接造成更始帝死亡，間接害死劉縯，劉稷，謝祿的張卬，卻從此後不知所蹤，沒有記載了。也許，張卬也伴隨著赤眉，最後消亡於劉秀的冉冉升起烈日當中。