第一段从首句到“更堪走风沙”为第一段。在这一段里，诗人首先揭露了当时的社会现实：干戈不息，民不聊生。安史之乱后，接着出现藩镇割据的局面，而吐蕃也多次出兵骚扰西南边疆，诗里所说的“骚然县宇，土崩水溃，畹中无熟谷，垅上无桑麻”，反映了当时因战祸连绵而造成的田园荒芜景象。诗人为了躲避兵灾，逃向四川，而四川也非乐土。旅途是艰辛的，漫长的，而在兵荒马乱中跋山涉川，不仅要忍受风霜劳顿之苦，还要时时提防恶人的侵害。“貂裘蒙茸已敝缕，鬓发蓬舥，雀惊鼠伏”，写出了旅途中的狼狈情景，为下文借写冰柱抒发感喟作了铺垫。

　　第二段从“天人一夜剪瑛琭”到“直下不能抑群邪”为第二段。这一段是全诗的主要部分，描绘了冰柱的奇丽景色。在一夜大雪之后，房檐间的冰柱垂挂下来，大大小小，高高低低，一样的晶莹洁白，玉色琼辉。它不是冰柱，而是天上玉龙的爪牙；它不是冰柱，而是汉高帝的斩蛇宝剑。这两个奇特的比喻，不仅写出了冰柱的风神，还为下文写它的不为世用张势：它不能化为及时雨，使田禾滋壮；而只能化为泥浆，使道路艰难。它不能化为九江的波浪，奔向大海；而只能浸没于峡谷，沉沦于天涯。它不能化为双井名泉，煮茗煎茶；它不能化为中山美酝，芳香四溢。它不能蓄而为池，积而为沼，养鱼种芰；它不能为甘泉，不能为饴露，使这特异的祥瑞征兆为世俗赞夸。它只能凭着它的清沏之气，孤洁自赏，自凝自消。它的光彩虽不大，却无法掩遮；它负着曲瓦，不能施展神锋，铲除奸邪。这一大段的描绘，句句是在写冰柱，却句句关合到诗人自己。诗人的怀才不遇的激愤之情，刚傲不羁的性格，全面地显示了出来。

　　第三段从“奈何时逼”到末句为第三段。这一段写冰柱消失以后的感慨。天晴冻解，冰柱从梦中消失，杳无踪迹。万物的成与毁是天决定的，它对于冰柱不会特加恩泽，却反而使那些井蛙壁虫，顺生易长，背着人，缩着头，聒噪不休。希望天子能回造化之力，把冰柱珍藏在柜子里，使它永远放出光辉。这一段比上一段更深一层，拿容易消失的冰柱和最易繁衍的蛙虫对比，揭示出当时政治上的小人横行、贤士在野的情况。最后诗人把理想寄托在皇帝身上，希望他能挽转形势，重用贤才。诗的最后两句是画龙点睛，点出了诗的主题，就是说只要皇帝能重用贤士，排斥奸邪，就能消弭战祸，天下太平。

　　这首诗在艺术上很有特色，以冰柱入诗，题材新奇。更奇的是对冰柱的形象描写，把冰柱拟人化，句句是写冰柱，也是句句在表露诗人自己的怀才不遇。他用玉龙的爪牙，刘邦的斩蛇宝剑来比喻冰柱，贴切而新鲜，为修辞手法创一特例。就诗体来说，这首诗是句子长短不一的杂言体，抒写较自由，适宜于表现较复杂的思想感情。用这种诗体，不可避免的是多议论，散文化。刘叉的这首诗是受《月蚀诗》的影响，而又加以发展，显得更为奇谲奔放。使这首诗显出它的最大特色的是在用韵方面。它用的是麻韵，麻韵字的音是响亮的，高亢的，但韵字却比较少，因有“险韵”之称。这首诗共二十七韵，全属麻韵，中间的“舥”字，“柤”字很少有人用过。“邪”字用了两次，前一个音“牙”，是剑名；后一个音“霞”，是奸邪之“邪”的另一读，音义不同，所以得同用。用麻韵写古体诗，一韵到底的很罕见。这首诗在抒写中一气贯下，纵横自如，在描绘冰柱一段，连用了六个“不为”排句，气势浩荡，郁结于胸中的不平之气，喷薄而出，“特禀朝沏气，洁然自许靡间其迩遐”两句，拗折多姿；“森然气结一千里，滴沥声沉十万家”两句，对仗整饬。这些句式的变化是和感情的起伏跌宕密切相连的，句子或长或短，或对仗，或散行，而最后都能很自然地落到韵脚上来，毫无生拼硬凑的毛病，用险韵而不觉其险，显示出诗人的才华，为唐代诗坛增添了光彩。宋代苏轼在《雪后书北台壁二首》中用“尖”“叉”二韵，第二首的末两句是：“老病自嗟诗力退，寒吟《冰柱》忆刘叉。”读者可以看出，他对于刘叉的《冰柱》诗是很赞赏的。