Рогоз широколистный — многолетнее высокое травянистое растение (1—2,5 м) с утолщенным, длинным корневищем. Стебель толстый, цилиндрический, без узлов. Листья (до 2 см шириной) широколинейные, длинные, влагалищные, собраны у основания стебля. Цветки невзрачные, однополые, расположены в цилиндрических соцветиях-початках. Тычиночная часть соцветия рыхлая, несет тычиночные цветки, пестичная часть непосредственно примыкает к тычиночной; она цилиндрическая, намного длиннее тычиночной (30 см длиной, 2—4 см шириной), черно-бурая или почти черная, бархатистая от множества слипшихся рылец. Цветки очень мелкие, околоцветник состоит из многочисленных длинных, тонких щетинок; в тычиночных цветках обычно 3 тычинки, в пестичных 1 пестик с одним длинным, тонким столбиком и как бы обугленным рыльцем.
Плод — маленький орешек с щетинками у основания.
Цветет в июне—июле, плоды созревают в августе — сентябре.