熹平年间，杨彪因博学多闻而被公车征为议郎，任内与马日磾、蔡邕、卢植、韩说等共同续写《东观汉记》，后来迁任侍中，转为京兆尹。
光和二年，杨彪得到了黄门令王甫之前唆使宾客勒索敲诈郡国的财物共计七千余万的证据，并把此事告知司隶校尉阳球。
阳球早就对王甫恨之入骨，于是迅速把此事上奏灵帝，并逮捕诛杀了王甫及其党羽大家都因此欢呼雀跃、拍手称快。
杨彪后被征为侍中，相继任五官中郎将、颍川太守、南阳太守、永乐少府、太仆、卫尉等职。
中平二年杨赐去世，杨彪世袭父亲临晋侯的爵位。
中平六年九月，以太中大夫职接替董卓为司空，同年十二月，接替黄琬任司徒。
初平元年关东义军起兵，董卓在惧怕之下意图迁都长安，杨彪与太尉黄琬据理力争，因而被罢免。
不久，与黄琬一同被拜为光禄大夫，二人得知伍琼、周毖被杀后很害怕，到董卓那里谢罪。董卓也因杀死伍琼、周毖而感到后悔，于是上表推举二人任光禄大夫。
十多天后，迁任大鸿胪，随从献帝入函谷关，转任少府、太常，因病罢免，后又任京兆尹、光禄勋，再迁任光禄大夫。
初平三年九月，接替淳于嘉任司空、录尚书事，后因地震免，又被拜为太常。
兴平元年七月，代朱儁为太尉，录尚书事。
兴平二年三月，李傕遣其侄李暹率兵数千包围皇宫，想要劫持献帝前往李傕大营。
杨彪对李暹说自古帝王没有在人臣家里的，诸位做事，怎能如此！
李暹却说将军已经决定了，于是杨彪随献帝出行，不久献帝派杨彪及诸位公卿前往郭汜营劝和，不料郭汜将杨彪和司空张喜、大司农朱儁、卫尉士孙瑞、太仆韩融等人扣留为人质。
郭汜又大会公卿，议论责备李傕，杨彪说道群臣共斗，其中一人劫持天子，一人以公卿为人质，这可以吗！
郭汜恼怒，想要动手杀之，杨彪说你尚且不侍奉陛下，我怎么能独自求生呢！
经中郎将杨密力劝，郭汜才没有加害他，同年献帝移驾东迁，杨彪尽节卫主，到了最危难的时候，几乎遇害。献帝回到洛阳后，以杨彪代理尚书令。
建安元年，杨彪随献帝定都许县，当时百官举行大宴，兖州刺史曹操见杨彪神情不悦，惧怕之下离开宴会。
没过多久杨彪便被罢免。当时袁术在淮南称僭号，曹操因此诬陷杨彪与袁术