在隋文帝杨坚时，苏威历任刑部尚书、户部尚书、吏部尚书、国子祭酒、尚书右仆射等中央高官，当时隋朝法律制度杂乱无章，杨坚命朝臣们在以往各国旧法典基础上，整出一代新法来，而这些新的法律制度大多出自苏威之手。

　　苏威命运的转折，表面上看是他的儿子引起的。

　　苏威的儿子苏夔聪明英俊，加上家世好，难免年少气盛，在一次与国子博士何妥讨论礼乐时，两人意见相左，于是朝廷让群臣们署名表决支持哪一方，结果群臣们大多趋附苏威，十有八九给苏夔点赞。何妥异常愤怒，一回头便弹劾了苏威，告他结党、擅权、谋私。杨坚派人一查，还真不是诬告，所有事情都查有实据。苏威非常恐惧，脱帽叩首谢罪，对此杨坚说：“现在谢罪，晚了！”

　　于是，苏威被免爵，以开府身份回家呆着。但一年多后，他又恢复爵位，跟杨坚到泰山祭祀去了，后又因不敬被免官，不久又恢复。杨坚和苏威说是君臣，实在像是朋友一样，相互了解非常深，杨坚曾对群臣说：“有人说苏威不清廉，那是胡说，然而苏威性情刚戾，对自己狠对别人也狠，书生意气，不切实际，一心追求功名，对顺从的人喜欢，对违背他的人记恨，这才是他最大的缺点。”

　　后来杨坚的儿子炀帝杨广即位，苏威在朝中已经几上几下了，他也厌倦了，便托言年老要求退休，但杨广不许。杨广曾亲手写诏书表扬苏威：“是前后两代帝王的旧臣，朝中的元老，国家的栋梁”，可以说当时在杨广眼中，苏威的重要性无人可比。

　　杨广末年，四海沸腾，豪杰并起，苏威对此只能唉声叹气毫无办法。有一次杨广问反贼的情况，宇文述说：“盗贼很少，不足为虑。”苏威不想违心，但又不敢说实话，于是就躲到大殿柱子后面。谁知杨广点了他的名，他只好含蓄地说：“我不负责这方面事务，所以不知道盗贼究竟多少，只是感觉这些贼寇离我们越来越近了。”杨广问他究竟是什么意思？他回答：“过去贼寇在长白山，现在已近在荥阳、汜水了。”杨广是聪明人，如何听不出他的意思，于是心中很不高兴。此时有人迎合杨广旨意，弹劾苏威种种罪状，甚至告他与突厥勾结，直接要置他于死地。最后还是杨广看他年纪大了，心生怜悯，没有治他的罪。

　　杨广在江都被宇文化及杀死后，苏威被封为光禄大夫，开府仪同三司；宇文化及失败，他又归附李密；李密失败，苏威跑到东都洛阳，越王杨侗封他为上柱国、邳公；王世充称帝，他又被任命为太师。《北史》称他“所经之处，皆与时消息，以求容免。”想到他当初出山依附隋文帝杨坚时的矫情，实在令人有不胜今昔之感。

　　唐太宗李世民平定王世充后，坐镇东都洛阳，苏威又去求见，太宗派人对他说：你是隋朝宰相，隋朝君死国亡，你不能匡救，后来见了宇文化及、李密、王世充，你又都拜伏称臣，“今既老病，无劳相见。”白白招来一场奚落，李世民不想见他。不久，苏威来到唐都长安，又求见李渊，但唐高祖李渊也不想见他。最终苏威安静地死在家里，时年82岁。

　　史载苏威“行己清俭，以廉慎见称。”清廉对一个大半辈子做高官的人来说，很不容易做到，但苏威做到了，可当时人却认为他“无大臣之体”，因为他小事和人争长短，所定法规烦琐细碎，天下大乱时，又不能为朝廷靖难，以至于到高龄后，四处乞怜，终于活成了一个可悲的笑话。