Hai

-5a3b + 2ab3 =

se sviluppo le parti letterali ottengo

= -5 a a a b + 2 a b b b =

quindi, avendo le stesse lettere ma non nella stessa quantita', non sono simili e non puoi sommare algebricamente