兄のもともと持っていたお金をx円、弟のもともと持っていたお金をy円とします。

すると、はじめは

x:y=7:3 となります。

兄が弟に300円渡したので兄は300円減ります。
なので兄は、 xー300円

弟は300円もらったので300円増えますよね。
なので弟は、 y＋300円

比は
(x-300):(y+300)=5:3
です。

連立方程式は
x:y=7:3
(x-300):(y+300)=5:3 です。