心配なのはわかりますが、お姉さんがあれこれ言うのは逆効果だと思います。
少なくとも、勉強を教えようとして拒否されている現状、勉強に関しては両親や学校や塾に任せて別の面からサポートしてあげる方がいいと思います。

誰かに「こんな成績じゃいい学校行けないよ！もっと頑張らないと！」と言われてやる気の出る子はほぼいないので、自分から頑張ろうと思わせなければなりません。

なので、例えばですが、勉強のレベル以外の学校に関する情報を教えてあげるのはどうでしょうか？
例えば、どこどこの学校はクラブ活動に力を入れているとか、普段の学校生活(校則)の自由度はどのぐらいかとか…
弟さんが今現在興味を持っている事柄を考えて、興味をひいてこの学校に行きたい！と思わせてあげるのがいいと思います。

高校受験を仮定しての回答になってしまいました。
もし大学受験についてなのでしたら、もう放っておくのが一番です。やる気がないのに大学に行ったところで何にもなりません。逆に、どんな底辺と言われる大学に入ろうと、やりたいことを見つけて努力すれば卒業迄に普通レベルの大学を普通に卒業した人を遥かに上回る結果を残せます。自分で責任を取れる年齢でしょうし、心配は無用です。

また、塾と学校で成績に差があるとのことでしたが、テストの難易度や採点基準の違いが原因ではないですか？
その場合は志望校により近いまたは志望校より少し高いぐらいの難易度と採点基準の方の点数を参考にされると良いです。
どちらでもない場合は単に復習不足だと思います。たいていの塾は学校内容を先取りしていますので、習ったことを忘れ、復習しないまま学校のテストに臨んだ結果ではないかと…