「わたしが家に帰ったとき，母はピアノを弾いていました」という文は，過去の特定の時点（わたしが帰ったとき）に動作（ピアノを弾く）が進行中だったことを表しています。そのため，過去形ではなく過去進行形にします。

[＜When＋文Ａ, 文Ｂ.＞の文Ｂが過去進行形になる場合]
「過去進行形」は過去の特定の時点で進行中だった動作を表します。「～していました」と訳します。
文Ａが起きた特定の時点に，文Ｂの動作が「進行中」である場合，文Ｂは「過去進行形」になります。
今回の文の場合，「わたしが帰ったとき」という過去の特定の時点に「母がピアノを弾く」という動作が進行中だったという文です。

そのため，「母がピアノを弾く」という動作は過去形ではなく，過去進行形が使われます。

 

○ When I got home, my mother was playing the piano.
× When I got home, my mother played the piano.
（わたしが家に帰ったとき，母はピアノを弾いていました）

 

○ When my father left home this morning, I was still sleeping.
× When my father left home this morning, I still slept.
（父が今朝家を出たとき，わたしはまだ寝ていました）

[＜When＋文Ａ, 文Ｂ.＞の文Ｂが過去形になる場合]
「過去形」は過去の出来事や状態を表します。「～しました」と訳します。
文Ａであった時点に，文Ｂの出来事が生じたり，文Ｂの状態であったりする場合，文Ｂは「過去形」になります。

 

・When I was five years old, I went to Disneyland.
（わたしが５歳のとき，わたしはディズニーランドに行きました）
・When she was a high school student, she learned French.
（彼女が高校生のとき，彼女はフランス語を学びました）