Wybierz instalację "Customize" zamiast "Install now", zaakceptuj dalej ścieżkę (chociaż możesz ją zmienić). Następnie musi być zaznaczona opcja "Translations" (Full installation), co zainstaluje wszystkie języki, a polski powinien zostać włączony automatycznie.
Problemem, może być też sytuacja, gdybyś używał w innej niż polska wersji Windowsa.
Edit: Już nie pamiętam, czy to sprawa zainstalowanego osobno najnowszego GTK+, czy ponownej instalacji, ale w menu Start mam w Programach zakładkę "GTK+ Runtime Environment", w której po zmianie jezyka, zmienił się język w Gimpie 2.4.5 jak i starszym 2.2.17.
Możesz też ręcznie spróbować odpalić poprzez polecenie "Uruchom" z menu Start:
"C:\Program Files\Common Files\GTK\2.0\setup\unins000.exe" /gtksetup
Powinno się otworzyć okienko z opcją zmiany języka dla biblioteki GTK+, co również zmieni język w Gimpie.
Liczę, że Ci to pomorze