Nigdy nie używałam programów, które opisujesz, więc nie mam pojęcia jak tam wygląda rzeczone wygładzanie (Adobe Flash nie jest czasem programem wektorowym?). W GIMP gładkość linii można uzyskać ustawiając odpowiednią dynamikę pędzla. Trzeba w opcjach pędzla zaznaczyć:
Płynne rysowanie i ustawić sobie wysoką
jakość oraz odpowiednio dostosować
wagę. Jeszcze lepiej użyć narzędzia
stalówka 
, przy którym poza płynnym rysowaniem, możesz sobie ustawić też
Dopasowanie i
Czułość. Podobno w
GIMP Painter jest więcej możliwości w tym względzie i wychodzą gładsze linie.
Jeśli natomiast potrzebujesz wygładzić linie już narysowane, to może być trudno. Spróbuj użyć
G'MIC i filtrów z zakładki
Repair, szczególnie:
Remove hot pixels (w przypadku twardych linii rysowanych ołówkiem, gdzie widać pojedyncze piksele) oraz
Smooth[anisotropic]. Efektu "trzęsącej się ręki" raczej nie wyeliminujesz.
Gdyby interesowało Cię rysowanie w wektorach, to polecam darmowy Inkscape. Tam moża sobie ustawić wygładzanie, a niedługo ma ono być interaktywne:
https://www.youtube.com/watch?v=xDef4hU4tNc (pewnie w jakiejś wersji developerskiej już funkcjonuje).
Dodatki
