Milyen aktivációs függvényt használjak, ha a nulla kimenetet is tudja metanulni?

Tehát, van egy háom 500 bemenettel és egy kimenettel. Van 3 hidden layerem, két relu és egy lineáris aktivációs függvénnyel. A háló ügyesen megtanul akár két tizedesnyi pontossággal számokat az egyes bemenetekre ha a szám nagyobb mint egy. Azonban ha a szám nulla és egy között van, akkor már nem tudja megtanulni.

Mi lehet a gond? Sigmoidot nem használok mert a kimenet intervalluma 0 és 10 között van.