No, we may not literally forget past mistakes, but we need not constantly berate ourselves for them.
فَعِوَضَ أَنْ نَتَحَسَّرَ عَلَى ٱلْمَاضِي ،‏ عَلَى مَا يَتَعَذَّرُ إِصْلَاحُهُ ،‏ عَلَيْنَا أَنْ نَمْتَدَّ إِلَى مَا هُوَ أَمَامُ .‏