Imagen memoria se incrementa

hasta que me quedo sin memoria

¿Estás seguro?. Ese no es el funcionamiento normal
de .net. La memoria de estas imágenes se va liberando
cuando va siendo necesaria. ¿Estás seguro de que no
mantienes una referencia a las antiguas imágenes?. Yo
acabo de hacer una prueba y la aplicación se mantiene en
torno a un tamaño determinado.

De todas formas, tal y como te han dicho, puedes forzar
la liberación del recurso IDisposable, llamando al método
Dispose(). Prueba algo así:

OpenFileDialog1.ShowDialog()
Dim imagen2 As Bitmap = PictureBox1.Image
PictureBox1.Image = New Bitmap(OpenFileDialog1.FileName)
If Not imagen2 Is Nothing Then
imagen2.Dispose()
End If