Lös ut y

Om vi för enkelhets skull kallar 0.5*(x-1)^2 för A

så har du på näst sista raden 

y+1 = A(y-1) =>

y+1 = Ay-A

samla y på ena sidan

y-Ay = -A-1

y(1-A) = -A-1

dela med (1-A) i bägge led, sätt tillbaka värdet på A och förenkla om möjligt

Jag får nästan rätt förutom att -3 i nämnaren ska vara -1. 

Om vi går upp en bit

$$\begin{gathered} y+1=\left(y-1\right)*\frac{{\left(x-1\right)}^2}{2}=y*\frac{{\left(x-1\right)}^2}{2}-\frac{{\left(x-1\right)}^2}{2} \\ y+1-y*\frac{{\left(x-1\right)}^2}{2}=-\frac{{\left(x-1\right)}^2}{2} \\ y*(1-\frac{{\left(x-1\right)}^2}{2})=-1-\frac{{\left(x-1\right)}^2}{2} \\ y=\frac{-1-\frac{{\left(x-1\right)}^2}{2}}{1-\frac{{\left(x-1\right)}^2}{2}}=\frac{-2-{\left(x-1\right)}^2}{2-{\left(x-1\right)}^2}=\frac{-2-x^2+2*x-1}{2-x^2+2*x-1}=\frac{-x^2+2*x-3}{-x^2+2*x+1}=\frac{x^2-2*x+3}{x^2-2*x-1} \end{gathered}$$

Då jag ser på dina anteckningar: den första gången som du har gulmarkerad bakgrund har du skrivit x²y-2xy-y; det borde nog vara x²y-2xy+y.