Hur ska jag till väga?

Med "avstånd" menar man här kortaste avstånd. 

En punkt på linjen L fördas läng en riktningsvektor. Tag ut en riktningvektor från en sådan punkt (beror på t) till P. När dessa två vektorer är i rät vinkel (skalärprodukt = 0) är de som närmast varandra och du kan från "....=0" beräkna t och därmed avståndet. Alternativt tar du avståndsformeln i rummet mellan en punkt på linjen och P och minimerar detta uttryck. Tänk på att "minimalt avstånd" = "minimalt avstånd"^2 så räkna inte med en massa rotuttryck, du kan fokusera på det kvadrerade avståndet.