
Lamentablemente no te has fijado bien en lo de las dimensiones a la hora de poner tu respuesta para el producto escalar. Te animo a intentarlo de nuevo, esta vez con una nueva pista: la dimensión del vector u es 3x1, por lo que u·u significa multiplicar una matriz 3x1 por otra matriz 3x1. Si buscas en google algo sobre operaciones con matrices seguro que encuentras cosas interesantes

Y si no quieres esperar un día no lo hagas. Por varias razones... una porque ya has esperado y parece que nadie se anima y dos porque es obvio que estás haciendo un trabajo de investigación (o sea, que estás aprendiendo y eso es importante. no seré yo el que te ponga freno).