duda aritmetica .net 2.0

04/04/2006 - 17:12 por Mauro SB. | Informe spam
cual es la diferencia entre
rec.SetInt64(1, i ^ 2)
y
rec.SetInt64(1, i ^ i)

la segunda me da error de overflow
el codigo completo:

For i = 0 To 100000
rec.SetString(0, "row " & i.ToString())
rec.SetInt64(1, i ^ 2)
SqlContext.Pipe.SendResultsRow(rec)
Next
 

Leer las respuestas

#1 Alberto Poblacion
04/04/2006 - 17:33 | Informe spam
"Mauro SB." wrote in message
news:O9cj0o$
cual es la diferencia entre
rec.SetInt64(1, i ^ 2)
y
rec.SetInt64(1, i ^ i)

la segunda me da error de overflow



El primero es "i al cuadrado" y el segundo es "i elevado a i", lo cual no
es de extrañar que produzca un desbordamiento a nada que i vaya creciendo.

Preguntas similares