[C++] double overflow, long double

Zergling-new · 10.01.2006, 15:07

Hallo,

ich habe folgene Funktion zum Berechnen der Distanz zweier Punkte (zweidimensional):

Code:

double DistPointPoint (long x1, long y1, long x2, long y2)
{
  return sqrt(pow(labs(x1 - x2),2) + pow(labs(y1 - y2),2));
}

Sprich, Pythagoras: a² + b² = c²; c = sqrt(a² + b²)
Leider ist das c² im WorstCase 36893488130239234050, denn

Code:

sqrt( labs(-2.147.483.648 - 2.147.483.647)^2 + labs(-2.147.483.648 - 2.147.483.647)^2 );

(Pseudocode)
ergibt ja innerhalb der Wurzel 36.893.488.130.239.234.050 (36 Trillionen).
Theoretisch müsste es mit "long double" erfassbar sein (2^80), die Funktion

Code:

// DistPointPoint( -2147483647, -2147483647,  2147483647, 2147483647);
double DistPointPoint (long x1, long y1, long x2, long y2)
{  
	double dx = x1 - x2;
	double dy = y1 - y2;

	long double extension = dx*dx + dy*dy; // huge extension
	
	return (double)sqrt(extension);
}

liefert trotz Zwischenspeicherung ein falsches Ergebnis (2.8284..). Richtig müsste laut meiner Rechnung mit dem Windows Calculator aber 6074000997.1236722601565869624492 sein.

Sieht jemand nen Denk- und/oder Programmierfehler?!

Zergling-new · 10.01.2006, 15:40

habe mit folgendem Code ein halbwegs richtiges Ergebnis erhalten. Leider nur halbwegs richtig.

Code:

double DistPointPoint (long x1, long y1, long x2, long y2)
{  
	long double dx = (long double)x1 - x2;
	long double dy = (long double)y1 - y2;

	return (double)sqrt(dx*dx + dy*dy);
}
// 6074000998.5378857	long double
// cast zu double
// 6074000997.1236725	double

Der Windows-Calculator hatte ja
6074000999,9520993849027770600526
errechnet.
Da der Return-Type aber double bleiben muss, wäre das Ergebnis 6074000997.1236725

Die Abweichung ist minimal, aber vorhanden. Trotzdem wohl akzeptabel. Wenn jemand eine korrektere Lösung weiß, nur her damit

10.01.2006, 18:28

Dein zweites Ergebnis mit dem Calculator mal außen vorgelassen sieht das doch ganz akzeptabel aus... :wink:

Zitat:

Zitat von Zergling

mit dem Windows Calculator aber 6074000997.1236722601565869624492

Zitat:

Zitat von Zergling

das Ergebnis 6074000997.1236725

Kleine Frage am Rande: Wie verwendete man noch gleich printf() in Verknüpfung mit long double?

· printf("%Lf", (long double) 4911); // => -0.000000

Themen-Optionen
Druckbare Version zeigen Jemanden per E-Mail auf dieses Thema hinweisen
Thema bewerten
Thema bewerten:

Ähnliche Themen
Thema	Autor	Forum	Antworten	Letzter Beitrag
* glibc detected * double free or corruption (!prev):	gunterrainer	Server, Hosting und Workstations	3	18.05.2006 11:19
Code Syntax Highlighting	imported_Lumio	PHP-Fortgeschrittene	9	16.08.2005 11:06
String into Double gibt immer 0 aus?		PHP Tipps 2004	1	05.09.2004 19:55

10.01.2006, 15:07
Zergling-new Erfahrener Benutzer Registriert seit: 21.05.2008 Beiträge: 9.937	[C++] double overflow, long double Hallo, ich habe folgene Funktion zum Berechnen der Distanz zweier Punkte (zweidimensional): Code: double DistPointPoint (long x1, long y1, long x2, long y2) { return sqrt(pow(labs(x1 - x2),2) + pow(labs(y1 - y2),2)); } Sprich, Pythagoras: a² + b² = c²; c = sqrt(a² + b²) Leider ist das c² im WorstCase 36893488130239234050, denn Code: sqrt( labs(-2.147.483.648 - 2.147.483.647)^2 + labs(-2.147.483.648 - 2.147.483.647)^2 ); (Pseudocode) ergibt ja innerhalb der Wurzel 36.893.488.130.239.234.050 (36 Trillionen). Theoretisch müsste es mit "long double" erfassbar sein (2^80), die Funktion Code: // DistPointPoint( -2147483647, -2147483647, 2147483647, 2147483647); double DistPointPoint (long x1, long y1, long x2, long y2) { double dx = x1 - x2; double dy = y1 - y2; long double extension = dxdx + dydy; // huge extension return (double)sqrt(extension); } liefert trotz Zwischenspeicherung ein falsches Ergebnis (2.8284..). Richtig müsste laut meiner Rechnung mit dem Windows Calculator aber 6074000997.1236722601565869624492 sein. Sieht jemand nen Denk- und/oder Programmierfehler?!


Mister Ad PHP Code Flüsterer Registriert seit: 21.08.2005 Beiträge: 4682 PHP-Kenntnisse: Fortgeschritten

10.01.2006, 15:40
Zergling-new Erfahrener Benutzer Registriert seit: 21.05.2008 Beiträge: 9.937	habe mit folgendem Code ein halbwegs richtiges Ergebnis erhalten. Leider nur halbwegs richtig. Code: double DistPointPoint (long x1, long y1, long x2, long y2) { long double dx = (long double)x1 - x2; long double dy = (long double)y1 - y2; return (double)sqrt(dxdx + dydy); } // 6074000998.5378857 long double // cast zu double // 6074000997.1236725 double Der Windows-Calculator hatte ja 6074000999,9520993849027770600526 errechnet. Da der Return-Type aber double bleiben muss, wäre das Ergebnis 6074000997.1236725 Die Abweichung ist minimal, aber vorhanden. Trotzdem wohl akzeptabel. Wenn jemand eine korrektere Lösung weiß, nur her damit