Windows 10 :top: oder :flop:

[DerMonte]

Was anderes sollte man von der Leadplattform der #PcMasterRace auch nicht erwarten. Die meisten davon können ja nicht einmal Mathe.

[friepa]

Achtung Spoiler:

Ich komme da auf null... ohne Rechner...

[justanick]

Dir fehlt der Rechner, ohne fehlt dir der Fehler.

[goethe]

Typisches Problem, wenn man nur mit float anstelle von double arbeitet.

Ist das auf 64bit Systemen nicht egal?

[Hadrian]

Der Wert bestimmt ob mit 32 bit oder 64 bit gerechnet wird.

Wieso kommt im wissenschaftlichen Modus etwas völlig anderes heraus?

[Shakka]

Wenn das Programm mit 32Bit Genauigkeit rechnen will, dann macht eine 64Bit-CPU oder ein 64Bit-OS da nicht plötzlich was anderes draus.
Umgekehrt kann man auch mit 32Bit-CPUs 64Bit-Operationen ausführen. Zur Not in Software.

Mit der Genauigkeit hat dieses Problem eigentlich nichts zu tun. Eher umgekehrt. Wenn die Genauigkeit sehr hoch ist benötigt ein iteratives Verfahren mehr Schritte um aus 10,000....XYZ eine 10,000....000 zu machen.
Aber eigentlich ist das nicht zu ende Programmiert.
Wenn der Algorithmus bei 10,000... abbricht, kann er noch mal kurz mit 10*10 Testen, ob die Wurzel nicht vielleicht die ganzzahlige 10 ist.

Selbst Amiga Basic (von MS) kann das:

[Shakka]

Der Wert bestimmt ob mit 32 bit oder 64 bit gerechnet wird.

Wieso kommt im wissenschaftlichen Modus etwas völlig anderes heraus?

Der wissenschaftliche Modus rechnet mit höherer Genauigkeit. Daher ist dessen Ergebnis sehr viel näher an der Null dran

[Hadrian]

Stimmt, jetzt wo Du es sagst. Obwohl bei so einem Restwert der Check, ob nicht vielleicht ganze Zahl, drin sein sollte.

Ich will mir demnächst mal einen wissenschaftlichen Taschenrechner für die Uni kaufen. Kommt das bei denen auch vor?

[Frozen]

Klappt super
https://www.wolframalpha.com/input/?i=sqrt(100)-10

[Fimi]

Ach ja? Und was ist das da?! Der Punkt ist nicht in der Mitte!

[Shakka]

Der Punkt ist total daneben.

[Tiramisu]

-0

[Ramkhamhaeng]

Excel kanns

Ich wäre mir hier nicht sicher, ob nicht nur die Zellformatierung die Zahl als 0 ausgibt, intern aber ein anderer Wert berechnet wird. Für so was ist Excel ja berüchtigt.

[DEB]

Hm, auf 40 Nachkommastellen steht da 0,0

Und das mit 100 Mrd multipliziert bleibt 0,0

[Ramkhamhaeng]