Ubuntu Sverige

Jag brukar dra python som miniräknare eftersom det är så mycket snabbare än att leta upp den grafiska i nån meny. Men när jag satt och räknade idag fick jag två "konstiga svar", visserligen så lite "fel" att det inte spelar nån större roll men ändå intressant.
Som ni ser blir * 0.3 normal men både * 0.1 och * 0.2 ger ett väldigt litet decimalfel. Varför då?
Felet verkar inte upprepa sig på andra heltal än 156 (har visserligen inte testat spec. många)

Det har med binära talsystemet att göra - se

http://stackoverflow.com/questions/1089 ... -in-binary (engelska)

Okej, tack. Det kan vara bra att hålla i minnet.

Är det likadant i alla språk? Och är det nått språk som kan få ännu märkligare företeelser?

Rasmus skrev: Är det likadant i alla språk? Och är det nått språk som kan få ännu märkligare företeelser?

Ja. Räkneenheten i de flesta datorer representerar flyttal med IEEE-standard ( http://sv.wikipedia.org/wiki/IEEE_754 ) och de flesta programspråk använder flyttalsrepresentation i datorn den kör på för att det är snabbast och enklast så.

Tips

Räkna med att flyttal i program aldrig är exakta. (Vissa tal är exakta, men antag alltid att de inte är det). Se till att värdet avrundas till lämpligt antal decimaler vid presentation, så ser det exakt ut för användaren. (Det är så svårt att förklara IEEE för slutanvändaren så det är okej att luras). Jämför aldrig flyttal med likhets-operation. Exempel: x och y borde vara lika

Tackar. Känns som det förr eller senare hade letat sig in några riktigt luriga buggar om ni inte hade förklarat det för mig.