Fetstil Fetstil Kursiv Understrykning linje färgläggning tabellverk Punktlista Nummerlista Vänster Centrerat högerställt Utfyllt Länk Bild htmlmode
  • Forum & Blog
    • Forum - översikt
      • .Net
        • asp.net generellt
        • c#
        • vb.net
        • f#
        • silverlight
        • microsoft surface
        • visual studio .net
      • databaser
        • sql-server
        • databaser
        • access
        • mysql
      • mjukvara klient
        • datorer och komponenter
        • nätverk, lan/wan
        • operativsystem
        • programvaror
        • säkerhet, inställningar
        • windows server
        • allmänt
        • crystal reports
        • exchange/outlook
        • microsoft office
      • mjukvara server
        • active directory
        • biztalk
        • exchange
        • linux
        • sharepoint
        • webbservers
        • sql server
      • appar (win/mobil)
      • programspråk
        • c++
        • delphi
        • java
        • quick basic
        • visual basic
      • scripting
        • asp 3.0
        • flash actionscript
        • html css
        • javascript
        • php
        • regular expresssion
        • xml
      • spel och grafik
        • DirectX
        • Spel och grafik
      • ledning
        • Arkitektur
        • Systemutveckling
        • krav och test
        • projektledning
        • ledningsfrågor
      • vb-sektioner
        • activeX
        • windows api
        • elektronik
        • internet
        • komponenter
        • nätverk
        • operativsystem
      • övriga forum
        • arbete karriär
        • erbjuda uppdrag och tjänster
        • juridiska frågor
        • köp och sälj
        • matematik och fysik
        • intern information
        • skrivklåda
        • webb-operatörer
    • Posta inlägg i forumet
    • Chatta med andra
  • Konto
    • Medlemssida
    • Byta lösenord
    • Bli bonsumedlem
    • iMail
  • Material
    • Tips & tricks
    • Artiklar
    • Programarkiv
  • JOBB
  • Student
    • Studentlicenser
  • KONTAKT
    • Om pellesoft
    • Grundare
    • Kontakta oss
    • Annonsering
    • Partners
    • Felanmälan
  • Logga in

Hem / Forum översikt / inlägg

Posta nytt inlägg


Varför sker detta? räknar .Net fel?

Postades av 2003-11-26 14:55:05 - Jens Kangosjärvi, i forum vb.net, Tråden har 4 Kommentarer och lästs av 759 personer

Dim dblvals() As Double = New Double() {71644667.7, 33795569.6}

Dim dblResult As Double = 0

For Each dblVal As Double In dblvals
dblResult += dblVal
Next

Console.WriteLine(dblResult)

' resultatet blir : 105440237.30000001
' ganska märkligt


Svara

Sv: Varför sker detta? räknar .Net fel?

Postades av 2003-11-26 17:29:57 - Roger Alsing

näe det är inte någe märkligt..

det är så exakt som datatypen double är..

vill du har mer exakta värden får du använda decimal istället..

skulle du använda tex "float" (single i vb?) så får du ännu sämre resultat...

//roger


Svara

Sv: Varför sker detta? räknar .Net fel?

Postades av 2003-11-26 17:48:51 - Jens Kangosjärvi

Ok, jag hajar. Tack!


Svara

Sv: Varför sker detta? räknar .Net fel?

Postades av 2003-11-26 18:27:11 - Per Hultqvist

...och detta är skälet till att man aldrig (ok, nästan aldrig) för flyttal ska skriva :
<code>
If f1=f2 Then
</code>
utan i stället jämföra med
<code>
If Abs(f1-f2)<0.0001 Then
</code>
Där 0.0001 givetvis är den nogrannhet som du eftersträvar i sammanhanget.

Bara ett litet tips på vägen...


Svara

Sv: Varför sker detta? räknar .Net fel?

Postades av 2003-11-27 08:51:11 - Mikael Sand

En liten snabb kommentar i sammanhanget är att .NET har inbyggd funktionalitet för att kolla detta så att dte inte blir några datatypsmisstag.

Längst upp i din klass, modul eller whatever skriver du "Option Strict On".

Om du dessutom besitter VS.NEt kan du ställa in det per projekt genom att gå in i Egenskaper för projektet och leta upp build under Common properties. Då finns möjlighet att ställa in Option Explicit, Strict och Binary compare.

//Mikael Sand
"En del av Ånge­™"


Svara

Nyligen

  • 09:09 Vill du köpa medicinska tester?
  • 12:47 Vem beviljar assistansen – kommune
  • 14:17 Någon med erfarenhet av hemstädnin
  • 14:14 Bör man använda sig av en båtförme
  • 14:12 Finns det någon intressant hundblo
  • 14:25 Tips på verktyg för att skapa QR-k
  • 14:23 Tips på verktyg för att skapa QR-k
  • 20:52 Fungerer innskuddsbonuser egentlig

Sidor

  • Hem
  • Bli bonusmedlem
  • Läs artiklar
  • Chatta med andra
  • Sök och erbjud jobb
  • Kontakta oss
  • Studentlicenser
  • Skriv en artikel

Statistik

Antal besökare:
Antal medlemmar:
Antal inlägg:
Online:
På chatten:
4 569 159
27 952
271 704
790
0

Kontakta oss

Frågor runt konsultation, rådgivning, uppdrag, rekrytering, annonsering och övriga ärenden. Ring: 0730-88 22 24 | pelle@pellesoft.se

© 1986-2013 PelleSoft AB. Last Build 4.1.7169.18070 (2019-08-18 10:02:21) 4.0.30319.42000
  • Om
  • Kontakta
  • Regler
  • Cookies