Programmieren - alles kontrollieren 4.937 Themen, 20.662 Beiträge

Verfolgung starten Optionen

VB6 meine nachkommastellen sind zu wenig...??!!!

mcpfusch / 6 Antworten / Flachansicht Nickles

ich bin über ein problem gestolpert...
ich möchte zahlen so genau wie möglich ausrechnen lassen..

allerdings rundet mein programm irgendwann einmal und unterschlägt stellen.

so 20-30 stellen hinter dem komma würde schon reichen ausserdem soll er das ganze ja auch nur 50 mal machen: Danke schon mal im vorraus.

Dim Teil1#
Dim Summe#
Dim Orginal#
Dim Mittel#
Dim Teil2#
Dim Schatzung#
Dim Bruch#
Orginal = Text2.Text \'Die zu berechnete zahl wird eingelesen
Teil1 = Orginal
Teil2 = 1


Mittel = Teil1 + Teil2 \'mittel bilden
Teil1 = Mittel / 2 \'und teilen
Schatzung = Teil1 * Teil1 \'gucken ob schätzung stimmt


Teil2 = Orginal / Teil1

With Text1

.SelStart = Len(Text1.Text)
.SelLength = 0

.SelText = Teil1 & Teil1 & Schatzung & vbCrLf
End With

bei Antwort benachrichtigen
Als was hast du denn deine Variablen definiert? Dim Teil1 as double! Das ist ... easy436
ich denke das ich mit doch wohl double schon fest gelgt habe oder? die ... mcpfusch
Kann sein, dass du mit die Variablen als Double deklariert hast, aber ich ... easy436
20-30 stellen hinter dem komma würde schon reichen ausserdem soll er das ... Borlander
@borlander mmm danke für deine antwort gibts da irgendwo ein todo? ich ... mcpfusch
Synthetic_codes mcpfusch „VB6 meine nachkommastellen sind zu wenig...??!!!“
Optionen

schau mal nach bei Joachim Rohdes Buch über Assemblerprogrammierung, da ist das ziemlich genau und meines erachtens auch für einsteiger verständlich erklärt(is halt asm nich vb)

'); DROP TABLE users;--
bei Antwort benachrichtigen