プログラマ専用SNS ミクプラ

Aozora0630 さんが書きました:eが良く分からないので、新しいプロジェクトでテストしてみると・・・。↓結果

・double = 1.5 をキャストすると int = 1
・double = 1.2345678e+9をキャストすると int 12
・double = 1.23456e+789をキャストすると int ???????（良く分からない値）
・double = 1.23456e+7899をキャストすると 実行中に例外が発生。

#include <stdio.h>

void tesuto(double value) {
	int v = (int)value;
	printf("%d\n", v);
}

int main(void) {
	tesuto(1.5);
	tesuto(1.2345678e+9);
	tesuto(1.23456e+789);
	tesuto(1.23456e+7899);
	return 0;
}

1
1234567800
-2147483648
-2147483648

Hiragi(GKUTH) さんが書きました:int型は　-2147483648～2147483647しか表現できなかった気がします。

Ketty さんが書きました:主題とは関係ない恐れがありますが、
double型ということに着目して一応コメしておきます。

私の認識ではＤＸライブラリ（というかDirectX）は、デフォルトではdouble型の精度を落としていたと思います。
実質float並みだったかな・・・忘れました(＾v＾;)
そこで、環境によって値がまちまちになる、という問題があるようです。

きっちりとdoubleの精度を保つためには、D3DCREATE_FPU_PRESERVEというやつを指定する必要があるようです。

ＤＸライブラリでは、
DxLib_Init を呼び出す前に SetUseFPUPreserveFlag( TRUE ) ;
ということをする必要があります。

↓これを参考にコメントしています。
http://hpcgi2.nifty.com/natupaji/bbs/pa ... st&no=1385

みけCAT さんが書きました:ちなみに、1.23456e+789および1.23456e+7899はIEEE754フォーマットの64ビット浮動小数点数で表現できる最大値(およそ10の308乗)も超えています。

たいちう さんが書きました:> その前に、アクションゲームの演算では0.1ずつ座標から引いていくという処理しかしていないのに
> 何故最大値を超えてしまうのだろうか？メモリ破壊の可能性が？

正しい演算やキャストができていないのでしょう。
再現可能な最小限のコードをここに貼ってくれれば、すぐ原因はわかりそうですが、
コードなしだと、どんなミスをしているのか、回答者には予想は困難です。

V30 さんが書きました:1.2345678e+9 = 1.2345678 × 10の9乗
↓1.2345678の小数点を右に9桁移動する。
つまり、
1234567800
を意味する。



1.23456e+789 = 1.23456 × 10の789乗
↓
小数点を右に789桁移動する。
つまり、
123456000…000[0の数は全部で784個]
を意味する。



ちなみにeに続く数値が-の時は、
1.2345678e-9 = 1.2345678 × 10の-9乗
↓
1.2345678の小数点を左にに9桁移動する。
つまり、
0.0000000012345678
を意味する。
という風になります。



プログラミングの利用環境が分からないので何とも言えませんが、
いわゆる天文学的な数値、例えば1光年(約94600000000億mm)とか
使うようなアクションゲームですか？

そうでなければ、

たいちう さんが書きました:> その前に、アクションゲームの演算では0.1ずつ座標から引いていくという処理しかしていないのに
> 何故最大値を超えてしまうのだろうか？メモリ破壊の可能性が？

正しい演算やキャストができていないのでしょう。
再現可能な最小限のコードをここに貼ってくれれば、すぐ原因はわかりそうですが、
コードなしだと、どんなミスをしているのか、回答者には予想は困難です。

↑の通りだと思います。