2008 { 07 }
{ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 }
« After Effects プラグイン パーフェクトリスト | Blog Top | 【メモ】AS3インスタンスをnameで参照「getChildByName()」 »

【メモ】AS3の少数点乗算のバグ?

少数点をかけちゃだめ?みたい↓
ちゃんと除算でやると大丈夫。

//////////////////////////////////////////
for (var i:int=0; i<=100; i++) {
trace(i/10,"/",i*0.1);
}

//出力結果
/*
0 / 0
0.1 / 0.1
0.2 / 0.2
0.3 / 0.30000000000000004
0.4 / 0.4
0.5 / 0.5
0.6 / 0.6000000000000001
0.7 / 0.7000000000000001
0.8 / 0.8
0.9 / 0.9
1 / 1
1.1 / 1.1
1.2 / 1.2000000000000002
1.3 / 1.3
1.4 / 1.4000000000000001
1.5 / 1.5
1.6 / 1.6
1.7 / 1.7000000000000002
1.8 / 1.8
1.9 / 1.9000000000000001
2 / 2
2.1 / 2.1
2.2 / 2.2
2.3 / 2.3000000000000003
2.4 / 2.4000000000000004
2.5 / 2.5
2.6 / 2.6
2.7 / 2.7
2.8 / 2.8000000000000003
2.9 / 2.9000000000000004
3 / 3
3.1 / 3.1
3.2 / 3.2
3.3 / 3.3000000000000003
3.4 / 3.4000000000000004
3.5 / 3.5
3.6 / 3.6
3.7 / 3.7
3.8 / 3.8000000000000003
3.9 / 3.9000000000000004
4 / 4
4.1 / 4.1000000000000005
4.2 / 4.2
4.3 / 4.3
4.4 / 4.4
4.5 / 4.5
4.6 / 4.6000000000000005
4.7 / 4.7
4.8 / 4.800000000000001
4.9 / 4.9
5 / 5
5.1 / 5.1000000000000005
5.2 / 5.2
5.3 / 5.300000000000001
5.4 / 5.4
5.5 / 5.5
5.6 / 5.6000000000000005
5.7 / 5.7
5.8 / 5.800000000000001
5.9 / 5.9
6 / 6
6.1 / 6.1000000000000005
6.2 / 6.2
6.3 / 6.300000000000001
6.4 / 6.4
6.5 / 6.5
6.6 / 6.6000000000000005
6.7 / 6.7
6.8 / 6.800000000000001
6.9 / 6.9
7 / 7
7.1 / 7.1000000000000005
7.2 / 7.2
7.3 / 7.300000000000001
7.4 / 7.4
7.5 / 7.5
7.6 / 7.6000000000000005
7.7 / 7.7
7.8 / 7.800000000000001
7.9 / 7.9
8 / 8
8.1 / 8.1
8.2 / 8.200000000000001
8.3 / 8.3
8.4 / 8.4
8.5 / 8.5
8.6 / 8.6
8.7 / 8.700000000000001
8.8 / 8.8
8.9 / 8.9
9 / 9
9.1 / 9.1
9.2 / 9.200000000000001
9.3 / 9.3
9.4 / 9.4
9.5 / 9.5
9.6 / 9.600000000000001
9.7 / 9.700000000000001
9.8 / 9.8
9.9 / 9.9
10 / 10
*/
//////////////////////////////////////////
for (var i:int=0; i<=100; i++) {
trace(i/5,"/",i*0.2);
}

//出力結果
/*
0 / 0
0.2 / 0.2
0.4 / 0.4
0.6 / 0.6000000000000001
0.8 / 0.8
1 / 1
1.2 / 1.2000000000000002
1.4 / 1.4000000000000001
1.6 / 1.6
1.8 / 1.8
2 / 2
2.2 / 2.2
2.4 / 2.4000000000000004
2.6 / 2.6
2.8 / 2.8000000000000003
3 / 3
3.2 / 3.2
3.4 / 3.4000000000000004
3.6 / 3.6
3.8 / 3.8000000000000003
4 / 4
4.2 / 4.2
4.4 / 4.4
4.6 / 4.6000000000000005
4.8 / 4.800000000000001
5 / 5
5.2 / 5.2
5.4 / 5.4
5.6 / 5.6000000000000005
5.8 / 5.800000000000001
6 / 6
6.2 / 6.2
6.4 / 6.4
6.6 / 6.6000000000000005
6.8 / 6.800000000000001
7 / 7
7.2 / 7.2
7.4 / 7.4
7.6 / 7.6000000000000005
7.8 / 7.800000000000001
8 / 8
8.2 / 8.200000000000001
8.4 / 8.4
8.6 / 8.6
8.8 / 8.8
9 / 9
9.2 / 9.200000000000001
9.4 / 9.4
9.6 / 9.600000000000001
9.8 / 9.8
10 / 10
10.2 / 10.200000000000001
10.4 / 10.4
10.6 / 10.600000000000001
10.8 / 10.8
11 / 11
11.2 / 11.200000000000001
11.4 / 11.4
11.6 / 11.600000000000001
11.8 / 11.8
12 / 12
12.2 / 12.200000000000001
12.4 / 12.4
12.6 / 12.600000000000001
12.8 / 12.8
13 / 13
13.2 / 13.200000000000001
13.4 / 13.4
13.6 / 13.600000000000001
13.8 / 13.8
14 / 14
14.2 / 14.200000000000001
14.4 / 14.4
14.6 / 14.600000000000001
14.8 / 14.8
15 / 15
15.2 / 15.200000000000001
15.4 / 15.4
15.6 / 15.600000000000001
15.8 / 15.8
16 / 16
16.2 / 16.2
16.4 / 16.400000000000002
16.6 / 16.6
16.8 / 16.8
17 / 17
17.2 / 17.2
17.4 / 17.400000000000002
17.6 / 17.6
17.8 / 17.8
18 / 18
18.2 / 18.2
18.4 / 18.400000000000002
18.6 / 18.6
18.8 / 18.8
19 / 19
19.2 / 19.200000000000003
19.4 / 19.400000000000002
19.6 / 19.6
19.8 / 19.8
20 / 20
*/
//////////////////////////////////////
for (var i:int=0; i<=100; i++) {
trace(i/100,"/",i*0.01);
}

//出力結果
/*
0 / 0
0.01 / 0.01
0.02 / 0.02
0.03 / 0.03
0.04 / 0.04
0.05 / 0.05
0.06 / 0.06
0.07 / 0.07
0.08 / 0.08
0.09 / 0.09
0.1 / 0.1
0.11 / 0.11
0.12 / 0.12
0.13 / 0.13
0.14 / 0.14
0.15 / 0.15
0.16 / 0.16
0.17 / 0.17
0.18 / 0.18
0.19 / 0.19
0.2 / 0.2
0.21 / 0.21
0.22 / 0.22
0.23 / 0.23
0.24 / 0.24
0.25 / 0.25
0.26 / 0.26
0.27 / 0.27
0.28 / 0.28
0.29 / 0.29
0.3 / 0.3
0.31 / 0.31
0.32 / 0.32
0.33 / 0.33
0.34 / 0.34
0.35 / 0.35000000000000003
0.36 / 0.36
0.37 / 0.37
0.38 / 0.38
0.39 / 0.39
0.4 / 0.4
0.41 / 0.41000000000000003
0.42 / 0.42
0.43 / 0.43
0.44 / 0.44
0.45 / 0.45
0.46 / 0.46
0.47 / 0.47000000000000003
0.48 / 0.48
0.49 / 0.49
0.5 / 0.5
0.51 / 0.51
0.52 / 0.52
0.53 / 0.53
0.54 / 0.54
0.55 / 0.55
0.56 / 0.56
0.57 / 0.5700000000000001
0.58 / 0.58
0.59 / 0.59
0.6 / 0.6
0.61 / 0.61
0.62 / 0.62
0.63 / 0.63
0.64 / 0.64
0.65 / 0.65
0.66 / 0.66
0.67 / 0.67
0.68 / 0.68
0.69 / 0.6900000000000001
0.7 / 0.7000000000000001
0.71 / 0.71
0.72 / 0.72
0.73 / 0.73
0.74 / 0.74
0.75 / 0.75
0.76 / 0.76
0.77 / 0.77
0.78 / 0.78
0.79 / 0.79
0.8 / 0.8
0.81 / 0.81
0.82 / 0.8200000000000001
0.83 / 0.8300000000000001
0.84 / 0.84
0.85 / 0.85
0.86 / 0.86
0.87 / 0.87
0.88 / 0.88
0.89 / 0.89
0.9 / 0.9
0.91 / 0.91
0.92 / 0.92
0.93 / 0.93
0.94 / 0.9400000000000001
0.95 / 0.9500000000000001
0.96 / 0.96
0.97 / 0.97
0.98 / 0.98
0.99 / 0.99
1 / 1
*/

Comments {2}

posted by とぶこつ |2007年09月18日 19:07

あー、なるほどね。だから上手く行かなかったのか。

…と、テキトーなコメントを入れてみる。
すっかりプロですな。見習います。

posted by itoz |2007年09月27日 02:07

おおっコメントがw

そうです。だからうまくいかなかったのですw



Please Comment

(いままで、ここでコメントしたことがないときは、コメントを表示する前にこのブログのオーナーの承認が必要になることがあります。承認されるまではコメントは表示されません。そのときはしばらく待ってください。)