
<html>

<head>

<meta http-equiv="Content-Type" content="text/html; charset=Windows-1252">

<title>Any way around this?</title>

</head>

<body>

<font face="Calibri, Verdana, Helvetica, Arial"><span style="font-size:11pt">HI All,<br>

<br>

I’m finding that if I define a variable as follows:<br>

<br>

$CB1=&format(8.000e-6,"4s");<br>

<br>

OR<br>

<br>

$CB1=&format(8.000e-6,"3e");<br>

<br>

And use it as the answer to a numerical problem requiring 4 significant figures, I get the error message that “the computer’s answer is incorrect (‘8e-06’).”<br>

<br>

I know (and have tested to confirm) that if I simply change the final zero to a 1 (so 8.001e-6) everything is fine. I had thought the &format command was the key to insisting on the correct number of sig figs in a variable, but I guess hadn’t run into this

 specific situation before.<br>

<br>

Any help from the pros?  Thanks,<br>

<br>

Doug<br>

<br>

Douglas Mills<br>

Director of Instructional Technologies<br>

Department of Chemistry<br>

University of Illinois<br>

<a href="dmills@illinois.edu">dmills@illinois.edu</a><br>

(217) 244-5739 <br>

<br>

</span></font>

</body>

</html>