1. 수식입력 후 <Enter> 키를 입력하라는 뜻입니다.

2. 다음 자바스크립트 코드에 조금 문제가 있군요.
<input type="text" id="exp" value="" onkeydown="if(e.keyCode == 13) {calculate();}" >

태그 내에서 이벤트객체를 전달받게 되면 그 이름이 event 입니다.
그래서
if(e.keyCode == 13) 을
if(event.keyCode == 13)로 고치면 됩니다.

교재 392페이지(391페이지와 함께) 윗 부분을 읽어보세요.
제가 해보니 잘 됩니다.