하하, 사용자 객체 만들기, 배열 뭐 이런 것 처음하면 조금 어렵습니다.
하나씩 설명해보겠습니다. 학생님이 작성한 코드에서 수정하면서 설명을 드리지요.

1. 학생님은 bookArray 배열에 prompt()가 리턴하는 문자열을 배열에 저장해두려고 합니다. 그러면 이 코드는 문제 없습니다.
for(i=0;i<5;i++){
bookArray[i] = prompt("콤마(,)로 분리하면서 책제목 저자 가격 순으로 입력","");
}

2. 아래 코드는 책 정보를 하나 저장하기 위해 프로퍼티를 만드는 작업입니다. 좋습니다.
그런데 set() 메소드를 작성하여 set()에서 사용자가 입력한 책의 각 속성을 book에 저장할 필요는 없습니다.
var book = new Object();
book.title = "HTML";
book.author = "황기태";
book.price = "20000";
book.set=set;
book.set(sp[0],sp[1],sp[2]);
newArray[i] = book;

이 코드는 다음과 같이 고치면 될 것 같습니다. 간단해 졌죠?
var book = new Object();
book.title = sp[0];
book.author = sp[1];
book.price = sp[2];
newArray[i] = book;

3. 그리고 다음 코드는 newArray에 저장해둔 book 객체를 모두 출력하려고 하였는데, 프로퍼티를 하나씩 출력하여야 합니다.
for(i=0;i<5;i++){
document.write(newArray[i] + "<br>");
}

이렇게 고치면 되지요.
for(i=0;i<5;i++){
document.write(newArray[i].title + ", ");
document.write(newArray[i].author + ", ");
document.write(newArray[i].price + "<br>");
}

제가 설명한대로 다시 붙여서 완성해보세요.
나머지는 스스로 해결하세요.
그럼