거의 다 해결하셨는데 아깝네요~

document.write("rgb("n + ", " + m + ", " + s + ") ");
이 부분을

document.writeln("<div style='background-color: rgb(" + n + ", " + m + ", " + s + ")'></div>");
와 같이 수정하시면 정상 출력됩니다.

다만 Math.random() 과 곱해지는 수가 100이라서 색상 변화가 크게 눈에 띄지 않네요. Math.random() * 256 으로 변경하시면 색상변화를 확실하게 확인 할 수 있을 듯 합니다.