Он показывает не всплывающее окно, а просто div в котором также есть ссылка перехода к странице сообщений.
В нём нужно указать адрес форума (выделено красным) БЕЗ WWW вставляйте в ХТМЛ-низ.

<script type="text/javascript">
forum = "http://karpoff.5bb.ru"

str = document.getElementById("navpm").innerHTML
loc = new String(document.location)

if( (str.indexOf("(") != -1) && document.referrer.indexOf(forum)==-1 && loc.indexOf('messages.php')==-1)
{ 
  count = parseInt(str.substring(str.indexOf("(")+1,str.indexOf(")")))

  if (count==1) text="У вас есть 1 новое сообщение"
  else if (count>1 && count<5) text="У вас есть " +count+" новых сообщения"
  else text="У вас есть " +count+" новых сообщений"

  msg =  "<div id=\"new-mes\" class=\"container\" style=\"position: absolute; z-index=2; left: 40%;\">"
  msg += text
  msg += "<br><a href=\"\" onclick=\"document.location.replace('messages.php'); document.getElementById('new-mes').style.display='none';return false;\">Посмотреть личные сообщения</a>"
  msg +="<br><a href=\"\" onclick=\"document.getElementById('new-mes').style.display='none'; return false\">Закрыть окно</a>\r\n" 
  msg += "</div>"

  document.getElementById("pun-status").innerHTML += msg
}
</script>