prompt：如果用户单击提示框的取消按钮，则返回 null。如果用户单击确认按钮，则返回输入字段当前显示的文本。

所以你的b其实是网址，如果点取消就是null，判断b是否为null即可。代码如下

            var b = prompt("请输入网址：","http://www.imooc.com/");

            if (b!=null && b!="") {

              window.open(b,'_blank','width=400,height=50,menubar=no,toolbar=no');

            }