Ich habe eine lösung

PHP-Code:
jQuery("#sm_shoutbox_message").keypress(function(e) {
     if((e.which && e.which == 13) || (e.keyCode && e.keyCode == 13)) {
            if (jQuery("#sm_shoutbox_message").val().length <= '.$sbconfig['shoutbox_message_max'].' && jQuery("#sm_shoutbox_message").val().length >= '.$sbconfig['shoutbox_message_min'].') {
                jQuery.post("?content=/sm_addons/shoutbox",
                            {text: jQuery("#sm_shoutbox_message").val()},
                            function() {
                                jQuery("#sm_shoutbox_message").val("");
                                sm_shoutbox_getMessages();
                            });
            } else {
                jQuery("<div>").attr("title", "Error").text("Der Text darf maximal '.$sbconfig['shoutbox_message_max'].' und muss mindestens '.$sbconfig['shoutbox_message_min'].' Zeichen enthalten!").dialog();
            }
    }
        }); 
exakt nach
PHP-Code:
.....
            } else {
                jQuery("<div>").attr("title", "Error").text("Der Text darf maximal '.$sbconfig['shoutbox_message_max'].' und muss mindestens '.$sbconfig['shoutbox_message_min'].' Zeichen enthalten!").dialog();
            }
        }); 
einfügen.
Ich kann aber nur empfehlen wenn ihr euch den code einbaut "Newlines (neue Zeile) erlaubt?" auf nein zu stellen,da beim "großen" textfeld dann auch abgesendet wird wenn man auf enter klickt.