Валидатор жалуется на "слишком долго работала" и бесконечный цикл, что не так?

Вы упустили объяснение, почему метод неправильный. Без этого дальнейшие слова бесполезные. Должна быть конкретика. Принятый сокет не может быть нулевым, ведь если мы его приняли, то он уже есть. Серверный сокет тоже, ведь его мы создаем сами, и finally не гарантирует 100% закрытие ресурса, ведь в finally тоже может быть исключение, тогда нужно обработать исключение в finally и еще раз закрыть сокет, но ведь при этом закрытии тоже может быть исключение, и нам придется обработать уже его. Это бесконечная рекурсия. И валидацию то решение с закрытием прошло. Про создание отдельной переменной: это я и так сделал, просто последнюю версию кода обновлять в вопросе не так удобно, ведь для этого нужно зафейлить еще раз валидацию. И снова к первому: почему неправильный метод? И если нам нужно спрашивать имя пользователя до того, как он его скинет, то это в любом случае будет цикл, и из всех существующих циклов, тут удобнее всего использовать do-while.

И суть finally как раз в том, чтобы если исключение выпало в catch-блоке, то все равно ресурсы закрылись. Если же единственная команда catch-блока - закрыть ресурс, то можно обойтись и без finally.

Подсказка еще одна, нужно делать бесконечный цыкл while, где выход из него происходит только через return, при выполнении необходимых условий.

Может быть, можно и так. Однако это уже осложнения, ведь код цикла будет довольно тяжеловесный. Суть цикла do-while в том, чтобы дождаться правильного ввода и сделать все нужные действия.

do {
         connection.send(request);
         answer = connection.receive();
     }
while (answer.getType() != MessageType.USER_NAME || answer.getData() == null || connectionMap.containsKey(answer.getData()));

По сути, тут есть проверка на все данные: на тип сообщения и на правильность имени пользователя. После этого цикла, остается просто добавить пользователя, отправить ему сообщение, что все окей, и вернуть его имя из метода. И если у вас правильность метода зависит от его совпадения с вашим решением, то это неправильно, ведь каждая задача может решаться разными способами.

private String serverHandshake(Connection connection) throws IOException, ClassNotFoundException {
            while (true) {
                connection.send(new Message(MessageType.NAME_REQUEST));
                Message answer = connection.receive();

                if((answer.getType() == MessageType.USER_NAME) && (answer.getData() != null) && (!connectionMap.containsKey(answer.getData()))) {
                    connection.send(new Message(MessageType.NAME_ACCEPTED));

                    connectionMap.putIfAbsent(answer.getData(), connection);

                    connection.send(new Message(MessageType.USER_ADDED));

                    return answer.getData();
                }
            }
        }

Вот решение на вашей подсказке, то же от валидатора: бесконечный цикл, не можем протестировать. Может, теперь подумаете о том, почему тут бесконечный цикл появляется, а не почему я сделал не так, как вы?

По поводу serverSocket, я его как раз в finally с дополнительным try-catch и обрабатывал. А в методе не то сообщение отправляется. Условие -> После успешного проведения всех проверок, метод serverHandshake должен добавлять новую пару (имя, соединение) в connectionMap и отправлять сообщение о том, что имя было принято. то есть не cnnection.send(new Message(MessageType.USER_ADDED)); а connection.send(new Message(MessageType.NAME_ACCEPTED)); О том что нужно отправлять сообщение, что пользователь добавлени нет ни слова в условии.

Это последнее, на что нужно смотреть. Я еще раз акцентирую внимание: в программе почему-то появляется бесконечный цикл, и валидация падает с "слишком долго работала". Проблема не в пунктах валидации, что где-то не проходит требование, а в том, что тут почему-то зацикливается бесконечный цикл, чего быть не должно. И даже если сделать так, как будет далее, все равно проверка заедает.

private String serverHandshake(Connection connection) throws IOException, ClassNotFoundException {
            while (true) {
                connection.send(new Message(MessageType.NAME_REQUEST));
                Message answer = connection.receive();

                if((answer.getType() == MessageType.USER_NAME) && (answer.getData() != null) && (!connectionMap.containsKey(answer.getData()))) {
                    connection.send(new Message(MessageType.NAME_ACCEPTED));

                    connectionMap.putIfAbsent(answer.getData(), connection);

                    //connection.send(new Message(MessageType.USER_ADDED));

                    return answer.getData();
                }
            }
        }

Если проблема именно в этом методе, тот может еще в условии answer.getData() != null, я проверял не на null а на if (!userName.getData().isEmpty()) Кстати в условии так и написано -> Достать из ответа имя, проверить, что оно не пустое и пользователь с таким именем еще не подключен (используй connectionMap)

Да, в этом и был ответ :) Однако странно, что зависало с проверкой на null, ведь даже если переданная строка была эквивалентна "", то все равно проверку на нулл должно было проходить и должен был быть выход из цикла, ведь строка не равняется нуллу. Мне кажется, что это что-то с тестами у этой задачи.

Исправим, чтобы не зависало с проверкой на null.

Так и не исправили ,через empty прошло только((

То решение которое здесь обсуждалось - сейчас проходит. ¯\_(ツ)_/¯

наверно я туповат и неправильно пишу скорее всего значит