Olá Junior. Eu também não sei o nome desse método ou efeito mas olhando a imagem que você colocou, eu tentei fazer algo e o resultado saiu parecido. Fiz bem rapidinho agora com uma imagem qualquer que peguei na internet e ficou assim:
Na imagem, a camisa da esquerda (Azul) é a imagem que peguei na internet. No meio está ela depois do tratamento no Photoshop. A imagem da direita (rosa) é a camisa vetorizada com a imagem do meio por cima, para exemplificar a aplicação.
Dá pra melhorar mais o tratamento com alguns ajustes. Eu fiz rapidinho só pra responder aqui.
Seria isso o que está procurando? Sei que sua pergunta foi feita há um bom tempo mas se ainda não conseguiu, pode responder aqui pra gente ir descobrindo juntos.
Valeu!