Fala leofeld. Acho uma boa começar guardando em variáveis os valores existentes em moeda hoje (100, 50, 20, 10, 5, 2, 1, 0.50, 0.25, 0.10, 0.05, 0.01). Depois disso você pede para o usuário entrar com o valor. Quando a variável receber o valor você pode fazer uma cadeia de if's. Ele verifica se o valor é maior ou igual a 100, se for ele pega o valor, subtrai 100 e mostra na tela o valor que subtraiu, que seria a primeira nota dada. Se for menor que 100 ele pula pra outro if que verifica se o valor é maior ou igual a 50, e faz o mesmo processo de cima, subtrai e mostra o valor subtraido na tela. E assim sucessivamente até chegar no 0.01 centavos. Quando o valor for igual a 0 você já tem a menor combinação possível de notas na tela. Espero ter ajudado.