Este problema já deve ter sido solucionado, porém, vou postar para quem buscar uma solução.
Bom, eu estava com o mesmo problema e achei uma solução meio que na "gambiarra".
O arquivo .SWF que eu criei foi através de um ppt, então eu não conseguia alterar o código do swf, somente a apresentação do powerpoint, mas a solução funciona para todos os casos.
No link que era pra fechar a janela do browser (no swf), eu direcionei para uma página html (exemplo: fechar.html) e esta página possui somente a utilidade de fechar o browser.
Codigo Javascript Para Fechar Janela?
em Flash & ActionScript
Postado