Este problema já deve ter sido solucionado, porém, vou postar para quem buscar uma solução.
Bom, eu estava com o mesmo problema e achei uma solução meio que na "gambiarra".
O arquivo .SWF que eu criei foi através de um ppt, então eu não conseguia alterar o código do swf, somente a apresentação do powerpoint, mas a solução funciona para todos os casos.
No link que era pra fechar a janela do browser (no swf), eu direcionei para uma página html (exemplo: fechar.html) e esta página possui somente a utilidade de fechar o browser.
de qual forma?
<html>
...
<body>
<head>
<script language="javascript">
window.close();
</script>
</body>
</html>