��ࡱ�>�� 6�����de987��������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������`!��}�fh�ܐ����fWF�} )�� �"�sZ�x��S�K�Q�|��;����:�M�bB�� �&�&�E1t�R�E !�C� 18�!�8��)�� �d�!CEJi�Bz����Ѓ������}�����n��������ja��!�()�� �1�);;������L�����^��6��c8��ߝӯ�@�X��">��]�1\��S����=�vzn9]/5�_��N7��2|*M^�Q[�G��O�����8i���q��=�KY4�e��e�Ԥb.��T�a�E�@�iW"T��$M+��Y��lRX�4$")R�-R�-P��Ӱ�I�]���Pͦ�jSth#�oǩd���a��s�����Ov�|���G��cўbɖq�n��b�.c��c�&Ѻ1v�0�0�Nbڝ@� �I K�2� �IbN�(˸+Y<�m<�2V�/��5A�T�QӪ�M�nj��Z���v�¹�����Z�њ�C��t�:�<�&��:mq���� �h�#4��4�B��0���Lpż�3�f��G5*�z_�i>�.�o�g1�˘�y��$�q �x �8�W<�i���eG�L{�z� ����ߟ�N��֜�=�Y���`!�'k]���^�2e�jf �0����P/��xڕS=kQ=���qwf%k\4�Ƞ`�D7� i, $Y6[�]�U� $�  �i��@ ��j�B1�?�&Xj��h�x�{3��y�f޽s�9�� �x>נ��[���*X3@���W�Q� ���s�z ��5�hT�?P�oq<���'1'� A0~{yNO���S�(�2H<� �C��kFOen҈��� F�ƨ�28�%�`�<�B�t)���@�H�o�pU�5���R��S);kxʟ��ۣ��b�4iB2���?�,�w��gc����E &�_�f��)�'� �L��KO[+ m�ag�����d��e��\��M��Qs�3�[o��eG�����o�*F?�z=X��%�����v|,tJ��T�Τ����E�;N�2̄�=�y�����c��R՝Y�<�<������V�t�Lw�S��L熭�nؿ�:w˜v����}zm����/���Y���ݯ���4Lq\L4�D��w��w�����{���0�n�\���c��� \�Pz���PNG  IHDR�(�R�sRGB��� pHYs��P9�IDATx^�ݿOG��HT� )H�PC�2�# �@���*qCc�49XNe"��u�(NR�9I~ȩ�(�q��ɛ�eov�8���]v�;���ٙ�\�4��UZk�ò�T�?i� U����}�|��|���7^���~���r�nꗟ{ۻn���^a^--z��Gz� ok'��6���j�Q��1�O����f�R�yo�[�����Ѣʥ���XQ@@�P���&�\Ym�U��� �vL8x��-�.��?� ��o��Xߩ���v�] ?��r�J-�Ug�������v5=�n}x�?����֨� � �P���]���11��IVUן}����1�_�n�3����Z�T�, ��m��d��S@@�\ $��'HV��+��?Y��, [�YD�fW� @��8��N������ڲ�����/��Q�ΚkⲤ��pP�q�+����/��|�6�,�LN�kⲝ���_����*٪e�˒��;� � �U����V�A�Q�$�f���;�l+ �WGrXe%���٧���}W�+����Xrx��L�^7� @�I�,���&�������ksW�E"f��vT��Ѵ���"�� ���B�*ҲlYy����d�~s/8I �����Ώ����!'�C�=���J�"g��)��!`F���d>�TfW։̩� � ��: 4:��d��I�~��bp������\�_�Ud���z@G��;ϤN�Z���0�@��탺�r#� �yH:lU�C6�.ܪ�JHjnfT���R�+�:�Y�}.Ab�a�[��U顔��Vu��<~� � �%���VsN�]�wk�ܘ�|֔S²���|;X|�mX�Q�v�nh����D�ky��ݙ���oRh-���h@Ȯ@�a���]"��*���"���?�;��DR�&�M�Rd�w|�YCU�g��{c�$3�r|l*�� � �@J���_�KΛ��Ǯ?���ʲ�� �=RI*,-�`�N���ɲ� �K�nH��)L�D@�l (�u�#�c��\�j��S��/?7���$9�J�TY��w�l̗�P���ɫ�;��I�+���ͺ�d�.�6?TKIl*ϭ� ��i�t�Ձ���� #���Ns � �@����ڋ�!� ��"�B�@*�� � �� l����y@@�W[{e�' � �i��LO�G@zE�-Y�2ӵq��)��ޛ|F� �@FTa��5�sw�nW�uq�[⼦�� q � �����$ $��������]��Cb���y" ��"@� �)ndkGON{+����t @8^���x� אW�I̺���!�u@@�*@ؚ�/�����Y��`F� �@o ��t�%f��VN�ư@@�[�8�Ĭy�UƄ �@� ��� @̚�)e@ � jw��:��&�����{�#A@��u�R �|���MMM �c8�@�H�����5'�0@@���<|5�Y�0��@� �f� B̚�)d � Ђak H���d���z�燮!� �@l���Q&���� 1k��<@R lM��ӇJb��ĄĬ�C�mq? � ���,̒�G�SGGGgffFFF2�u�� �t �666:��[8S-oUKB��1 � ��i���1�����IEND�B`�`!�ӕ\�yW�9�Jr}ƲlO� xL H�Y� z�xڝT�kA�ݻ��%m�4բ�B)�"� ��Q�>ϙٻM7��.,����|3�s# `mHv�Q܅x& ���{��<^�>�F�5�����,�a'T�+��������PYI��OU/:Sb)ON�"�E���i�t��m��M�Z̼d��k��JR��S�ϑ����~�ijܧG��O՟�I�9�����dž�/�7�:�N�{��Gx�LG�4�LK�m�_�L�I�%���Ģ�LM�o��k���L�l)��?����o�!�lΊH�P��T��\�����X�mv^��/��\wo}����sWRN����om _��, �SF���ק���"^?�yuT���ڢ?U��W����@��WE��j��m��{0��z��g��������N�?�뽟m�n��,&^&'�LN ��v���#���;"��Ӭ�3�����۸��j�3IsF���o�^�9i| ����@�i�Oge�S��y?���8��ؗ��Z6�x���EDo߿����ƿ�����)�Ũf>��^����[zd�C�X��_h���`!� ���q�Ɛ �@[f��<�0������x�uS�kQ�޼�t���Z��*��֐{� "ZKM�'�B�E�-X��Գ�D=��B� ��7/�QE������mW�ٝ7�����yk0 ��p�Y�n�k�@� �д�p��#���"E��� �8\E{aq�����K���{�� =:T@�f�9�5�+ʡ �&��V��XӊW�� m��O*��6mT6~S1j4�3 �L�}ŷ�����Qޱ Qs]�3&�)�Fsϐ��g��&P�.2+=����d���_*f#c yS��‰q�|2�����9�-s���T1�������M��/�����r9B�^�v�7:��R�]�����>[�����l�UN�K�[a��s��N��״����]��R�7��*�����g��R�tp|�f���� ��SVR�<�������Io��ܑ���;��_}��J%|{>7yn���2Ixβ�<�]���鳫��b����?`!��& ;��mpK-d9, ����@ mp)9�} r�xڕTMhA�fv��n6$�A�Y�*)5'A���%��9 �Rhڂ�P�z�s���G�KA��ƻ��bQq}��h;0��{��{;� >��@ %�����t#�i��:��hg "��'=Ȉ}ZsHj\@czf��o�� ���<����E�@{� ��v��������4 jd�d�Dž�2?�{$}'l|\�eD?��e2��r�J{u�[����;O���A�?�L��O$�E��o����<�b�-���t�W�MdȻλ���3f�U�G��!�|�.Ihߥ��zV���ͭ.4�V�@jV*�?�W��أ���I��'���R1��4\�B��n^������ܞ[�ƽϝ����/����[�ݑU+A��E�5��ǁ��|�3���&r6�l|I�O�fZ���Ϧ>��UG�c �/O˨���b�/�U���ꧤ�E'/��� >-yOi��.X�uv�W�?��v9w��M�.+2ԓ��� ֭�;���z����Z��qCޑ����'� ��k�+ˋ�u?x��5��+9/�NT ���<�&��,'x��L���7C�}ŭ o"�D��.�����B�1,��[�;��,�=]3�kڅ����e�cG��7ߢ`!��rY� nY�'\8�i��J�00 H  �/2�PN�xڥTMkQ=��L:3�4֠AE�E�P�B ݴ)5 B��� ��rV.Ep���Ѕ��pe�".]Tl�REQ�x��L3MZZ|p3��9���<�� �qr縐F ������8<�p��┩�WgP���.��1��?'��_ߠ}�?�4' b�T e#�=�,^`�Y��Tt]��&'��W9��_JW�b��1�j��f�c,?Ɔ&x�9��s M��>�3/� ��c�X]>-�*#v�n�Ӽ���+sT��l���H�j�bjňq~:�V��V8��|�ٲ��d}i���n�[�!��<�Rd�w�[w怟�����VW�u^q���/ν��a׿����A�"<! m�,;���VT&��������L�@�f�׏�}H�96'%D6�T��4Y�H� d�o;�K˺(f<�}� ��#0D�i[�bpEܡδ)�����"ߒ����lW�{E�ۗ�.evB��?�Ϋ#�2z%ֽ�u��vwŪb�֯O}:��;u��|T�ϕ�/W~]i���2w�����90��Y*�y7�c�3 ����'��W,Qּ�V����v#��|{�PŖ7����,-�-��YӇ��'��G������Р�SLU<�Fߕt�U�^��n�[�����+f~��潎��w�����>GE9��q������������lZĢ`!�h�f���5�l�r�0�`�(XX�ahy��xڥUOHTA��q�}����'�� j���PHt��Y-T�+��\�Uؼhy�ԡSg�KAI ���y�H���@R�曙�|���{����~�o�}3�A�/s� hjղ D�J�� +gW@:p�P��*���X�*��F�tvu%a�@��+�.CR�;`@>��(/���� !j,I�% LZ�V!{%��,�Q'�]4(G���󑒡U)6Ѷ2� Xh�:S�Y�m���t;,�{E��C��$ss;�Bވ!���nvzsT*�b�R�bT�w#Ø�� �xu�z+"n�7x� `Q�feO5���+�O:r�����=���JGl� ��+�1��QB�"T!t��!vm,�=<�0��L������S�~9�_5;WYۜ�8�е��K�v�9�w�J�7�w�o(��wq7���Լ��f�B��u�=�ϳ����'3��Iu�SW��=�lS鿔v�3���/����/b~������o�����m�����O�A�,b�?�!����������(�����[����9u��3e�g����t�L��kf��4{���xZ}״��jl<� �����ߤ� ���oV����S6�����C+H����݂����+Ȓ+������Wj.�xN�U�P���=�{?�Y<�$�;&�->��w��+t��^玩�`��jJ ���kd�7��^n�r��qV*M΀��'��1��z��+�_��N�`!�?�� ��v��p��:�<+V � 8X �� �: �xڝSMkA}UݻNzWwݬ��9 ��h��)���U&�k� ���"\�����`�IPQ�9z�*z��3*�6�TW��z��� C�:�����-�X��R@�8W�T`w8D���B䨋h@2�n7�o1!���"�b�� _�ơ�'U̩ī�Hӡ4� ��(ɬ���ڮ���G��¥#�qR�b�q1J.����z����#�#"�H���^��ß���p��W�v{�?c�VQ�T4�^��:{���*��M]��D����U�����g��<{uX�l���bj�w-�u��qP�_y��ɚ�K3���R�Ow���Ksױ��C������� ���b��o�>a.�m��-g�ye��ܟt'0��+3��r�|/ ��뎧��u[Ϡ�H�!�.��x�=��/�f�g;�%��6��Q��Ir:|j�������Ej��bxT� ���t�C��(Ո��>�����Wh)ڠ:4J]��1�q���`�1T5:~T��.ŻLc'H�������H�*r��\遭?���V̉$ ��5�=������qW����3<�cj~s1�Z�e}��Df&{ZK���Je#��T�ٵ��UԎ��猠�\}H-l����~5���'�z�ˡa>������� �wRLh����ը^�m���-p��ٕDtquy�<;iw�V��� ���zg�"��V��j6�W�?�h�J�iU���_茓�`!�>��w�҂��VT��!+�P0 �� b�S��xڝSMK[Q=3�&ƗW�����`���v��y�'�u�~@ �ݴ"�K� ��.�ʅ���7�e-��s�Nj>��^��s�9sf�0��hLì��g�4����5� ����&�"J�r{�=O�Gc �R���hɷ4�.gk�xt`Q��s*�U��nQ!D��f�����X!�����ÅFdc^.cr^r�K�A��#�L��@^H���-���?�,w��5>��MxƟe7�mFEM�P,Jg���"C����lL��u����W>9�0�D� ?��DŽh���'o������_�Rד}�K3���z�u��D�6�W7pt�cp,;j�|(��\U����`��,G/q�ë�cV�_���.�K;�~��ǔ�X^��Β��j;}�9BY��{�7����M�i��Y��]�̧�?}3����їG�V�;g��Ҵ�s}��� ��7}{��F���k3�G`!�L��� ,}"T�Ŵ�T�� �h�� �� �xڕS�kSA�f��&/���A�y � (��W��֢�@ iZ|1B�Ћ�*�D���<ēE�ͣ ��у��9��=�.�����7���J�:�@���̳cUL"��0T��8��V�=�E�X�+N8���p ���b߰�9�K����>�5Y}g�+��U�1% �NS7V* ��*(���Pi��}�SQ��\�l<���pD���גA�HҒ m��.い�'oŤ!44������}N�R&k�?��w%�4����{���O=+�S=�Gc���?���Y�$[)ワ^HO�z��T0߸�m�j{���������1kiB�;jJ�&�g�0��h��\���Z�ݸ�ݝ���2Ë_����}��L�9?VӍ8�x��<�x�7�˝�[�?쾙� �gX3�)5cp���?yZ\��Ft���F%s��yq�՚vս�Uwi����l��:2[PGu#����S���2b��r�B�ҾV�Gͼ����#��_�~�Ik�>��>z�3�$Es�����������Y�X�/��-`!��R�ߣ���p ZQ���=�0�H x�DP���xڥUKkA����lf6�u|1`b|ư'=�z��Md�@� $�� A���{1��x�br�x0�A� ��Z��Iw���w�뮯�����|��`7ȱ���t-P����4�T�Y:�<� e�QHh��٧v삨���?�#��^?Ezv��z��SV5���p 0;Ee% �v葢��TCgZ��8�-~�V?1���G P���]�<�2C���d|��E�3�/�`e4{�}��=�W�Ɋ����cu��,��ȋ�C��|���{1Ur�!c�_���0�&�I��i5K�t �6���& ]}cW��� �%��J3Vo����K�]J� �j+�7���y$D��;?1�_��$���-`����W4�Ε���+�wR��]�A��.Wc�9���?����W�ܿPY|ItZy[�tq�脸($>itº�R'���ݕ�:�7�iZG���ʧ��i�7��?t���(]��x� ��(�q��y�$�n��wd]�^��wѳ������M�}�4����P�� ��z���/����)���֋m�^�T��I�*�^c���R\W?���/�:�|%��� � ��r���X-���]Β�r&�r"V lN�D`s"��_� �)�9!>G��B��-\�V���9���{ʩ�RN D|��Ͳܡ���_}!��F�������6����_�����m�s�� �(`!��KK�5pK���a����t�F�>xt��xڝR=KA}����sQ�9�R$�� 6�%��ED�/P6b!6���l� �V�بmD���9�q1�ڸ0�s�oޛ�]�� ��:ȆZ\d�R�s��$p�&ɷ "���zLdPE��� �4�xB�΂`i�sX��cЎB�V�Ӣ?�D� %��L�Y�I޹�K�:*� ��X#�F觕��2� X;d�Z��t|K������/�P�Qj;<��ǸL�Cu�[,���uԨ�S����l�E�8c^���dt��{wT�;%�(����`�-l-��E�����{��IYi ����Z���Œ7�������s��{)��uW��~9��Sf7j�+�f�~���R󪑂�b�w��~5�W}�Z+�f ��z������AFvl�r��gZ���ΆYčf��l>���o�yEߴ��R�/m��`!�@"�ሆ�Lc�W8&k{��@���w�x�cd�d``�g 2 � ĜL0##������0K�Q*� W������O�Rc�g�b�R� ��vq�Of���Ē��ʂT� @�_L �ĺ��E��.��X�@�+ȝ���ATN`�gbPp,�L��_�ru�x"İc���@�`�W9��LF�]F\=�F< �5�0�4� ��s"��2>�E�_�FV�˘Ł�?�Q��'0)�š!�(59�83?�������I��8n0����?o�U��q����!��p~ 'DK�1���M���_�������g#8܎C�I`Z���VrAc� ��ރ�Y����J?m�LLJ���%�� �@�0u(2t�5�>1ܵ8c�ŸeY��buη2� �j���K*�,t�����N�(D�B��a$�<��-�W2�+_{�%�&�C(1�6���f6:��N����C�X�h�c�\OM���)��b���J_��9����[��J,y,��m��'�!��kRO|�/��U��5��`k>�?�p ��b�;�Z��1��i���bCLd\���3ŝ=���Q��k0�I;~�F^%�INWa�d��m��&�N���H=q����L�� 6�z�W�z�Up[�� �؇x.=�0p�k����/��W��꼓'��x;��N�‹�c����.����F��纾��� Ɲ�0pE1At� �2B�ab`��b Y��@������r#X=��cQfb�]���q�Î%�������4%���`���z�U�@Zk*a|I?ί�F�?ȉ�_Ŏ���Y>����_�b~.#'*��U�16P�iA� L�X@�Z�P�0�]�R!!��W�LT�z�;D����2o��yAF8���[�.s���26�ȟe��c�&�;�+s��s�1Ӊ/f �`��P&�\mWX�(�c�+,Df����p�&f�֕ �Ƹ�� � 0��y{@A���Ĥ\Y\��ˠrP�"CXH��gB �a� ����h`!��8�dƢ����a@ܓ�� @x��t�x�cd�d``�e 2 � ĜL0##������0K�Q*� W������G�Rc�g�b�R� ��vq�Of���Ē��ʂT� @�_L �ĺ��E��α�X�@�#ȝ���ATN`�gbPp,�L���T���x"İc���@�`���V�Y���`���z�5�@Zk*a|?�o`G��e�ύʿ̉�>�1� ���� �O`Rb`��R�sr ~P���~\\�q�� >�~yìv�s*���.*���T,a��W �27)?v��^&�k�avjO��6� �\����nv0o(�121)W���2���ԡ���R���������@=�� �s"^Œ_�ah�#��LdXp0 ���_�A� �x��]]lW>^o������ަI�*IS��M�4����RR�ĭ"�G�KL;j�R� Y$���*(*�<��b�T��P���P�"Դ4(RS�QHj�7���;wv׳����yǯ�' �7}�������^� �\�K�>������6o��?&�g���0���{������<��T�{��v�x����������<5-|o��9�;�$�����s�֮x�W�Op�r<��Y��s�8���u��}ċ{��{��H�q^��K�7�y�Ir�_��}�21�r�EAxT8��"�kB���é��ϥ��{Au��gU��Pq���r�&��a�O�h���M$pJ���8��Y�c@Ϥ$��t�ԽR���6�<ڛ���u�4H��� |�JkX3�B�Ēm�q�t'��4F�tN��I�||^�-���#��zS��v���8$�99#���"�v���3�v�Ib�s^�nq�N>F(�S�]�x��K쏊`�g�4�%��cs��͋$����V�^�r냥k�m{w ��.�w�+���%֡%A,�u������Fz��� �VBo� ��6�a;��.�����_-�����ƚ����>�).����6[�;�a�f?�RK��#Ӿ�7�� c~)#��ޚ�6o8�;�O�wN���v����`�G2�za�w����7�y�I� ۃ�h����B��z�i^R�َ�^p��r��^�~ض�c�r2o�n��^\6��s���٩��u��8�{W�_/L?l���1/.�y���u��M���.����LwJ�lG]/8�M���a���U���a^ڝ�lm�h�9c޹:i��ɝm'b��>��͝���4I�lG͝�������Ӟ��َ�;ǡ����s���َ��sz_W �bznm=�UO;z.�z.Q�v�W��zPE٪�Z��깍S��s =�Q鹍���Rom~o�ˮ���/L�z���\�{D����#}���>|5O��k���\���0zn�ң�+��?��uDo�w�R~M �_��2,���ן�Q�O�"�4&"�!,�r��n��>��4�s��ۤ�f�8���q���qέ�:TJ�մ�۲k�ĂXuetVh�yZM�i����?5�nGb�.� �ɳ��ے�s�Ebhb�g�,��J�y�@=�<�.��� 6|&��/�*ϣ7H��K�X��4�O~2���'��sa��+�##M̑{���D\��ν�2�� �#ʝ�T��~��^n�<_�&��Iώ��9���r�Q�Q�l�F\�3�r��r�4�6�Mzv���q��m�{�€~����~�.�~��^nm4_�&օ�Iώz|�8t��6w�!���fkڳ��&�dnӗ�k`i��{����m'b��>����c�8pg;j��>�����'�ypg;j������>�O�u��v������J��[�>��'��e�ޟ�qKƿf��|=QC�y���k_h2O��WCbY�>w��[�>>������sĉ��~* ��ׂ�?N����.Ό���Ac�g����}�0��S%�ؿI�8���q��8�ֆ��<R����PwCPz/V�Ϛ��!`�.� �{�0���ΰ��� �X��g���D'B����Ѭg�A'B�Nd{\�4�}#��qЉt�՘Kq��G�zvt"��D־N �D(w���ܫ1��41�>���8�D&w��>�0���َ�N�s�������hֳ���m�{�€N���ʎ�N�s�t�v�4�v:���8�D:w�D��c1��6�ώ�3DY�N��c|�P�;���g�&���6w;0Ɓ;�qx�h��ls���<���g�&�~�6w�)��w��� ф��W½�z���K��O4�׌���,�-�u �� �)h-؟kS�5�#��"x���<��ҭ��Ş��V�c]f�?�ҟ뙨⚗_ϲ�ueZ����ֵ֠���i]�Z�|�[�l4�TZW��(�떠ֵ�ſ���7 �.�� êi�X��L,��`�q�I ���t,�ֶ����֗����mA,�L^��5P�����ϵI,hv&|a�6��R�4: >3��mS��/ b���:��X���"��ĀI*�_��(�n}h�x��L<������a������q�����ٞ+p�c~�xv�?�{5�ǜ&�'ώ��gr�t�k����rg;ڟνkN뢓�g�A�3��.�����v�?�{5�E�&ք'ώ��gr�]� ڟ��+;ڟν�5a��0��z����q��t���ls�bR�mδzv��Iǯ����>w� ��zv��V��;���u�K�a���7W-osb� ����9���B�m�皘��`;z��S}�H�*w��n��߱�&L?l�m�1�^@ް]�������;�̶��ñ^@�`;��L:��4/�rg;�6�q�{=�m��ö�&k)� � ���w�'l� ^�`-�6�v>_�t��iv�rg;�6�q��\�m��ö�&�L� ����:l�tܱ��]/��Zg�M���]'��sG���N�gG�&8}��� ��ܵ���7��-|̖��y�Fh �>����eq�Bc�����H~����/|>�nPG�{v��u��{�f�ʽn;��`����[�>���V�붭������V�LE8���v�Y��-���v�lp��d�� ��gl�mD�#�=|������񋿯N~�6X���]�R���n��N���>�/�e�ë�����Vu�Q����OO���TL��\��*�@=�A ����_L� ��o�����Y= ���_�!A �x��\klW>����xjO��\+i��:u��*���JH[���J4�Dc� J���Y� �bD!HME��<�: ф�QHH�j!~ AD$B���޳s��û�����D73g��9绯9ߝ�M�g�\�O4�C�v���mYA����k�R���c D7P�{��#�N};U����v~�����e)6��T6E�|pIo��}�S�}������d=򵽞ls���m��@6��BizhY�)�󲔿^H�z1�ڿ�Z^�A���a��l+l�׀���TJ]O���N����>o�=M;hkX�W�ť�8?��8&�th4( �!�'�2��]�e;M��40�g܃�y���_�����=���gYw�ކ���7P�������}�n���K���<6�tFGrE�����l���g`�k������+O���u٦��-�{���w������<� ��u���m�F�s�ϰױ�fn�����<֔���MY莳�F��I�?��f|�Λ�z=��n�N�4F���;|�\���.fú�4+��J���S|?��ċ\�>f���lS���^� :�� _�uE�ڥ|�΃�m�e��I�[R屽ۮ���(�����'�^�ۅE�׭�ž�����y�=��X{?m �]��p] [o��7[�t66۟��Fk�M�s:��6�qZ�3��E�;"/�e�Ӱ<=T����<+�}�_��!�#-�����ıZ��o��!/1|6��� �v������n��?��q|ŏ�n$�>��t�]l��E��_H���_�/l��n+�u#>u���b&޺9na��}��'5v����`?�U�/l=d��B|>У�F��c��,�x���bs��.r��B��=����C^r�n�Y��s�� /�Qz��K���.��3>~�+�"1c�8�g�k�2��٥��7v��|N��.����w��8��^ �R�7 %�o���~�w",E�7}��M�^����M���o4��7��=}��eS!��� ˭�lG.C;i7�s�S4�oei_�$���q����z�Ѝ��8Q~�@Ź��8N�g5�;��@�ֱ~Ѫ|�:�}A_��[��5H+�ZC�b�??�ot(߷v����Y�Z����E��Dw�/�l�����g���t7��Zp>٭|_.�:g-�>�r�S�!��H�\vS�+��|�Y9�0�0�ͧ�<�(`k�z��5� F�G59�7�� 6�? y������=��a�khw������[�+�O��^!Oޔq?�g�<�"1c�8�y�5v�C0���qc�8̹�5v�����.r�}^�0�Z�W���!�J��{��φ��3t�53����Pw���۞a�����œ�E�w�<��Ok�v�"��q>���,�p|[9�-~a��5�L�8�'O�]!��IO�wZ�1b�U�olkVq\*t���~`�Ǘ�|���?�[�㏃!{\]3�o�G�7t�w��E�ף�ž��q��+�?����}�?��EN4�ךSU�O�&���L$'�?��G�ϒ ������z�T�3n"S������z�v����K�<���!��]丱K�\�;�Մ��.r�}^�0�Z�W����o?+~�7s�'����6~��:�{�M��v���R?;op3�[��K��Uq�/�\�?�v\q\*t��[.����R[1����:.���� ��Z�$|�Kھ�����H�»H�t6��\(���.�/�� �����X�sv��I����䒮�[� .�u?���%M��xΊM�{�HN����|�\>�%��"'�K���c�M�W{�HN����n�Y�\�.r���������6�[��#9 \��>Z�x���3��A$'�]d�/�?���9=���Ix���y��e�\�"'�]dΚ�\cǸ����"'�]dΚ�j�^)w�=\�(��k/̟�[�^�7�6�E��S�Ʉ��oG����������[�>7���\�Ի���K~����\�V����'��տ�+>�Jg1��y��0�T"�6v����I���|������'�sU�ͅo�a�7tu����>l����Y��b��j���}��o�l�.�0�#� G�HNF&v�����?"9 |��^�\Al"O:Dr����h����0�]�$�a{=�$���H�I��6v��>�}���EN6�ך#V��&��#A$'���G�ϒ���vg$��3>��3���&���3����͵`G��r9=� ���Ս�Dn���^{�Ԓ�ؑ�3�s 7�|!r�|!q�;l��.r�cB�0��1DŽ���zL�O䍨�뵯L�us�Ž��u��| y#Ƅ�q� ����a�nw������9&l=d�cB|"�F݈�|�c┅y��~�GuN�1!r�y��Qo찹M���q� ���昰��/\�'u#{�@��+e�i����.ZJ��s|�@�|ok�oEu��H�V+�~}Ɓ]v��ޢK*<�{�'‚=E�sjO��|�=��=EX~���>��}��S�+�����+��ܞ"&f*��ܞ"�ϩ=Epƞ"����ʬi{ƺ2vYi�9��76ו�;�U��,��l�+�{�n�����݈p{ Kԛ���iU�뵺�;�l�O1�������2�7;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanh�h��s���� 0����D�[SOalchoRomanh�h��s���� 0���� �DTimes New Romanh�h��s���� 0���0�DWingdingsRomanh�h��s���� 0���@�DHelveticaRomanh�h��s���� 0��� "P�D��fNveticaRomanh�h��s���� 0����1`�DMS MinchoRomanh�h��s���� 0����1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�ԓ�� 0��������p�pp�@ � �G��4BdBd,֓�� 0<�4dddd4��w 0h��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001). ��P%PP,P PPPP PP%��, �  ���� � $�$�             ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment All kinds of boosting improve word alignment results Semi-supervised boosting performs the best�� �/1` ��/� � 1�`�����I�� �� /����4�5�6�7�8�9�= �> ��x �  0`� f�����3�f̙��3f����`� �������33����`� ���333������MMM���`� ���33���3f�������`� ����3�f�3��̙���`� ���f�����������������`� 33�����3ff�f���f�����`� ff����3f��!f3̙����>��?" dd@������ �v��?�Kd�@��������� �@�`� �n��?" d�d@�����   @@``��P�ZP   @ ` �`�Zp�>��>��L0 ^�V��|���( � �|�~ �| � �H����������?��"�����)���~� �| � �H���A��� ��?"������}���� �| � �H�pj���� ��?��"�����i �H��"0 2�C� � �� �| � �6�� j������ "������� j �l�� Page *�$0�G� ��  �� �| � �0�� j��������� "���  � �t��Toshiba (China) R&D Center�"0�$���� �� �| � �6��j������ "���`���� j �L��US�QdkY���kHrh��7h_� � �  �| � �0�j����� "������`�� j ����8US�QdkY���kHr�e,g7h_ ,{�N�~ ,{ N�~ ,{�V�~ ,{�N�~� � �H �| � �0�������޽h�� ?� ���333������MMM���� �0�___PPT10��.���������� � � �� �t� �0��"����� "��`�� ` � �� � � ��H �t � �0�������޽h�� ?� 3f���������f������f������8�0�___PPT10��.��� �zG�<� � 0��L0 ���@���$�( � ���r �� S ��o���|�`����  � � ��r �� S ���V���|����`�� � � ��H �� � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.���Pj���<� � 0��L0 ���P���$�( � ���r �� S ��hs���|�`����  � � ��r �� S ��@t���|����`�� � � ��H �� � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.��� ���<� � 0��L0 �������$�( � ���r �� S ��p{���|�`����  � � ��r �� S ��H|���|���`�� � � ��H �� � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.���� $���H� � 0��L0 �`����( � ���r �� S �������|�`����  � � �� ��  �`������g�ֳ��g�ֳ�����������1�?��q� �,$�D 0 �@��Initialization�� ��  �`�8����g�ֳ��g�ֳ�����������1�?��? _�,$�D 0 �>�� Call Learner�  �  ��  �`������g�ֳ��g�ֳ�����������1�?��A� / �,$�@ 0 �F��Calculate Error Rate��  ��  �`������g�ֳ��g�ֳ�����������1�?�! �/ o �,$�@  0 �I��Re-weight Training data��D�z �`` � �  �� ���` `� � �,$�D 0�� � � S �B!CQDE�F����������������1����?����P � @�������`` � � �� � �  �`�Р�������������?��� Y L  �6��End?�� � �  �`����g�ֳ��g�ֳ�����������1�?�qA� ��,$�D 0 �@��Build Ensemble����z �} )��  � � ���)} �� �,$�D 0�f� � � � �6�A�����?�} )�� �� ��  �`����������������?��L |  �@��Reference Set���B ��@ � �0���V����?�p� � p�,$�@ 0��B �� � �0���V����?�0 pp �,$�@  0��B �� � �0���V����?�p pp` �,$�@  0��B �� � �0���V����?�� ppp�,$�@ 0��B �� � �0���V����?�`pp��,$�@ 0��B �� � �0���V����?� pp�,$�@ 0�B ��@ � �6���V�����?� �� �,$�@ 0�B ��� � �6���V�����?���� �,$�@ 0��B �� � �0���V����?������,$�D 0�� �� � �T�谬��g�ֳ��g�ֳ������?�� �� z�,$� 0 �7��Yes�(2�B �� � �6���V�����?�� ��� �,$�@  0��B �� � �0���V����?�� �� �,$�D  0� � �� � �H�䵬�G����HR�������?��#"� �`�����SI��,$�D 0 �M��Supervised Learning�0���H �� � �0�������޽h�� ?���� ���333������MMM����Y5�Q5�___PPT10�15�.���@���+��D�}3'� B ����=� @B� D�83'� �����=� @B�A�?%�,(� <� +O%�,(� <� +D��'� =�%�(�����D�'� =�%�(�D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�+'� =�%�(�����D��'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D� '� =�%�(�����D�I '� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��* ���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��* ���������D� '� =�%�(�����D�I '� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�'� =�%�(�����D��'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�Y'� =�%�(�����D�'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�s'� =�%�(�����D�'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��* ���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��* ���������D��'� =�%�(�����D�'� =�%�(�D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*���������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*���������+�+0+�0 ++0+�0 ++0+�0 ++0+�0 ++0+ �0 ++0+�0 ++0+�0 +�!� � 0��L0� � %  ������( � ��� �� � �Z�����g�ֳ��g�ֳ������ ?|��`����  � � �� �� � �Z�`���g�ֳ��g�ֳ������ ?|�����`�� � � ��H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.�����+D�='� B ����=� @B� +��� � 0��L0 ���P� �$�( � � �r �  S ��x-���|�`����  � � ��r �  S ��P.���|����`�� � � ��H �  � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.����f�+D�='� B ����=� @B� +��i� � 0��L0 T�L��"6P���( � �P�r �P S ��p6���|�`����  � � ��  �P  �`�`I���g�ֳ��g�ֳ�����������1�?�6 =&F �,$�@ 0 �G��Re-weight Training data��B�z �`` � �  �P ���3 � � 9 �,$�D 0�� � P S �B!CQDE�F����������������1����?����P � @�������`` � � �� � P  �`�(Hj������������?��� Y L  �4��End?�� � P  �`�Jj��g�ֳ��g�ֳ�����������1�?�D��Y�,$�D 0 �>��Build Ensemble���B �P � �0���V����?�C � � 3 �,$�@ 0��B �P@ � �0���V����?�9 � � C�,$�@ 0�� �P � �T�����g�ֳ��g�ֳ������?�9 # � �,$� 0 �5��Yes�(2�2 �P � �H��+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*3P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*3P��������D��'� =�%�(�����D�'� =�%�(�D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�+'� =�%�(�����D��'� =�%�(�D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*4P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*4P��������D��'� =�%�(�����D�'� =�%�(�D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�f'� =�%�(�����D�'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*1P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*1P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*2P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*2P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��* P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��* P��������D� '� =�%�(�����D�V '� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*5P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*5P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*!P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*!P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*'P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*'P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*&P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*&P��������D�$'� =�%�(�����D�� '� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*6P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*6P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*)P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*)P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*(P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*(P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��**P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��**P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*%P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*%P��������D�'� =�%�(�����D��'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D� '� =�%�(�����D� '� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*+P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*+P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*,P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*,P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*-P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*-P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*0P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*0P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*/P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*/P��������D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*.P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*.P��������D�s'� =�%�(�����D�'� =�%�(�D�3'� =�4@B��B� �B��B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��*P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��*P��������D�@'� =�A@B��B� �B��B�0B�%�(�D��'� =�1�:�B�visible*�o3�>�+B�#style.visibility<��* P��������%�(�D�'� �=�-�o6�B�dissolve*�<3�<��* P��������+h+0+P0 ++0+ P0 ++0+P0 ++0+P0 ++0+P0 ++0+P0 ++0+P0 ++0+ P0 ++0+!P0 ++0+%P0 ++0+&P0 +�!� � 0��L0� � %  ������( � ��� �� � �Z�Ȯ���g�ֳ��g�ֳ������ ?|��`��  � � �� �� � �Z������g�ֳ��g�ֳ������ ?|�����`�� � � ��H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.������+D�='� B ����=� @B� +�=� � 0��L0 <�4`�$���( � �$�r �$ S �������|�`����  � � ��x �$ c �$�|����|���,`�� � � ��� �$0 � �NA ?����������� ���?|�V � &�� � ��H �$ � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.�����+D�='� B ����=� @B� +�� � 0��L0� � % �������{�( � ��� �� � �Z�����g�ֳ��g�ֳ������ ?|��`����  � � �� �� � �Z������g�ֳ��g�ֳ������ ?|�����`�� � � ��~� �� � �B�A ?�����?�0���� � �~� �� � �B�A ?�����?� xL � � �~� �� � �B�A ?�����?�� p� � � � � �� � �T������g�ֳ��g�ֳ������?� �p  �;��where�(2�~� �� � �B�A ?�����?��0�� � �H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.������+D�='� B ����=� @B� +��� � 0��L0� � % ������_�( � ��� �� � �Z������g�ֳ��g�ֳ������ ?|��`����  � � �� �� � �Z������g�ֳ��g�ֳ������ ?|�����`�� � � ��~� �� � �B�A ?�����?�]G �� � �~� �� � �B�A ?�����?�� �� * � � � �� � �T������g�ֳ��g�ֳ������?� �p�  �;��where�(2�~� �� � �B�A ?�����?� 0T� � �b �� � �T�d����g�ֳ��g�ֳ������?� 0� ����Bis the normalized weight of the ith sentence pair at the lth round�LC 2!  �, �H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.�����+D�='� B ����=� @B� +�.� � 0��L0� � % �0����( � ��� �� � �Z������g�ֳ��g�ֳ������ ?|��`����  � � �� �� � �Z������g�ֳ��g�ֳ������ ?|������� � � ��~� �� � �B�A ?�����?�P ��� � � � �� � �T������g�ֳ��g�ֳ������?� ���  �;��where�(2�~� �� � �B�A  ?�����?� �H  � �  �2 �� � �T��� ��g�ֳ��g�ֳ������?� �: ���VK is the number of the error links n is the total number of the links in the reference�<W 2"3�H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.���<��+D�='� B ����=� @B� +� � � 0��L0� � % j �b P�����( � ��� �� � �Z��� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� �� � �Z��� ��g�ֳ��g�ֳ������ ?|�����p�� �  � ��~� �� � �B�A  ?�����?��`(X� �  � �� � �T��� ��g�ֳ��g�ֳ������?��0�� �;��where�(2�~� �� � �B�A  ?�����?�� *B� � �  � �� � �T��� ��g�ֳ��g�ֳ������?�� � Z  ���Gis the weight of each alignment pair (s,t) produced by the word aligner�H 2H�&�~� �� � �B�A  ?�����?�� P  f � �  �~� � � � �B�A  ?�����?�� W�F � �  �� � � � �T�� � ��g�ֳ��g�ֳ������?� �  �Z��(is the final ensemble for word alignment�) 2)�~� � � � �B�A ?�����?�� ��h� � �~� � � � �B�A ?�����?��0H � � �� � � � �T��� ��g�ֳ��g�ֳ������?�@�0: �T��"is the weight of the word aligner �# 2#�~� �� � �B�A ?�����?�F��>� � �H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.������+D�='� B ����=� @B� +�!� � 0��L0� � %  �p����( � ��� �� � �Z��(� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� �� � �Z�x)� ��g�ֳ��g�ֳ������ ?|�����`�� �  � ��H �� � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.�����+D�='� B ����=� @B� +��� � 0��L0� � % ����� ��l�( � ��� �� � �Z��7� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� ��  �`��8� ��g�ֳ��g�ֳ������ ?|����`�� �  � ��� ��0 � �NA ?����������� ���?|��� g �� � � �~� �� � �B�A #?�����?�� � $ � � #�� � �0 � �NA !?����������� ���?|��� M �� !� � �H �� � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.����g����� � 0��L0 ���@�d�X�( � �d�r �d S ���>� ��|�`����  �  � ��� �d0 � �ZA ~?����������� ���?|�6��u�� ~� � �H �d � �0�������޽h�� ?� ���333������MMM��������___PPT10�i�.���Pt�N+D�='� B ����=� @B� +�� �  0��L0� � % a�Y����( � �� � � �Z�pJ� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� � � �Z�HK� ��g�ֳ��g�ֳ������ ?|�������� �  � ���F �0�X  � ���0�X �� � � �T�DM� ��g�ֳ��g�ֳ������?�lP �X  �>��0.1987�&�3��� � � �T�� ��g�ֳ��g�ֳ������?�� P lX  �:��0.7858�"�� � � �T��Q� ��g�ֳ��g�ֳ������?�P � X  �:��0.8175�"�� � � �T�E� ��g�ֳ��g�ֳ������?�0P X  �>�� Our method� ( �� �  � �T�Y� ��g�ֳ��g�ֳ������?�l �P  �:��0.2140�"�� �  � �T��S� ��g�ֳ��g�ֳ������?�� lP  �:��0.7775�"�� �  � �T��_� ��g�ֳ��g�ֳ������?� � P  �:��0.7946�"�� �  � �T�tc� ��g�ֳ��g�ֳ������?�0 P  �<��Baseline� ( �� �  � �T� g� ��g�ֳ��g�ֳ������?�l�  �7��AER�(�� � � �T��j� ��g�ֳ��g�ֳ������?�� l  �:��Recall�(�� � � �T�xn� ��g�ֳ��g�ֳ������?��  �=�� Precision� ( �� � � �T�p[� ��g�ֳ��g�ֳ������?�0  �:��Method�(�lB � � �<���8c�����?�0��lB � � �<����1�����?�0 � �lB � � �<����1�����?�0P �P �lB � � �<���8c�����?�0X �X �lB � � �<���8c�����?�00X �lB � � �<����1�����?�X �lB � � �<����1�����?�� � X �lB � � �<����1�����?�llX �lB � � �<���8c�����?���X �1 � � �T��w� ��g�ֳ��g�ֳ������?�� 0�  ���UBaseline: only use the first kind of weights Our method: use the two kinds of weights�<V 2 �3�$ �3��H � � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.�������v� � 0��L0 ���`�l�^�( � �l�r �l S ����� ��|�`����  �  � ��� �l0  �`A �?����������� ���?|��%����� �� � �H �l � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.���@2i���� �  0��L0� � %  �0���( � �� � � �Z��� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� � � �Z���� ��g�ֳ��g�ֳ������ ?|�����`�� �  � ��H � � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.����N����� � 0��L0 W�O �\���( � �\�� �\ � �0���� �?��"��������R  �A��Thanks!�0 2��<�H �\ � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.�����K���� 0  ������( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z� �� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.��������� 0  ������( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z���� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.��������� 0  �����( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z���� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.��������  0  � ����( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z��� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.���<�����  0  �@����( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z�� � ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.���������  0  �`����( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z�\�� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.��������  0  ������( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z�l� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.����g�����  0  ������( � ��� �� � �Z��������������1���� ?����� ��  � �� �� � �Z�<� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H �� � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.����g����� 0  � ���( � �� � � �Z��������������1���� ?����� ��  � �� � � �Z�� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H � � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.����N����� 0  �@���( � �� � � �Z��������������1���� ?����� ��  � �� � � �Z�%� ��g�ֳ��g�ֳ������ ?���� @����  �  ��� �H � � �0���޽h������ ?� ������̙33��������8�0�___PPT10��.����N���x��XAhA�3�F��6 ��Pa�AQhhӋ"��F衱4���T"F�lӤ�=��^A � j�!�4�2W�`P�j�z�Tr�O=E��k�D��F�`�Ub��� X����t�@�?'���9%����^��������� Q���7�V������QM�h����B���gn�y�Y��qKp�5~�����rF�����|�0).�4&�?���PVr�n������ާ}����B w~�A�@\J��J��ٟӸM:5t@���I�e|u~��E9�����i��Gʱ^iw@���ao�8P=x�򄌇o�G���Q��Ә΂�s��3\O�6�����)��|,ܬ���}��cRVߘw1(�ԇ���2��H�eWa�E�хhEؘ�yv>������0�d�ďY�`� r��0;�����դ���pA`���g ��L.]4��5c�̥�p���ZY`E��M0{OE� vi�z���_q��,����3W����h�̲��HXJ>�w�1��s�Ғn��-�YX�E�E�~�ݼl\�������NX�d����b�m/6�_�����ʌ�p�*��9��2B�i7g�M������t��Z]�eܵ�]C�3���b�+%�كw/��Ȥ����Wq�;�0b��T)c�E�(!2 ;'ځ����J7�7�֭��x��X�KTQ?����6�_�=Z�*~@�B1̢@ZDШN8��y&��ѐV��!"hS�E�`P-Z���@#h��]4�9����M��� �p��w��=睏�\y�_�T�R�H$� {�C�(Ȓc�d2IC r���FN��%hϨt��A;D��xj*ؖ�0 l>�͞��un)S��M�Y�n>� |٬K����kW�����-5E�aB�^�&8�T���%`�oC�#0��胫�/B�T���fO)rX��Կ -�ԋ�{*��{2�Ow��}�n�Z@��8�X=����a� ���8�b�蚫��Ѓ7���o�.tA;������[���蝞R��y@9����\�|���@9�̜J��� w��T)���W����K` P*� c SY�L��f���(��a[���m5�$���!q̜�m~㉢�x��@���*\я�#�!G��4����(O���}�g�˄�o�9,�~�<4����pҶR̒��q�gVq�E��ѫc�r�k���k�r)y|U�*dͥHX����ƻ�̈�5��4{�ØN���_|)!oHB�á�7 Ŵ�и֭G�Q���>>�,��W�̘lT[�����[x�O��Ɵ ��x�G8`��^�U6�����&�𤍟f;����/<����S�9N&���kɝ��D�Ӷ�ӄ�z5R팣����#}��������Vv6�0���i�@���U�y�ɩ��������"Z�b˹��ă�O��闑��wF��a˹ �'P%�* ���Ǣ���C�LL��Q�3���� ۸�㜿�8�7�n�U9��.�榾��.�$g�e��njP��h��R�$�����d��-��%��NQe�I����?��Q=�_1���-jMu��Ǖ����jz�Gk a=*��`���W�7�%�������x��XMHTQ>���ϼu�?LFxH���䪅Q�Q -t�Q*N8��yj�(AZ�D�@���6L.\�+��A�pU4�9��7=&�7%����{���9�w~��ʻ������G'@�L�Ů5��!P��2�l��4���+����k'hϨ,��`B7$p�T~)ؑj� ��yٓ��J���m���w��So�˲C���3n�ʗ����t�\cpF Z��92��B�_�\ ���x�8���p�`��h�z�����!�15�����G! �������쓯A]Ν�F�� �KP.����R7�� `��0Xz�4�)+M�`�>�q��+����ݤ�l��MOyN5��2�g'�}@5��@.C.G�� !�P�tԨ�n� �����]gk��k�\cLc��~� *gl�qL�� |�4� ᢅ<��P�&lQr3"��B�~FS���P��O�LW�L��z����F�0��O��_X\�H�qg&��x��B��X�Z��p�����#�P�z.eBg��k�*7u�1� @π=I�b9��(��s��߭L��+�N�*���?8d$rN���!؟�Z#0u��o<ܜ�Ef׮t2��njk/�+�)�/���C%�׭�q1~��5��F�N���:zi��Fb�h��N�}V| ��)�r���>'����0����V �ב7|$'S���ӽ�&��a��r��cJ^*��c�.1�<��:L>$"u���y��};�u� �l9��%''��M��\7����s�#l�ԍ7�Q͍7yX�s:'�1�7T�";���A�W^R>�2��SI;�5Ce��G�=K ���S�綹�#1�V���F޻K=~�Ćƭ�u�6_]�]�U������Og�B�/��NO���Q,~�P�8&.��g�f�?�mLA�̎c3Y��^_�p-���p-��y��T��F �#=@��1�$cO�͈Q�4?�Z2��/J�S�V�M+Y����l{"����� �r~�B[��Q� NP:AX�U�V� g1���7�r�w�ʅ����/[�|��8v����u,L�ń}�L��3��.�h$�z�5N�T����q���T�˺����8 vfn>&�o=�� �x��&,XrMe�)vD�"�C�,��=�3��n���If�''�o��f`�8�s�����0���w��,�o:e�F�z���Kk!�>6w_?�"���g�di+W)8E�NtZ�OKZ����������x��XMHTQ>�>�7������E����*�J�eQc1�*�Ҙp™�gLl�0����P�X-"*�" \ج�vFЪE WE3�s�}�� fx��߽��s�}��=S�+�/3QSTaapF!X��6��Y��ߏ\���x�0���p�`�U��j�U����E�>W�?�7�I�?�T��_T�~��E�o�A�� .�{��� �0C�!�����;�J=8{?�~�Ʃ�ڊ��ݬ�z���E�N������w�Xrr9�>d/�O�ʁ� s*�Q�ڽ���S�x��^/(0"�p����c�Y�lT͚�~�7�� a�<� |� ۪& }��n�hE�A�h^\�On��DKma��(����+p�'��~yW�5����X l}�A'o‰�Fs ��Hi�)nn��[��"清�u�z5���xR[+��9��B���II�-"���dđL��b#��1L�)�߹\��v&���)��E�j��*';�dZJ�aB�C�`(�4�ӆ?����������'���Fm��ff�~���~w.v�dc;Z���Ks�%!�j�U�n� �)&�e�F���9��<����� :/�7�ܣ�W�;��aaw����B��<����0;������C~�~o�d���{9�>�T�=o� q_��[�A���L0��p�4GGa�|,�;��X��"n�ʹ,�,<�iY�,�d��;�����u]ă�"m���%EP�q��OƂaӕ�����5�O}�7�*�V:MWyc÷O��LD'�Wc��G+����N�Cj���QMO s|j(�FD�[���=w�����B��{��zx��MkQp���#�ֶіRZXz���R�I%�b#xh�� �H#�h��A(��(��gQDPA�B� ��'���S�1q潷1MӺ���,�}�޼�y���ۖ�;>C �9;��1Dn�5j.���hJC�U���bv���®�8��n�}�ť`Kh�*P(�ʞ�E>�P����Jֿ�ϟzO����� y3�]����b�SR5r��I��\��g垿 q������0�vL�ٲ�;Q?�@��Y�C��j���O��}�AqY�vu~[�����~#���uH׃��*����Y�/f�� �u���s����.�g5n�Xe��ѿ�P���wz�s�T��>��o����F�=�M >���U2ZսZ7*:���|^���VX ��1�1��5����9z�:O�@���q&bP���΄�b/b�G݈�P�&��0Y��L���F�l��^�S?��X&��F��{ W5Z�H�~0:m�X�H�ss$�����(B�X��s�����ࠈ�_���R&�pt qSe�ˌ!��F�'�3XN�������"�l�'���pb�8qޡ�pg-�Dd�oP���ɜ<��g�9�|�KyFn+y.�~��<&���rW�K!7���f���r����� ��6�K�$w��E �/f����X�׫�hܤ/ ���ΰ���@�~�.>_yvl<ߴ.��}���r�=�39>��I �b����,�7’޼����<��%�/O׮��H�*.�: <�s�*/t�;r���,��e[�q�=�D}A��]�),� J�g�s�� �n��n}�t�Ϙ��\8>5��}��4>d�/|�pt�p��{��pH�I �ڡG��X�^����v~���\�x��X�kA��l[�&�$)���A�CC�'/R�K� J��&i�԰AZ��/"x�����x�Ps�\����Ĭo>6�@�n �������7�7�ͦ�9���E�+�pn#-e��{�(0����"���������A �3,�HOR(�{ N�+8g� ���Mç�_��6�����/b�S���������~��#1�f�2��XA.谛0�Y���&��?O��c��q ��lj_�@/��i!�u���/���Pƌ|�c\�(�ء:�{�&�{�@� �s:��F %�#K'ߦsP ?�ѹ�N�E��ڟ_�����G��&��߻� �%|��� �,��I����Z�~|���DfQ��+��>f��N�l�J�pAr�浆� �Gt����V&W���l�T�H�Et1�i���Es�����r��#9�I���&߿Zx~��&Ϝ\��ܣ�@�0ͳ�²��ԫfʕU�WT��؋-���%�\��E��-@�@�9l(s%s�C��ț�����k�~���b�x�b�y��5������vw��[��%+UZ�V�bAڋ�I����˒/���<���x��XMLQ�����*��Æ��'�����`�`����B[~�M��&&o^���(1Ѥ&j�����1��PO�֙�v�n[͖�`M��}of߼�}3������;j?B�Rp��1dn�J�"}.�L&iJAN(��'rb�7Q��!�/ �B�SM/�=XR׳sO¦�]���vS>����O�����⣩�맵���/��+zcap����MR��\�߇� �=�&p^8��}ڧh�>;��E��c��?����4���}���w�`����!�F����q r)�|-��I�0 30����<b��[Y�� N]��]��h��b;)������T蝞Jsj���.�2�r� d7�O����@��j�� ׫ѯ����R�x���n��d��'dwTS��yR0*>�ѧ�w��O+���~nt��$����ܫM���",Cw~�A�@Xi7�J ���~N�6�������hd~��N��j��S}�����xP:P:��W����1������a�]/��uD� � f2��e^���g'��mWZWG������� V����:����o���=�lq:��h\b4�q�2������)�[�Q��)�����w��pt��~�3� ��m���}&3�|:`2����,`9���y� g�N����=��)+l�X��x$7�dQ�vt�o��=u� �+�tf(��M�c%��ES�K>���XM|L��x��W7y��Z���z'�ze����w&�K�`%��{]��AqJ^V�7$xm��_��zH���o�P�w�c���d��.���&��Z]Sd�������9-@�q>8�I��8�L���l@u�O��W�VQ�Ty_��܏_�ѫK�T�Z�z��� k<0j}��~�ET�3Vhq9��&"_���[��c?���t4�w�zk>M�[��6ءlx��X]h\E>3��ݛM�'�M��zɃ&! �%hE� m�f���Mv��4�[�}PpS->���o�A�6Dh!BPh����Z�}���X����������n�����7s��̜3s��K���{n�z ��~hu�1dn�@����u���=�U�/rm��أ����_ L��> P�X J�� 8�yѩy��J���n����s��l�7� ���_sʮ�6�����g�>���u�@�ٰm2��f��)�(X����g�,�1g��A�tZg��C�i�������OBF��;u���5���?[Tۚ7ҷ��'@-�T�����&`�A3?�y��:0��{������u�>üJnM��;i7����T��P�S}v濁܆@nG�@���0P �USc@g@Pm8�܃|�W�R?����S�\��l��h.E��b�-�`���!mؚ�7x�"�E����# 0�Y���H��<���σ�+I=q�r%��������� �B����[��QD����wD2�Œ�V�Km��b���u�`"��q��j�o�ܳr�il}#w�A� ���f���S���Q:���j�[����hB�FX��k����M�P�=���"*W���lb��,TƒLN$J�x�,��2���Jt��Lَ�?�V'���S��8Ԕ䧲T�8���ٙ|^�=�7F����BYm�Qm�I_�+���F~/+{f�a�z #����?l�k➴{D�]�*α��Tv��;͏v+�~W8�܏�z�O<�M���y2�M��[�>����x�z�/%�h|�����w!'�V<���U1�J�d���>0?������p��漋p����l|1��<얇 m�Sq r9n�df�� ��c���8�'��x���X�$�g����.7�(׵��17�v��_�~��C6� ����p�_ow�Ɩ��z �M$ g}x��W�kA��lZ�&�$���E��Њؓ"V<���R/�-$iuWC���s�Q�W/��!^�B���'Ŭ���.iPلB��[3o~�7���{�۟�;O^�|F.�B�Ob���XT�d��ik��/M��GO�'Ks��Ǿa��xp0�*��Qo�q ��q�4c���N���̿��/�A} 2D#��:v��3���[��c+h#̢�R�ˎ`sF�t��X���2�s��\��O| C���0�ř#ze� ���l�%>�*�C�hcY��b��YS���N��@r~?'�����{N���,I�R,i3���N�x��fJG�;�X��Ç��j�E6���[+�"�X+Y�ju�[]�� .=.��ƞV�B�#������xJ��� $�ս�Iւ(,5R� ];Cæ-�K�j$r\;=8���gO︼}�T��˘4����� ��9��~�F3XᆶWB!SX��\'_�9�˕b�^|�����Qd�ܩs�e:����z���D���i%�X���:�#]~m���<^ij�y�H?���b!�u��xax��n�{��ra�Xu:������4ۼ��g����������R�n�]�T g%t/����?xk�J���j�%�E�@dl��x��X�kQ�y���� %����!XDE#xh,m/�DI�M�Zr��\�/*x����AD=�9����Cob��{oÒ��@I�_޼��y��c7��������0�3`A��1� �8dƺ�^��,�^�����~b�0�� !5j��5� ����������\�A�����ϵAl� ����k;W���Q�K�!\� ��݇ ��?F�W�y:�Ȏ�p+��$����>?{�De� s�9z�Eh@V��cҜ?@?��5�>7����à�4��F���2�A��@��n��JI���oO�]�{�?L��~�q�؜�8�;=�g��#f�6m���kЫ�i�oR�����h��ɻ%�&b�U�|��4}�� $��y����Yi�R��iQ�r���/JA"��I3��x ������y�1 m�^I�u��5�0[h�[K�����B�8YWZ#��j�!��U9�T 5��tgu�H�ɬ:�4�8a��:m��嵻{����՗{O+���m��� �.�+�b�-?�5��B��,Vy�67�1h�օ��.���/q�����_@� �m�}�ݏe̖o,; �fS�~�坜�d��懍�t/d��Rh����/�����S/���� ��%"8�� ��9x��W=oA}��|��m!d�'�T! �� Q`PH ��� ;;XWPEJ��B�T4�D�'$����q����ɱ:GQ��4����ُ�����T�~򢺃!��A�19�FL&�����QI���q��)<�E�qhX�*]x�G���C�q ��|�1aF��u���Q�� �/��|�3D?�:(�uכ}��-MH�&� ܃?�S���Fݿ�tRy����������C��ܗe���t��5���W�-�CMk3����� .j���;������@�l��N����q������MLCb���U �KhB�{�<�9D�T^o�9K(0� �v�ё�i=y#����􆤏=�ٱ�M�^�I�8� G�UX�U����M�lS�����j����̽��1+�������z���9����?��qr�4W�~ǫ�=oa�Yo���o� &{ �d�߉ �&��#��X_?ܟ>���T�e�dO�Tt�3�ꗖ���"�ʻ�D�Y��]^�n�1gn��߄�ʥ��k�6���w�]�]ۣ+3h�I9���/\�Zj�x��WOkA�&��&�t�RJK�z�X ��*x0�6/RXjq��Mj؃ U�G�� �U�x�Ń���x�/V����ِ�*�R(����}�f���{o��4�}��d�#��4H�4���ƍ@���(�X$��� ?�½�D{�9�驂3P��*��8 }[�|�9a�qI�����n^7�ϵ�� Q���[�6�8�?�}�ߒZ&`T�M�c�һ��^�p�Z/�qM� Ҫ��IU=ɝ06=Ӵ���4�$�,��R�;��ȩ���}�A�*U��J�^4�}�b5.�]&Z�w#~�m,x��X�oG3�N�ډ�ni� %��( 8P�J�z��d%8� ��0�� �4uQ�� �C+�_�����@ �$�q� �q@���ff��` � U����y3������ݶ�w�U�-hP*7A�o�!s���\�\.Ӕ�\^�eE��K�{+��hl�9`�d�z �ե��V�� :��rA�^�KM���RƟz�#;Ĝ\��-1��x�QO�n�s ����ݶGpV���"����=�?㸏8Y������� :k��j�����OA��/8�V����O}�pH���F�n/ ��Bn��+�����I��Ocd�$�1PV����}n�aA%?L�)i9�w��~Q �\����9�AnFnA����6����&�z��@� �ܡ�v��J=�r�S��ʍ��y��'��-��Ƙ� �9� �(�0�1����l���3[���u#��N���`�\?Nl…Qdy9�k�iؔY0��B[�ښy�m��M�r���=7w���7�?�G��v�h 3I��S�u�Uj�M�ɷ�E�ф���j.��E�}:A��!��E�d&��hy7��o��X����a焕�r~�QN��RԾ�2i;΋�^�F�8�N�>_q(I�?E��9��3#�L�Ɖ �闋 SdY���M&�G��m��Gy? I,�Ͻ�~w��\�>�g��.���$6+?&��ީ��e� ?V:�ʙ�Ԕ9hg���sH?\�9�?��ɻ�j�ċ��?��9'��yϷ��������N�o��L�R�7R)?��w���[l�կo�B�/o��[*� �M��ߋGB��3��o�仸�W/���:+�����r����XM���[��q��.�EL��Px6J�6jOfOgN�ı]\�0g�:�6V�Xl!�ױ���X�r�Z��4��ɯp�����E6�������� �� ���9'��9���*S�X|4X���%x�R 1|�� Uw��=�c_z�����;��K���m�}��❛=o3{�́��a'mgE�tA�6X�qy"����.Gz*���x��X�kQ�y���� %����!XDE#xh,m/�D�GӤ�<)�Z�/"x����A=�9����Cob֙�ކ%E�-����0�y_3����nzۉ�'/��a����� � �8b�����E�+�!��! Р_$�N� t�S�q���W��=}���"��Qc������6�-]!�z��wmﺜy����b�1��P�RP��A`��LjR��H��2�q�֟$�\���gO��bxa�?OO�-ȩ�L��G�g{��������Z�tt��8��CV�H�_�8�S(��]_Q)Ƀ�����i� }`?�G�q��1����~�������ۦ ���C����6���6�k�:Z�ژ�_k !F\ ���\�A�w��@�:����Y�����eO� ��UT}Q ��,N���`ݤ���$����Mͣ�Q���H��Ǩ�<����b���Y�t6�t���Ɇ�_��J-Y(�ɅF�X�{�v�։t�̩�͠��S�n��V;Z^��?y��_���[���z[�P�Һ�*6��3YG!N,vZ�R��lsök]�z�A�B� �2�0���2�e�{z�cs�[+�V�v[�y�彜������͟t/�e��ZlWuu_n'; �g^6�a���K"Dp�9H�l�x��klE�g�.i|q�M�!a��J�6J�/�� %$�8��J8�,��8q�FF D��?(�B���ͫOp�R D� �,��*~ !6�{s����s�e��s������8S_՜߶��;(��A�\��g �ۆ�������x����eN�ߨ��݉y�n� I��!�ЋLA��(�W��S�ٞ���zn����-s9�l��8���uCd���u�M�<7��)&�a�X�=`��m%pV��o@��r;�� Dq�q��^���6��U��0�n�/F��� �b���;��-�D�M/�f��7P+Q�� Q�P�A��g�uF��K@�eϟ�m�מQ.ٿ��������f��"[n�oE�x�]�n!���c��̖ҳJU����P'2&X^ �tg�L�bi 5�ףO�2N����h���L^��e�?�p���3"(�|]�9�0���D�n�yh5���й`l��Jf��-ƘֶX�.����a7*;X-�J����������nU�.C�+�ۊ��������l?†ˬ��W�J5�ֈ�k1�+����Z�O4�!e��d�©™=�K�Y+S3�D�h�T#�m���(�L�1eOԈ����\Π�� ���w�Ke�ʜ�vVw�G؝��?�:5��Uq��2��<�3��d����u����|�icU��oT?���R��{�ݤ�Gxa�Ur_���/Vԯ�Mƹ+�k�������80�6h�ro�t�]瓷��(�!�H� �(�{�fxJ:�� �P<'\^:��wڊR�n�&�D��D�\^3��*��Q�_��RɁd,84~�X���%����}�mvW8��?MǓ�򼱍�6����E�LS�A�f͚���R��-��e�1�0tƘ$���F��xK�G��+Pc�[PM��L�����?~D�'�F�j��?��!���?m�!���X�7Ȗ��m�jkJ���������-/�����/_&�B|��q�u����7�o�&� �C�I'�"�&�!�%�#�' �K|��>��ă�C���#ģ�cď��� �'���ē�S�O�����?'~A��8���72qCx��XMhTW>���d��8�Q��ב���� KB�j]$�Lݹ0�Gf2�y֎蠔�V�hw]�h��V�'(��TQT�B"j�(t��Ϲ���1�(Jʜ����s��߽/ׯ͟��X�(�����B��>��;��J�M �2�*4������ ��\�+���� �������3���[v��?߽��B�O}iH����pFks�{~�,Ų������}l��e�_��֧�q)]s}� ��$�@����Ex~���?5��*�X���'Ӻ�@�{ ���s�>h�O�9L�/�J�K�X��Pmg�4���$C& ��� �?ɂ!�}�)���=}�+*�Y�?��?~}R��o���;�wJ�ƺ��F�`�w�����?`>PX*���+*y��C�B�P��݀�S[��#�~�h;��;y�ި�m�1C��9��K�wb���[�u�uq#&�oǎf,����3/��]�ei�#�wl�+�F�|Z�E��]����|����.ӹ��F��zk �a$}�/�\�s��^������HQ.�;5�˃5Р�� �`�!L � �1H& �}���s�x�<�o��\���ULͽ�Rk��h����J�'&�9���&���{up���γX��';75��՜L��.~4c4tw�����E�'�� {��^�X���a�1/�y�ϰh؋C^� ARo{�›���ۚ�w���tZ�I���:���$&_�.������Ʋy4E����rg�4�¾��z��3X��>j�̖lZZ�7YF�-����,��h9����"7����1*�����W.�_��1�y<�����>�N���$po�Ju�ȯPOg�z��^nD�Β �ZgE�u�q:�<��wo /�v��7���D����V��٤v������n���&vT�D��Qh�h�eDۤ��M4~T�'䖟���l�p��6�s��tӓ�mZ>}� ����_����'�x��XMhSA�ݗ��5��Z��JQ�R��A��Z<�J#ބ�%�HҤm���K��M ���`E������7Q�����ԟƙ�}�%ښ�-�y_��fvg�����ۗᡂ���~� � &�nȱ�1�@>�C�M&�Is�d�E3�F�����X6��P����!E;���̟T���� �����\�l��E�7��?_�ߜ��:@0k��c�`��b��(c)h��j�]��Vw�z'P�_�-� �X������v���Q��׌!z^��~�(� �����. �4�r����1!� ��6<�4��@;¨R��T)�ܤd�8-�� V��rSr��q�S�TyN����J҇T/�F,3�|㐌���1|�եo\���L>�����$j%RUZ�w�5)%/��W��-�#ݱQ���zi��;��R���Ps[�=��7�;**�7ÃO{FE5��3jZ���h�X��T쀯;ﶦ��t�y��W��-� _r���zq�.o(�Ƙ����A��w6` `k����=�-��70r��NJ���Yo�� ��/m��i�9K���\���o������E����O��ݻ@[���\�j墻7�Y{��0%c,;�)����O<�fT~9ѱ18!����ޮ��6�u'&��E�/�w-��Gػ�t���*a��t��)�u�7�2��h���2� �W��������m�">�R�|���Z��`o�t>&l� �!v9���%"MѰ��W��N��`�xJ�����/;�� �)�t5�~�;_�O�⫛q^�K��� =tZX��-�L��)����~��acv1��xKp`!���Mm���?~����w�������Ł_=���Wx��X�OSA�݇���R*!I|b � A8y�H� �ޥ�K�m�4!� �&z0&~p�D F"�D$�*�p��^��:���y4[CBj�k�7�;���;;��o�?�zT�Y8��v(��1$n n��-�N��ICJ�PT�����E��o�Q�%�/D��dv*������3&��^�(��^������S��+�B,��V]öt���KF5e�L�18!�� t�P���j�Q?z�}��>�*�J^�2�>�R�}�]�3�B�a�}��|���u9_�N����u�f- ��\������ׇ7?qh��Q��g�/�ZF�����(f�f��@������oʱ���R=�@|��/J(^�g�T,��x��`�3N} �%F�� z)R���d_��\ �Sm�����.�sy�k.��zU�(��[@����]�G:N��'._L�`9�1�����}�ɹk8�w6�"�u�:�ԼɄ>�3��Ԥ�x��Ƿ��?G2Z���ڒs2a�M��ڜ4t"iʇt�}����f�;��~� W�WlR�)�~�(n]_,0���~�\~�7�˹��b��3�|֚�z���7lM�ו�v�����h��K��!�3�ퟴ����طee��ϕ�ܑ��I�"�{�g��CO(~�獾d<�١�t������l�s�����s b>��t�Y����'8�ƣC c���F{K��~ue��x�:�3��c��ū)��÷��9l[� �~�Ŭ�ݱ:-� ^cL�uV�A�4��C�!���Hq��"E�Ow��[89� >Ъ8P��^�Ok��v�V��9��r�Y�%TB��7����5%6x��} �Tŕ�?��NO3�=0�Oh`D42�� Jv�� du���3��!��QQp|/!1�1!B�n�~�fV$�~�����ɮ&����)1F�/٤C�o�~�T��}��֝��=p���:uNU�Su��ު�ګ���#�+��tm��2�\����Q:���4���>\0���_7��j��p#ls�BI���6�>X�5�y}��6�ƚ��D1��? `$=ɴCT�^�4�Øu]K�V�;�|�}Y���P~����;`=�� X�Y�P,���tX��x֖>�= ,�c�r�0��2D,�J��a�� H'FX�5�D�8q �g�"��!�G��X�x���b '!^�x)�g/C��X�x�EW��ĩ���#6Z�30��Ję@�/o3�-���B�<�lī�+�� ~>����l� ��)j�� >��-�C��/�ͅ�~��,̃�>q>�/@\�x=�"�ňK,�������&ě�Z�`x+�r�V��+W!��F�bb;�+�:�u"v!�G܀�qb�E�í�_F������݊���!��|va�U��ua6#�$�dad?���i$�`͑�� �{���,O�K7�����L��G6�Ʃ��?$�Yro�i�G�M��ٌk�L�����S�&+?a��Z��B,a�(���C5�?���7!��ԃ�Z�� �|1�h���"(����!�؍��׵��ص�kuw|����+���6�����i�u��~v�J֟�u�l�Hvv�5��Olp蛉�j� �'+�� ��u֟ SkTݤ��Ji�o�2�l��Bj~��JK�8He��2���F=����Su��XF�=��A%��eg� ig"�D^��� �%��H�G���%�p���?���nT��L��e�=م>��A��� ����i�|��������>�s�W�k|nHe����־���)�,{x� ߫*g|��_(��|��|��|��J���ߵ�� ڢ����W���)|nO�4���4����#��'��<|=�("�� |n�>"�W>�ݱ��5�Z��cN(�=�L��k���u�� _?�Q��˕�u�ʻ�dn�ܶ��@��n~�Ǝ�u��M���F��1����E+^����k�z�+�o�>���>���>���>�0��G���e8�M-z��Ŀ É����+֬X�aᆅ�ius8��o� �#.���뵀G��w��0���ba��a4���b�o} P($��������13'1���nadH��� �:� ~/���X�m��g(�Z�� �U�D��<'˗_�(�O��|���0<^����������8�u��~�r����K���r�?Q�Iak�j��_� ���V?$����_��t�2sb$���)�!|5I�������+@�ɡ�N��~�r7}t�e1�i�g�zvk'D�`gc�e徭� (���?�t��Y��E�~�җz���>��Kv�u�2nL�����i,J�l]�Θu�"Ø�ܸٝ�k]k7�$�(H4M�`���&�X�y}r��M�U񫺺6u�w~�H�1����H�tg|�sSAڦD�tƵ1A�Ӧ�@�Ɏ��E��Y&��0����h��~��y�p�7�R�f��%��k{��~ğ >�x�����9Է���|yӊ���90������0�����I�`� �#ނ؊�]��1��~>nU�ظ@��_ �(ʆ���x,�ݗ�V��-�9��4��ȭ��=9��4��ȍ(�����c�� ���#�� |�Q�f�.�#6!����J�\#G�s?XK/�`x�2�V���}�|�:�&cgG�B����汥�; U�y����v��u8x����[~[��[�G�ʰc��i�� M[;���+#��Wӟ��hv�����F��4&��iǂ��)�i렕D�dA�U���k�U���4aݑh�JKs<�OS���: ��'tEir��7#����7������� ~�?o�?h��;�n���� ��7�/9g��[�ue@����h<�,���Q�����?=�����s�/X:p��c�����?����a`����� �p5�x�i�9m���TH5������o�9�_�����) U�b=)�ؾ�������g�'���E���}����Zx�~��w�Q� jD�j4_d�K'���A��8�cZ�0�Q>V�ݙ�{��Z��G�Ԣ!��k稰p���Q��y��1�L��0��0_B-̂��`�߂��C��{p��v�p�b:�����?�`��ҡs���m�f��f���t������*�k�©�!:�,�C�����ve�;X �m9JLf����mf۽7��eW�u,;�[vB*,ǖ��-GX)�Al�O}��8]+0~�Ù:��O��5�}�� 7:���]�s\�9jt��qDg�3�zw"~�o�G� �O�E|�^~���h���;Zd�q3{�����j] �}bxP�>8"|A�=;���w�{�>#ڟ�9����F7�s�`��׭t-%x��� ��(~^5/�ҕ�+�ڣ�9p.�͵/���y[ٳL����j��� �m��Gt�t"��#�/"{��rG���>�&��&��H�m5������KUr�!ep�1�2����y��o�蹽`ՈE��F�-T-|�K�E��Qy't�V�K�ڧ��k�*��vM� ��m����P5}�Wh��^��P,`���Β܄��1܊�"v�k+;9���(�bՀa%��9=T�m�f��s?�Nd�˃�JPT�,؈�[Y�+����5U ����b�)D)�<�^6�Y��M�_R.����UͿ�mc�_]�����f)i��~=�ZT��U4���dD��0 ��%p��p%��2�*����%�ժ��xM|L|b|�x%�&�D Q�(O ID���Ĉ��V�F�,NW�G�G�Ǧ?�nI/M/Kߒ>~�O`��Mh;�:>:n&B�p�"M��&������_�3�\�ƾ�������N;�k�i�t��a �����;+�����opI*�g��w`��b�g�|�t.�ӎ�N�;܊:؆ؚs]��-0�w���=ָ-��) ���j��*�v��PմoQ��M�����-�z�U���E��4����e�ˎ���5/�29Gr�U��՟��~9.�r�8��(�{���>���>����.��haN,�ӽX ��������-�h7U�Z�X˾RL�6�%����vUm���j���_j�Z�~���VTu��m������"���+A���3��KͰ ����b�9�d����gml����磰�1�*������5����bm�*� �Jy ��+pQ�b��Pl�qx �7A9¢\_n�o�C�P�N��X��O�� �|��*�T�����7�r~���y����L!ߧ��?'����>��q�Z��Ҩ�5���Tͺz��mD'���(6:�+=���d�^���^�N j��YΓQsOt������l�A֣���`�C^���[ B�ڐ�� z7�$;BB�ڐ(�i� �![�!!��Jo%��%:[)��[)J�EZ�A�N��#��(�H��k�B�|��2�ZT��!C�qr:c�,d�k6�zP�y�uz�g�?��͖`��:)M  >� ��r�UP�1��t������e�c�Y\�zrF��0�š�鷻�>�����*��"�8��L�(���=�-����z���3����L� ��2�8��җ�Q�.ιyg��87{��v�N�.ř�e{�X��{7�ͽ<�(�0���8S�OU�)n�w�[���s�›A�)Δ��b֪T�I��,bV'�Ⲝ��6K���L�Zb:�>�dD�YR�cL� ��e�ig�i��!��\��Ř ��ğ�ܓ&b��,�M����@SB�.;���F�s��-��^?‘ˏ���<>|}��?SMq���#k�󔣷�m�K.�/Ž��}�ۑ!Y�w"�}t�U)β��D(����ٛ�˶:7� J��l_�ޭ���>���һqNz�L�o�)k���{�繗�}I���-1emQz�Sx�em_�g�}�/�="Q�뽬�[b�۾��I��̴�may�C������{!C�p���(� y=�2dmQ ��ğ���#J!������Y1;g��s�a(����l��K�F����Ѩ� G��NX,nM�Y �����8�Z�p$�N�>�go0����(�~x��Yz���K+�^8K�ƹ�g���²�(���{Y ��3Y�maY H��{�{Y ��3Y@��~�(K�Y��^�n {���J���L���6�����{!���WR;cL;� o��^I�12���z%�4�po���f�)�ˇ��>�Kv����R�9z�ˇ.��vj2� �h��f�I�l�e9��hc�?v�1�nG���æ��\;j��;� ;]}cCA�5u���{�i�v���Uv����"������7�*���J��v�uB7��H�Gξ����F���q��v�m�m0��fy�_���;K𚄥��жHY�_�?Q!�Yro�i�G���ɟ͸��$!�/�����l���X�%_�%�=� �O����{���_E<}�!.��.d��;��O�����:,テ�j\C[� ��������[L���V������fsG����Olp蛉�j� 1VQ�O-�~R��������eR�`�)�x�e� ����3yT"A���K� Q!�LD�ȋ�?�C�D\���B2J�V���7�ԍ���� ��샿'���L��M�tP�r���z�v���}D�?�`��&v7;�m�o�܃ˏr�8S���6���h͜�b[�{U�`9�)���>���>���>���������{�m�ǿ�����+���$�J+�����4��Z#���灯~$�����?[� �2��jZS�U,� ?�s��=��Q�:�B��ܨ����Jn��yM2�nn��Z �I7�kcm�(�n�uM� ��?ZQ���E�G`��}=c��q��>���>���>���> .���C�ayNmS���?�/�,�b͊5nX��V7�����]�0��� �t��Z�#��;�t�B�u�0f�0Z�g׿o} P($�1� ���� f�$��,��nadH�� �:����˄��A�m�p�P�����+�c�<��P,_"|��0?�� ����� ���6��3$�� �q��吿�H9��^ߥ��{g9� ��(Ϥ0_�Z�凧h�G� }�h_�r���p'E�*���`$��C����I⾿�U r�/�����l+�WnএN�,]V}�W��g�v"@��p6֑^�Z8��� N[�mO�"V�|EQ�_�����*�3:��~�!�)4�y�Ƭ�F�9E?E��G��|ð� 6`|Ͻ�7�|7�a�운���D�o%4��?��h�\����e��� ��M��1�=� p�7 �y�/ElFlA\b�[��c���'�O 4�?��x�_�����{��i��W�����@ r0S��lx�Dzs���܊R 7�e�F����@n���΍�Ks+J�� �5O~��}�y{A�=�cq��� �&����*ysM?�p��t�ɧ�{�O���U�-Y.꯵V��*҄uG�+-��X>M1�;�,��p�uP����ߌ����ܠs[�;��O������������D��e��+��~����� �����'����h<�����^��F��{��̟B|�z��!�`��a�� N�����K�Ї�Av�^�g3|?���ⱦ�9����Ru �lX��k�� ���u:��nR�,T���G0��#�����x� ��j/���a�b���޽�_y����j�b��CN�A|��N�� �q �Ǵ�a8�|*�\�3��rk�Z}-�5�ECV��Qa�< n����cN��9G77a؍a��Z�'�?�0��͇�������@� �[��>�a�J���#w���0X��F3+�OU��8��S�CB��Ǔ#���w���r��!��{�����f��{@#��Xˎ薝� ˱%gk��V `g��S�>�����g�(� >}�Oք���yt��R��`3�KoF\�؎������_������"�|/?��u4Sc�-�븙�~��^o���>1<(i� Ҟ���x�{�>#ڟ�9����F7�s�`��׭t-%x��� ��(~^5/�ҕ�+�ڣ�9p.�͵/���y[ٳL����j�\!�a�����DRM�{0E��TS�3�t���#�����4���������"�AQ0S�H�c-�`��$�{Y*Z�P*�X:�,��X���ى���� φ�-d�w+S�t��CG��%�t�q3�a���ۊ!����ѹ�N;>+�np+�`bk�u!�9�e�4Е�ch=��a U;cb�jڷ(�tm�y$gX�^m���\�M�����-�z�U���E��4���dze4�5��o9�z����/Q���W|��|��|��S�5-܉p��E�f,�x�R���TEk�cY,�ZH1��������U�8��)�la��Ԩ��� Qݭ�����6u';)�Ev3�W���;g�˗�a,���R����|@o��6��a}E��QXΘs ���������Rȇ�+pQ�b�#�kԭN�Q���{��r���Il�| �|[݂����!�7T�"����`��5S����Z�ǹ=��ӭN�S��M�{�ţț��8��Ef ކT�����^ļ�����M������a�鴠���z����ߖ��k�o�_rYv�D(��56��#'B���D�i��x�R�em߉P��sɳ7ۗmun�A�B3�پ,�[?�}R���w����l�S������s/k��8��[b��>��ާ���ھ��d�P_${D�,�[�{Y۷Ĕ�}1�k��-*�iQ���/�6#)��1��B�| �2dmQ �z�e��>�2䵉?Y�G�B�����7�bv��-�$�P�٭���{���F�c�QY �8- ��Xܚ�#�0ɟ�5&Jq����H��6}F)��,`���Q ��f��n���VJ�p�ލs��d��e- Qzo�<����g���²�(��,<����g���/��"Q�뽬��6��nQ���7�m��+��1��B���_��vƘv �f��:c:$dx���J>i�!,�ި���"SB�] �}���h'{U��s�̗]�����[�;f��=��g�6[jYN9;��m���Q�>|�)a-׎��"9� ;]}c�Y�fM�ngǞaZ��-"yA�������dw;\aQ�3Rͱ�Oe�(�0u��Q����`.l���f�������aoV:K��#z�I�Rd��8�y�LVzoT�J��>��^�J�y�LVzoT�J��ޏ�^�J�y�LV�E��&���jq����{�ެt�t��˴��1y+Moܲ�n�?_�P��[�H�]���.Y�ՙ�z��I� 1փx���/W�y���������������?.���%��4�ּH[n�Zۑ)���u�d�c=�w��d{��1��)���EZ�AW�X}.?,]�,�g��iWZ�O�o�ssg�̹ PKs�}�>�}���{�����|�kc~ x?hp�,���7�BQ��(�gMӤ�4�M�5���_/��F��p+��T��P �d{x,��}��vx�S�{�E%��G�Y��ՓL;����#��r��o�,u�h�>@�/+���D�� X��׍������_Jy(���3��;k�:k]� �A,b2J,bS�X�N+�t�ʊ��p �X�q��' ^�G�E��8 ��J3��� NE|��W N�h�c��?�����Dl���p6��k�Z�ȶ�ClD��x=� ]�\i?����u1Å���{nm���Axo�������gZ�_�[��R@6`�l�R�^��q�J�f�U͇0���5��"ކx�'�F\�H��q=�D҂6Ļ�;�41܄؉؅؍�q �V���>�m���A���+~�E�����@}����ȥ53���C5��� ���U�s'z��mu7�+8�u�VmF=X�,�7(C ��N+��oEͿ�������4�˜ȯF�]ͯ�sIj'�D���6��N62t�uW^SP�iEsZY�����,����A� �|�~���9>d[_+�뜻ќ}I����=�m��emm�[�7wo�����e˂%�tC�z�Ot]�7}��]����Ԝ�8t��������ضR0Mј��#���w��Xb*嘮�U����j��Fm遧�p��{��j��"N�9ʇ���B�!+�K#� ��MГ��h1Jf�]P�_���>.���_�y� �� ����ցk��#i>B��w����:p7����f�s�׋���\ ���!������c] �W�������*Œ/X���>���>���>���>���\��|�ɷ���=���p��Яh�߮�=��z�R�z��㇁���|�~����G |m�:"=W~��c]�{ u ƜP�s� ּP�� ��p����*����w�5�����ג%�I��{kg�&�t3�k�>κ7���v=���Ͻ��b���gTY�#V�>���>���>������� �em.m�W~���� …�A�����^w���[�g�ՍJ�U�5 Ãyd�fI�k����Y�a ��na��a�i.��)���B�m�Y��,���-x ��-�|�p�����NT�{��ހ�] Ў ���M�k��[�N����[�DxmQv~"�@���pykcF��� �a>�� �|��+��;?q�,�HA����)~��7��:�oOY���W�?�a[��aoQ:�Ɨ1���H�� _�~H}I��{{��|�O�z��Ex}�T���|�D����0��Z� j�x����Ӗ}���hW�Z�;�2v�қz�I�>� ����wo-]Լ*t�o\ -��mݺ�{SKoGwW�����̜J�ϘՐ���6�n���Ӻ!~}wwOoG�]Hr��9WɌ���ꮞ�DsW6ѕ s�OkgǴlt �3���f6�B������Bh�����e�q�z�� W �DlG܆�q��' >O������I���.�����/��=E�T��9�P��.hJ��&V މ؂�H�GUN +�d�� �.`�����8��2K�h/���7i1 \c�o��)���� *딪:eQ{�x�&��aΎ�����A7���gͯԼ1�?8>c!�<�1I��d�V� pR)?N30�X]C��N㟊��*߫�Ϙ�432�M��~;>����APȄ]j���X�@�S*Eʹ�)wm�v��b��JK�6��l��_�J�3n-��E �����|�e��dk�n. x�ofW�߮���>�w[����������>��g��.���T��wk�>��;��T���_�����g�_� f왭�\��5�7uF���f�_�_;h�&"N�s0P�x� �H�����Zd���"�]jʰ����7�܉|���R��7M�HR�TX���V�-�V�ͨñ^�:X�T����I�/T���j�\X�w-ԍ {1̔P��-�) #�[~y��G7^���ۚɥ \�1�0LQ���6fO����Ê�MVfOU��8l�S� ��*�C���U+�w�>wo�'��/R�i눨V�?��ћ��k>Tָ�[�Tƞ��-Y)�K������8]+0q��ut0���mI��/L�|s�3��E?�;H��!�54�>h��}���}�$�tc1��� �� S׏�kg�DFL�xU����rNs�R���y��#�X8��'�6� 0�9�\q�7f��y�t#� <�-������.�sq��R7�FI���~���,�Η�Z�$T�/���`�GƔz��c�+]F�� �⨧�`�ͧ���q�3�r�t�%��I�ꆸ��q�3�9�Er�+u�v��u./{��tNy�.�쾄���iN � lť�����VX�O�����J��l(.ʆg3��a�T��bC�o� oR�ss����o��P�?��o "�N����Oa� ;��@�B���րE=�T�;�"mo��0}4�m�d������n��0٥ú� �C��i�r��\b��ErQ��[:rGn��5��� �^�'���@�2�ʅ�����[9�x����@�����ڑ��� �S�q3k��0z�B�P�PFw��l,AS�e�a�S[�P�p�%Babج��Z��Ϩ����l#b7f���j� ��k�*��vM���=�%5�����W��c��U��|��`�R �c���tkaYm@>*����j d%��s?�i�{1�:LI~gMf��A]%p�>U�%Q�k�{�]��AS�l���k]�(�k7�|���.� :�i��n|X�_|r�37��f)�K�G'n������>X�_ ;H9��T������QT�o������xM|||r���JBMh�@� N%J���DUB1U3d���c�5/1�3���;�;͓���� �üW��ōDa"�(ND�De���]k�f�����se������ө��0��=�I G��M�Y�� �`!�����f ��<��'.c�wC���_k��i�9~ `��CSӇZl�~o�`�Ψ�cD�6�ڕ��8�Ɨ`��ډB UMk)�� ��%��)� �V�Z�Ҏ*m��z��mt^q\C �?�~��o�_� 9��M}��|��|��F �4��|����L� �����m�hg���y �eo�(���$tQ_�H�)�^�f'>���6��'�]��Nl������`�}s����ƃs��wJID��y�*��g�YH��&���Aκ\��QXΘs{����YxT}L b,=5��C� j��x� ��HYd�O(Pl�q̛ؗ�,�(ח���g#G*�PAV�*�V2y�U��(�ו�U��[M�PA�i�"��R�8y֍Sl�ē����I�5���^P� ϕ�w�/��������V6A�[q>��GD��H;e���G*��H��/�w+��#�D^��6��l��[!�6M�V"A��D�'iMD�Ώ4���ʭ�I�l/�I���|��ԣP#��1��B���sr�c�&d�k�+�6�I��t={{d�n{�v��観�xf�`X-��Qi���� ����5�n �\�,.� �G:稤C̢�~q�6~�/���W�r�����]�����m���|Wƨ��~�$+��n��ڏ(E���@�_�UFG�}n�4ܝs)�N����(��4�ÿ"�t��1]VJ��_<q����7�}Ni�<�(<����g���*ܬr�ܓ��g�S�z�4� S�mRc�&�6��o.Qh��1f9� y��eȵo����!�Ҽ��Z�d��w�������3 �lVö���W\�ac�C���/�m��S��#K5��G���<^�tkX���,Y�g�)FI5�� ��(��e�_5�U��;�aq~����|���7���ڏ(E�yS��z� ' ���ǹ�g��� Y�K���Ͻ��m�����jC��e�^�9��w�!oiN�&��mI������6i�Ԝ�!C^�� Y�K�B�|K󺒵�D)d䷿|si�c�}��O(\���|�YN�·��Ӣ#��Ӣ�Vxj�� ��#w+<�D� O-�X]ِc}5���*(���Z�(E+z��)�|�Ջ��K���<��3Y�Y+L��{Ͻ���������&��}�]sd�����Y���N$u�P��,x@RsbLs� o�������2�͂$[�d+|(�� �g���> n�� ��DY�;��*u����vYP��(>��g�6{ά�+�3���HlysL֖/+O������]V.k˗�g��9F�e��ly������͖����z/���a�>�!�ɖ���r���y�em���d�Eem9Q����#k�E�myڧ!i�J�䱘�-�}�}����'������y�f�1z�;#�CVnu���=� G�!�>c}л ^���XL<�4�ּH;e�Z;�,�|�&;��w��d�˱�x�JiD�y��� ����d��m� �3��.�ך�];OO)����#�.CV.:����+�t�lUGgkO|i�����Ζ.p���># Z3�/V�%�Ǜ��0�����E�t��E.Q>��@�e� Za9leߐ&�?y�F�"e�o��y�L���NIn���yֹ��ސ�����fԃup�g�e�e��{��Q�V�7`��ؗ�]�+-��߁8��_�ȝ�k�p/,B�m,O�K/t�u�mM�����ޜ����'*�;K�-?�GP�%6�4���tgG�$هw#(��Z!��`��|���Mc������w�(sɱ���o�^���񦯳���~6������9gN��c�$�7�9m.�;� ��MГ�\�?����/�׏�~f��_���м`�/�����1�Z��~o>����~�v��B�;HM����|�IB_H;ǙJ����ޱ���$��I+|�" ���|��|��|��|�����=��ߗ�G����/����3c�O�yJI�yZ���B{����/��%����}�� � (�-�=�:��M(��\�� ^��}�� �?�E��k��}�ʻ�dn�k�k��[ڽ��>�sK7Ӻ���{c�|�&�]�����xQ�_��3����gn>���>���>���>�0���/�����^�m�3�:g��ݽ��-˷,�L���=��k���2͒��������گ�˜��8,�*\b�cy���n�N ��ps���D�[>o�� ����5E|wbl�� �0�d1@;&<���~��WĎ��Q�}.�:��K������t�k W�6fD��ΐ�f�㼯q�齂��s���r�?Q�AK��\��Ƌ����=eՋ3_�x�,�w���(J�?�:�˘~��~���3�p��!9s!S��m�A>}t�\��9Ry�����>����Och%7��� b֑9�-�D/_Ѯf��we�=�7�(T!��1|pϧ!rS"���P�߸���.�B!�3��m�;� q/1�P���Eq'ȧ��cZ6:��m�  I�F 8ϣC�����e�q���7q�u.�J�v�|��{�s�����՟��3��O����PP�N�NuOQ&U�өw��,kRa❈-x�4�|4P夰RN���`<�"&I�A�h����/�t���"��~���5�����H���N��xǫi���a!-d� �Ϛ_+�ycRp|�B�?x"c���<}g�'��c�ٱ?c����86�v\������q���ٹҴ��JQ3-u�]�]7�-��Һ��+-�Ƙ�6y�����"]EQ�v�ɲ��v�5r7��7�+ρoW\�nۻ���bk� ���n�o����t[�W�~����}����n�L��/ym���3�^3��Vf.W���� � �0+>����A#4qҞ��:�KqE2جU��"{��;O �R�P�]e?^��C=w"|8ǰ��MS�0�T>�o|��˫�i3�p�נ4U��*,o��� ���:�] u��^ 3%��|x�| �H@��_8��э���Ip=t4���0E�CWۘ=���f��f4iX�=UY^�N�/`I�l�Zپ;��{<�8��J�O,�`��s���j��qC���0�=9U[�R�������q�V`��/&��`F��{�4��á2V6������iB\�����#�!n���>����>D�qH����p�]녩�G ���3S"#��*���s9��ڥ���V�G��p��O�m�`�s�)��o����F�x<[��G�ӗ�]��2� Υn.ލ�,3d���'Y��/#��%H�6_4:�����3��)�����4W��8���QO���Osy��Ng� ����K���j� qy��Ng�sʋ�W��I���\^�����J]䱁֊��V�9�,����wfd�?kXa�?�֣���[!ZX�-Z�#����ٌkp��6����ؐ�a›�E��܄��~����O��ÆH�cm8���S��Î22P�����5`�_�*���NgDmo��0}4�m�d������n��0٥ú� �C����+���>�i�7!�O>r�DojmD$7Q[�?��� �/@�k�� �rQ�����VN�&0+�l�-$�߷hWfC�3@O*N�ͬ%��� �W�PFw��l,Bsك� �w�,lǼ�X%�03l��H���gUT����1�]�W{��T\+U���k��T��GU j=�j��a��/�X,`t0�a=����d~�Z�4 EUBA5���u���4ý�f��s�fMf��A]%p�>լ%Q�k�{�]��AS��������G�|���<�u1U��Mc7v�� �������wBV�,%}-���m�U2~]h�5ְ��C-L�+PѮ�ka�E��|_��Z������'ǯ��$Ԅ�$ �DQ�$Q��HT%S5Cf�1��1�X��:�Ѽݼü��{u|\�H&"��D4KT& �ߵ�m�o�ߏ:WF�`��>��1�{��G��A�I G�oN�Y�� �`!�����f ��<��'.e�wC���_l��i�9~ `����݇Zl���a0mgT�1�vh�J�q�h�K0TT�D!����N����I��^�� �SiG���G���6:�8���pˁ�c?��7ǯ_�{�>���>���>����z�^�kF�bg������Q˶��3Q�׼�Ų�E�m|�Y����V\��z��:�&jm ?OT�U��|oOok' %�� ��GJA��9��ۍ�*|�C���g�YH�3p&���Aκ\��QXΘs{���wT}L��qę��+�% �)�W8��D�"�~B���g*ֹ�G��%�]� HV�*�V2y�U�vz���)��VOq }�U���J���Y�~n ��'o�dͺ{���#�s����gdd���g��+[���$gq"�%�"�A�/��ϴ=t����s�i���8ߕ1깵=�J�m����R����rS��������ͦ��qn���N˝�˞�K�n}'_�eO�l���N˝�˞�K�n�2�i�)�������Fi�lL��j����Y4�����ރ�D|q�����g�@|��� ���7��jCކp�=�(� ������i�D)dd���ч�V�`�j?�����I�r��##9�>Y�g�)FI5�� ��(��e�_5�U��;�aq~����|���7e��Q���6����Yj/N#X�>�6�i�]mȎ�D����ˎ�m8���ڐ�2w�t���w�!?�Ҝ�MZ'ے:�#"?��ڤMRsbLs� y�2d�/Q �-��J��������u̥ŏ)�uL�?�p�B��f9� ߚ� O��� O��Z�%N+L~�ܭ��Y+<�$cteC����o�����kE���� ����W/zNv,E����d�wDd�0Qz�A<��Vx�g��;"�V�(s�Mw͑��;"�VA�:9���CQo��I͉1�2�͂$�7��W��6 �l�!��h~+̟9,.{t�,����l�e���,.���rچ�3��e���3j�=g���usl$��9&k˗���r����.+�����3ly���IJro�<���Q ]�f�S��z���B�0E����d�Eem9Qz�<���|�g�凢���(s�pw͑�凢� �Ӑ�N%u�XLޖ�>|�>_���AJ�{��]�?�~~,&�vRQk^��2��l�M�H���Z��һ ^k���XL�??��"r  p?;�F PuR�TAYJ +��0 Z�\�V�s�vgz~ŀ|���Ê}������=�~��Q�)`FN:%p+�5 92��@4U/_�aSd�fwi l=P�n-qT��D0��˯��H �XL@��2��=�R����O�1�G;�(���� �������Oh��+'��0�T px��� ��    $08� Semi-Supervised Word Alignmentwuhua tcrE_wuhua1wuhua57Microsoft PowerPoint@�V:�C@@@�qG���@�w�*��fG�S�����g  �)�'  �� ������������������� """)))UUUMMMBBB999�|��PP��������������3f��333f3�3�3�3f3fff�f�f�f�3�f���̙���3�f�������f�����333f3�3�3�333333f33�33�33�33f33f3ff3�f3�f3�f3�33�3f�3��3̙3��3�33�3f�3��3��3��33�3f�3��3��3��3f3fff�f�f�f3f33ff3f�3f�3f�3fff3fffff�ff�ff�f3�ff�f��f̙f��f�f3�f��f��f��f�f3�f��f��f�������3������33�f��3���f�3f�f3��f��f��3�3��f�����̙����̙3̙f�f�̙�̙�̙��3��f̙����������3�f�����3�33�f3��3��3��3�f�3f�ff��f��f��f���3��f�����̙������3��f�������������3��f�����������3�f���3�33�f3��3��3��3�f�3f�ff��f��f��f���3��f�����̙������3��f�����������3��f���������fff�f��fff��f�f���!___www�������������������������������������������������4�'A �x���(�xK����������������ʦ """)))UUUMMMBBB999�|�PP���������������3f��3333f3�3�3�ff3fff�f�f���3�f��������3�f̙�����f����3333f3�3�3�3333333f33�33�33�3f3f33ff3f�3f�3f�3�3�33�f3��3��3��3�3�33�f3̙3��3��3�33�f3��3��3��ff3fff�f�f�f3f33f3ff3�f3�f3�ffff3fffff�ff�f�f�3f�ff��f��f��f�f�3f̙f��f��f�f�3f��f���������3�������33�f�3����f�f3�3f�f��f��3���3��f�������������3f�f�̙����������3��f�����������3�f�����3�33�3f�3��3��3��f�f3�ff�f��f��f�̙̙3̙f̙�̙�̙�����3��f�̙����������3��f����������3�f���3�33�3f�3��3��3��f�f3�ff�f��f��f�����3��f�������������3��f�̙��������3��f������ff�f�ff���ff�f���f!�___www���������������������������������������������������m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m���m�����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������⽔�����������������������������������������������������������������������������������������������������������������������������������������㔔㔔�������������������������������������������������������������������������������������������������������������������������������������������������������GG�GG��jG�AG�����������������������������������������������������������������������������������������������������������������������������������������������A�jj��G���jG���������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanh�h��s���� 0����D�[SOalchoRomanh�h��s���� 0���� �DTimes New Romanh�h��s���� 0���0�DWingdingsRomanh�h��s���� 0���@�DHelveticaRomanh�h��s���� 0��� "P�D��fNveticaRomanh�h��s���� 0����1`�DMS MinchoRomanh�h��s���� 0����1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�ԓ�� 0��������p�pp�@ � �G��4BdBd,֓�� 0<�4dddd4��w 0h��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v  !"#$%&'(����*+,-./0123456789:;<=>?@ABCDEFGHIJKLMNOPQRSTUVWXYZ[\]^_`abcdefghijklmnopqrstuvwxyz{|}~��������������������������������������������������������������������������������������������������������������������������������      !"#$%&'(i*+,-./0123456789:;<=>?@ABCDEFGHIJKLMNOPQRS����UVWXYZ[\]^_`abc�������������h����jklmnopqrstuvwxyz{|}~�����Root Entry����������d�O�����)��2 �*����Pictures���������QCurrent User������������/SummaryInformation(����)UPowerPoint Document(������������)?�DocumentSummaryInformation8��������,������������������������ � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanh�h��s���� 0����D�[SOalchoRomanh�h��s���� 0���� �DTimes New Romanh�h��s���� 0���0�DWingdingsRomanh�h��s���� 0���@�DHelveticaRomanh�h��s���� 0��� "P�D��fNveticaRomanh�h��s���� 0����1`�DMS MinchoRomanh�h��s���� 0����1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�ԓ�� 0��������p�pp�@ � �G��4BdBd,֓�� 0<�4dddd4��w 0h��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001). ��P%PP,P PPPP PP%��, �  ���� � $�$�             ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Wo���������T������������������������������������������������������������������������������������������������������������������������������rd Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment All kinds of boosting improve word alignment results Semi-supervised boosting performs the best��0�/1`0��/� � 1�`��s�I�� �� /����4�5�6�7�8�9�= �> ���� �  0��L0� � %  �0���( � �� � � �Z��� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� � � �Z���� ��g�ֳ��g�ֳ������ ?|�����`�� �  � ��H � � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.����N��r��3;�����=O�1�:;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�| ����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������՜.��+,��D��՜.��+,����������� � �� ��  %�����Ļ����ʾtoshiba?�� �  Arial����Times New Roman Wingdings Helvetica���� MS Mincho tcrE_wuhua1 EquationMicrosoft ��ʽ 3.0Microsoft Word �ĵ�8Semi-Supervised Boosting for Statistical Word AlignmentOutlineMachine Learning Methods Semi-Supervised Learning in NLP Boosting �C Supervised LearningBoosting in NLPSemi-Supervised Boosting3Semi-Supervised Boosting Applied to Word Alignment3Semi-Supervised Boosting Applied to Word AlignmentWord Alignment Model"Pseudo Reference Set ConstructionError Rate CalculationRe-Weight the Training DataFinal Ensemble EvaluationEvaluation MetricWord Alignment ResultsWeights in EnsemblesTranslation Results Conclusion �õ�Ƭ 21  ���õ�������ʾ�ĸ����ģ��Ƕ�� OLE ������ �õ�Ƭ����D 4<Version��_�����wuhuawuhua-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001). ��P%PP,P PPPP PP%��, �  ���� � $�$�             ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment Boosting improve word alignment results Semi-supervised boosting performs the best��0�/1S0��/� � 1�S��;K�I�� �� /����4�5�6�7�8�9�= �> ���� �  0��L0� � %  �0���( � �� � � �Z��� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� � � �Z���� ��g�ֳ��g�ֳ������ ?|�����`�� �  � ��H � � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.����N��r!>3cy���=3|O�1�;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanT�T��s�ܖ� 0ܖ��D�[SOalchoRomanT�T��s�ܖ� 0ܖ�� �DTimes New RomanT�T��s�ܖ� 0ܖ�0�DWingdingsRomanT�T��s�ܖ� 0ܖ�@�DHelveticaRomanT�T��s�ܖ� 0ܖ� "P�D��fNveticaRomanT�T��s�ܖ� 0ܖ��1`�DMS MinchoRomanT�T��s�ܖ� 0ܖ��1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�ԓ��� 0��������p�pp�@ � �G��4BdBd,֓��� 0<�4dddd ��w 0T��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001). ��P%PP,P PPPP PP%��, �  ���� � $�$�             ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment Boosting improves word alignment results Semi-supervised boosting performs the best��0�/1T0��/� � 1�T��I�� �� /����4�5�6�7�8�9�= �> ���� �  0��L0� � %  �0���( � �� � � �Z��� ��g�ֳ��g�ֳ������ ?|��`����  �  � �� � � �Z���� ��g�ֳ��g�ֳ������ ?|�����`�� �  � ��H � � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.����N��ro|3����K|`�O�1�;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanT�T��s�ܖ� 0ܖ��D�[SOalchoRomanT�T��s�ܖ� 0ܖ�� �DTimes New RomanT�T��s�ܖ� 0ܖ�0�DWingdingsRomanT�T��s�ܖ� 0ܖ�@�DHelveticaRomanT�T��s�ܖ� 0ܖ� "P�D��fNveticaRomanT�T��s�ܖ� 0ܖ��1`�DMS MinchoRomanT�T��s�ܖ� 0ܖ��1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�ԓ��� 0��������p�pp�@ � �G��4BdBd,֓��� 0<�4dddd ��w 0T��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001). ��P%PP,P PPPP PP%��, �  ���� � $�$�             ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment Boosting improves word alignment results Semi-supervised boosting performs the best��0�/1T0��/� � 1�T��I�� �� /����4�5�6�7�8�9�= �> �r����x���O�1�;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanT�T��s�ܖ� 0ܖ��D�[SOalchoRomanT�T��s�ܖ� 0ܖ�� �DTimes New RomanT�T��s�ܖ� 0ܖ�0�DWingdingsRomanT�T��s�ܖ� 0ܖ�@�DHelveticaRomanT�T��s�ܖ� 0ܖ� "P�D��fNveticaRomanT�T��s�ܖ� 0ܖ��1`�DMS MinchoRomanT�T��s�ܖ� 0ܖ��1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�ԓ��� 0��������p�pp�@ � �G��4BdBd,֓��� 0<�4dddd ��w 0T��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001). ��P%PP,P PPPP PP%��, �  ���� � $�$�             ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment Boosting improves word alignment results Semi-supervised boosting performs the best��0�/1T0��/� � 1�T��I�� �� /����4�5�6�7�8�9�= �> �r������1O�1�;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanh�h��s���� 0����D�[SOalchoRomanh�h��s���� 0���� �DTimes New Romanh�h��s���� 0���0�DWingdingsRomanh�h��s���� 0���@�DHelveticaRomanh�h��s���� 0��� "P�D��fNveticaRomanh�h��s���� 0����1`�DMS MinchoRomanh�h��s���� 0����1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"      !"#$%&'()*+,-./012345������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�Փ�� 0���Hp�pp�@ � �G��4BdBd�֓�� 0<�4dddd4��w 0h��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001)��P%PP,P PPPP PP%��, �  ���� � $�$�            ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model adaptation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the statistical word alignment Boosting improves word alignment results Semi-supervised boosting performs the best��0�/1T0��/� � 1�T��I�� �� /����4�5�6�7�8�9�= �> ��<� � 0��L0 �������$�( � ���r �� S ��(����|�`����  � � ��r �� S ������|���`�� � � ��H �� � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.���� $�rF1el��"1�nO�1�F;�(����  � ��|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|����Equation �Equation.30�Equation�|��  ��Equation �Equation.30�Equation�|�� !��Equation �Equation.30�Equation�|�� "��Equation �Equation.30�Equation�|�� #��Equation �Equation.30�Equation�|�� $��Equation �Equation.30�Equation�|��%��Equation �Equation.30�Equation�|��&��Equation �Equation.30�Equation�|��'��Equation �Equation.30�Equation����A��lQ_ �Equation.30� Microsoft lQ_ 3.0����#D��lQ_ �Equation.30� Microsoft lQ_ 3.0����E��lQ_ �Equation.30� Microsoft lQ_ 3.0����!F��lQ_ �Equation.30� Microsoft lQ_ 3.0����~L���ech �Word.Document.80�"Microsoft Word �ech�����M���ech �Word.Document.80�"Microsoft Word �ech��/� 0���DArialchoRomanT�T��s�ܖ� 0ܖ��D�[SOalchoRomanT�T��s�ܖ� 0ܖ�� �DTimes New RomanT�T��s�ܖ� 0ܖ�0�DWingdingsRomanT�T��s�ܖ� 0ܖ�@�DHelveticaRomanT�T��s�ܖ� 0ܖ� "P�D��fNveticaRomanT�T��s�ܖ� 0ܖ��1`�DMS MinchoRomanT�T��s�ܖ� 0ܖ��1� �C�<�0.�  @�n��?" d�d@�����  @@``�� z �r ��p��"    ! "#$%&'() *}a 123456 2?7BDF�� 2�$}�fh�ܐ����fWF��2�$k]���^�2e�jf�/�b�$���c��� \�Pz��d�2�$ӕ\�yW�9�Jr}ƲlO��' 2�$��r83#<�zj���}ut���2�$���q�Ɛ �@[f��<�{2�$�& ;��mpK-d9, �����2�$rY� nY�'\8�i��J��82�$Z0lcNp�q����ʼ�Q� �2�$�A!׃���l�Q#�H�����2�$�bc(H�ײ3�G�o��Kv2�$h�f���5�l�r�0�%� 2�$�� ��v��p��:�<+�G�#2�$�g�J��Ki���E���)��-&2�$>��w�҂��VT��!+� (2�$��� ,}"T�Ŵ��T *2�$R�ߣ���p ZQ���=�t,2�$KK�5pK���a������t/2�$@"�ሆ�Lc�W8&k{��`12�$�����Fcf�y����|�32�$53Q�?���#3�n�����&52�$�8�dƢ����a@ܓ��7"�$�s"^Œ_�ah�#��Ld�� �8"�$����_L� ��o�����I �F ��0e����0e�������� �   ������������ �A������������������������@�������� ��A�������5%������������� 8c8c     ?�����1�������� ����d��������0u���0����@T��������y��2� N�P���'�p���<����'�p��A�)BCD|�E�|���|��S"����������3@���8� �� ����R ʚ;��k8ʚ;�g��4dddd�Փ��� 0�������p�pp�@ � �G��4BdBdד��� 0<�4dddd ��w 0T��s��?�0�___PPT10� p�p����___PPT9������n��\��0�,X�~�� ~p���PNG  IHDR exsRGB����PLTE�����̄{sJB19)�kJ��c��k��s�sJ{cB�cB!B1!���kR1�kBkR9ZJ1RB)J9)B9!�{R����Ƶ���ν��������ν��Z�ƭ1))!)!skk!!!sZ9RB1cJ1B9)J9!ƭ���Z{ss91!��2� cmPPJCmp0712|m.�tRNS@��f�IDATWm��� Dр�K@--B�R(��.4���9s� ��\����Z�[�����v� #[D�zW ���eu:׸8�1N�[s��$�1��ꦹ*4pYv �Oǜ ��}��{4c�!���r+DH�.�3z但sŌJ�6�ek���$��C����,{�a��kLAIEND�B`�?� � %O� � =��� ��7Semi-Supervised Boosting for Statistical Word Alignment��Wu Hua 2006/10/18�� ��Outline���Introduction to semi-supervised learning Introduction to boosting Semi-supervised boosting for word alignment Evaluation results Conclusion���Machine Learning Methods���Supervised Learning Labeled data Unsupervised learning Unlabeled data Semi-supervised learning Combine both labeled data and unlabeled data�v-�� � �-����Semi-Supervised Learning in NLP���Word sense disambiguation (Yarowsky, 1995; Pham et al., 2005) Classification (Blum and Mitchell, 1998; Thorsten, 1999) Clustering (Basu et al., 2004) Named entity classification (Collins and Singer, 1999) Parsing (Sarkar, 2001)��P%PP,P PPPP PP%��, �  ���� � $�$�            ���<Boosting  Supervised Learning�� ���Boosting in NLP���Tagging and PP attachment (Abney et al., 1999) Word sense disambiguation (Escudero et al., 2000) Parser construction (Haruno et al., 1999; Henderson and Brill, 2000) Sentence generation (Walker et al., 2001)��ZZZZZ2ZZZ�� � �2����,M&V�?��Semi-Supervised Boosting���Three main problems Semi-supervised learner Combine labeled data and unlabeled data Reference set Automatically construct a reference set for unlabeled data Error rate calculation How to calculate the error rate with both labeled data and unlabeled data ��(;K�(��;� � K��H��2Semi-Supervised Boosting Applied to Word Alignment�33�� ���2Semi-Supervised Boosting Applied to Word Alignment�33���Five main components Word alignment model interpolation Pseudo reference set construction for unlabeled data Error rate calculation Weight update Final Ensemble �&����@��Word Alignment Model���Supervised alignment model Calculate the probabilities for IBM Model 4 based on the labeled data Unsupervised alignment model Use GIZA++ to train IBM Model 4 Perform model interpolation �nG!G��! � ��)��!Pseudo Reference Set Construction���Obtain bi-directional word alignment sets S1 and S2 on the training data Obtain the intersection set of these two alignment sets Filter the union set of the two alignment sets Build the pseudo reference set�@�+ �� ����* ��Error Rate Calculation��pFor a sentence pair Calculate the error rate of a aligner Based on the labeled data instead of the whole data �b'4�'�4 � ��+ ��Re-Weight the Training Data���Reweight each sentence pair in the training set For each sentence pair, there may exist correct links and incorrect links as compared with the pseudo reference set Calculate the weight of each sentence pair according to the correct and incorrect links�&0�0�����, ��Final Ensemble��OObtain the final ensemble according to the trained word aligners on each round �- �� Evaluation���Training set Unlabeled data: 320,000 English-Chinese pairs Labeled data: 30,000 English-Chinese pairs Held-out set 1,500 sentence pairs Testing set 1,000 bilingual English-Chinese sentence pairs Totally 8,651 alignment links�� ZYZ ZZ ZMZ ��3����3�� � � �L���. ��Evaluation Metric���Word alignment Precision and Recall Alignment Error Rate (AER) Phrase-based machine translation System: Pharaoh Metrics: NIST and BLEU �j5!'5�!�' � ��N��Word Alignment Results�2��Weights in Ensembles��cTwo kinds of weights Weights for the individual aligners Weights for the individual alignment links�&OO��O��Translation Results�3�� Conclusion���Features in our semi-supervised boosting method Perform model interpolation Automatically build pseudo reference set Calculate the error rate of training set with the labeled data Use two kinds of weights in the ensemble One for aligners The other for alignment links Boosting improves the word alignment and translation quality Boosting does improve word alignment and translation quality Semi-supervised boosting performs the best��0Z�Z/ZZ=ZhZ0��/� � =�h��I�� �� /����4�5�6�7�8�9�= �> ���� �  0��L0� � %  �0���( � �� � � �Z�����g�ֳ��g�ֳ������ ?|��`����  � � �� � � �Z�옼��g�ֳ��g�ֳ������ ?|�����`�� � � ��H � � �0�������޽h�� ?� ���333������MMM����8�0�___PPT10��.����N��r�n33����n�O�1Root Entry����������d�O�����)��\��*��:�Pictures���������QCurrent User������������/SummaryInformation(����)U      !"#$%&'()*+,-./012345����h������������;<�����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������T������������������������������������������������������������������������������������������������������������������������������������      !"#$%&'(i*+,-./0123456789:;<=>?@ABCDEFGHIJKLMNOPQRS����UVWXYZ[\]^_`abc���������������������jklmnopqrstuvwxyz{|}~���������՜.��+,��D��՜.��+,����������� � �� ��  %�����Ļ����ʾtoshiba?�� �  Arial����Times New Roman Wingdings Helvetica���� MS Mincho tcrE_wuhua1 EquationMicrosoft ��ʽ 3.0Microsoft Word �ĵ�8Semi-Supervised Boosting for Statistical Word AlignmentOutlineMachine Learning Methods Semi-Supervised Learning in NLP Boosting �C Supervised LearningBoosting in NLPSemi-Supervised Boosting3Semi-Supervised Boosting Applied to Word Alignment3Semi-Supervised Boosting Applied to Word AlignmentWord Alignment Model"Pseudo Reference Set ConstructionError Rate CalculationRe-Weight the Training DataFinal Ensemble EvaluationEvaluation MetricWord Alignment ResultsWeights in EnsemblesTranslation Results Conclusion �õ�Ƭ 21  ���õ�������ʾ�ĸ����ģ��Ƕ�� OLE ������ �õ�Ƭ����D 4<Version��_�����wuhuawuhua