• 你的位置:云开app官方入口下载 > 新闻中心 >

  • kaiyun官方网站 EMNLP 2023 最好论文放榜!北京大学长入微信AI团队获国内首篇 EMNLP 最好长论文
    发布日期:2023-12-29 07:15    点击次数:147

    大家鸿沟的顶级会议EMNLP2023于12月6日-12月10日在新加坡召开,会议共接纳4909篇投稿,主会委派论文1047篇,委派率21.3%。EMNLP的全称是Conference on Empirical Methods in Natural Language Processing,由海外计较言语学会ACL组织每年举办一次,为当然言语管理鸿沟最具影响力的海外会议之一。本次会议kaiyun官方网站,微信AI团队有8篇著述被选中。其中,由北京大学和微信AI团队合营的著述获取EMNLP登第著述中最好长论文奖(Best Long Paper Award),这亦然EMNLP会议上国内首篇获此盛誉的论文。

    图1. 获奖论文

    图2. 获奖文凭

    微信AI团队榜上知名,参与接洽著述获主会最好长文

    这次获奖的论文题为“Label Words are Anchors: An Information Flow Perspective for Understanding In-Context Learning”,接洽了 In-context learning(ICL)的使命机制。初次发现了高下体裁习中演示示例的标签词起着 “锚点” 作用:1)在浅层计较层的管理历程中,语义信息鸠合到标签词暴露中;2)在深层计较层的管理历程中,标签词中的团聚的信息为言语模子的最终斟酌提供参考。基于这些发现,著述进一步提倡了 “锚点重新加权” 才能来进步 ICL 的性能,以及用于会诊 ICL 失实的分析框架。这项使命也为改日的斟酌接洽疏导了新的标的。

    图3. 高下文中演示示例的标签词算作“锚点”的默示图

    论文作家来自北京大学孙栩老师团队和微信AI团队,其中论文的第一作家王乐安是在微信AI团队实习的北大接洽生(本科为北京大学智能科学与时刻系2019级全系第别称),这亦然他中稿的第一篇当然言语管理鸿沟主会论文。在论文的接洽历程中,北京大学孙栩老师团队和微信AI团队精雅合营,在接洽标的、中枢问题、践诺纠正、以及论文修改等方面进行了充分的商议和深入的使命,其中王乐安塌实的数理基础和专科学问,孙栩老师明晰准确的提醒和建议令东说念主印象真切。

    深耕前沿时刻,微信AI团队多项接洽可圈可点

    微信AI团队在EMNLP2023的阐扬充分展示了其在AI鸿沟的专科实力。微信AI团队保执着小而精的团队鸿沟,团队成员险些一起来自国表里顶尖高校的硕士或博士,一直保执着东说念主才引入的高挨次。除了本次 EMNLP2023 Best Paper (Long) Award,连年来团队成员参与的接洽使命照旧获取了多个过失奖项,包括RecSys2023 Best Paper (Short) Award, ACL2019 Best Paper (Long) Award等。

    微信AI团队在多个鸿沟的接洽皆取得了权臣的效用。在大家学术界最具巨擘的机器翻译比赛(Workshop on Machine Translation,简称WMT)2020 ~ 2022劝诱三年里获取多个赛说念冠军,比赛参与者包括广大来骄气众的企业、科研机构和高校所构成的顶尖团队。在2018和2019年的对话系统时刻挑战赛(Dialog System Technology Challenge,简称DSTC)中也蝉联多个赛说念冠军。

    微信AI团队一直勤快于业务与学术接洽的劝诱,在业务中挖掘科研课题。他们合计,业务与接洽是互相促进的斟酌:“通过接洽来发现更好的才能,最终截止也不错径直专揽在业务中。”本次会议中的多项使命照旧进一步鼓励了对话系统、微信翻译、微信念书、微信输入法等多个业务场景的专揽。

    附:微信AI团队入选的8篇著述

    1. Label Words are Anchors: An Information Flow Perspective for Understanding In-Context Learning

    Lean Wang, Lei Li, Damai Dai, Deli Chen, Hao Zhou, Fandong Meng, Jie Zhou and Xu Sun.

    2. HyperNetwork-based Decoupling to Improve Model Generalization for Few-Shot Relation Extraction

    Liang Zhang, Chulun Zhou, Fandong Meng, Jinsong Su, Yidong Chen and Jie Zhou

    3. Re3Dial: Retrieve, Reorganize and Rescale Conversations for Long-Turn Open-Domain Dialogue Pre-training

    Jiaxin Wen, Hao Zhou, Jian Guan, Jie Zhou, Minlie Huang

    4. Multi-Source Probing for Open-Domain Conversational Understanding

    Yuanxi Li, Hao Zhou, Jie Zhou, Minlie Huang

    5. Explicit Planning Helps Language Models in Logical Reasoning

    Hongyu Zhao, Kangrui Wang, Mo Yu, Hongyuan Mei

    6. D2TV: Dual Knowledge Distillation and Target-oriented Vision Modeling for Many-to-Many Multimodal Summarization

    Yunlong Liang, Fandong Meng, Jiaan Wang, Jinan Xu, Yufeng Chen and Jie Zhou

    7. Understanding Translationese in Cross-Lingual Summarization

    Jiaan Wang, Fandong Meng, Yunlong Liang, Tingyi Zhang, Jiarong Xu, Zhixu Li and Jie Zhou

    8. Enhancing Argument Structure Extraction with Efficient Leverage of Contextual Information

    Yun Luo, Zhen Yang, Fandong Meng, Yingjie Li, Jie Zhou and Yue Zhang

    雷峰网