3.2.1.2 标点式生成

文档摘要

3.2.1.2 标点式生成标点式生成：当模型“喘不过气”时，我们如何用一个逗号救活整段输出？ ——一位NLP工程师在金融财报摘要生成系统上线前72小时的真实手记凌晨两点十七分，监控告警第三次亮起。不是GPU显存溢出，不是API超时，而是一条安静得近乎羞耻的日志：我们正在交付的金融领域长文本生成模块，正把一份21页的上市公司年报PDF，压缩成一段300字以内的合规摘要。模型本该输出： “公司2023年营业收入同比增长12.7%，达人民币48.3亿元；净利润为6.2亿元，同比增长5.1%；经营活动现金流净额为9.8亿元，较上年提升18.4%……” 可实际返回的却是： “公司2023年营业收入同比增长12.7%，达人民币48.3亿元；净利润为6.2亿元，同比增长5.1%；