您现在的位置: 第十三届韬奋论坛征文
2024年09月30日 来源:韬奋出版人才论坛征文参评办公室
时间:
摘要:人工智能生成内容(AIGC)技术的应用为学术研究带来了新的机遇,但AI代写现象的频发与低质量AI内容的泛滥也给学术期刊编辑带来了新的挑战。为了应对AIGC引发的学术不端行为,学术期刊编辑首先需要实现自我角色的转变,努力成为AIGC的技术专家、规则专家与伦理专家。在重塑角色后,编辑应当运用新的检测技术与审查模式客观评价AI工具生成的学术内容,以筛除低质量、不规范的AI内容和应用高质量、真实性的AI内容作为AIGC时代的双重文化使命。通过技术、规则、出版等领域的学习与训练,编辑需要逐步引导学者在符合学术规范与法律法规的前提下正确使用AI工具,推进并引领AIGC在学术领域中的辩证利用。
关键词:AIGC;学术期刊编辑;辩证利用;学术引领
2024年7月24日,知名期刊《自然》(Nature)刊发的封面论文指出,如果大语言模型反复使用自己生成的数据进行训练,会导致“模型崩溃”,即模型逐步退化并生成低质量数据与虚假信息[1]。而随着人工智能生成内容(AIGC)技术在学术出版领域的发展与渗透,许多学者已经开始利用AI工具来撰写学术论文,如果不对低质量的AI文本与合成数据进行把控,学术领域也可能会出现科学知识的大面积污染与学术垃圾的持续性产出。学术期刊编辑作为AIGC时代人机关系的协同者与学术不端行为的守门人,需要辩证利用AI工具生成的学术内容(以下简称AI内容),在不断适应AIGC技术的同时引领学术出版行业的高质量发展。
在过去,学术期刊编辑主要负责学术内容的筛选和论文质量的控制。然而,在AIGC技术的高速迭代背景之下,编辑的职责变得更加复杂、专业以及多样化。
(一)从内容筛选者到技术专家
在学术研究中合理利用AIGC技术已经成为新兴潮流。2024年4月,Nature的一篇专栏文章《ChatGPT通过三种方式帮助我进行学术写作》更是引起学术界的广泛关注,该文作者自身也是两本知名期刊的副主编,他认为AIGC技术可以提供以下三点帮助:润色学术写作、提高同行评审、优化编辑反馈[2]。不可否认,AI工具确实可以提高学术工作的效率,增强学者、评审和编辑的专业能力,在保留了科学探究的本质——好奇心、批判性思维和创新的同时,也改善了学术界交流与研究的方式。正因为如此,面对AIGC在学术出版中的渗透,编辑需要具备更多的AI知识和技能,理解AIGC技术与语言模型的基本原理,掌握熟练使用AIGC检测系统和理性评估AIGC的能力,从单纯面向人的内容筛选者转变为兼顾面向机器的技术专家,才能有效应对学术创作过程中的AIGC滥用问题。
(二)从质量控制者到伦理守护者
AIGC技术的出现虽然带来了学术研究方式的革新,但也引发了新的伦理挑战。新的学术伦理隐患可能涉及数据隐私保护、知识产权尊重和学术诚信遵守等领域。AI工具利用大量未知来源的网络语料生成各种内容,在法律伦理层面可能侵犯隐私权与著作权,在学术伦理层面则可能引发数据伪造、图表造假、信息虚构等学术不端行为。因此,编辑在论文质量控制之外,还需要承担起伦理守护者的责任,建立和遵守严格的AI伦理审查机制,确保学者对AIGC技术的使用不违反法律规定和学术准则。
(三)从独立审查者到协同工作者
对疑似具有AIGC成分的论文进行审查是学术期刊编辑的新挑战,这不仅要求编辑掌握基本的检测技术和判别方式,还需要学术出版行业共享检测结果与案例数据库,最终形成数智化的检测模式以应对高速迭代的大语言模型。在这样的背景下,学术期刊之间的合作变得更加重要,编辑不再是孤立的审查者,而是需要与其他期刊、出版机构和技术平台协同工作。通过建立期刊行业云和大数据检测平台,编辑群体能够共享AI代写案例、检测数据、拒搞信息,形成共同打击学术不端行为的合力,从源头上遏制知识污染并保持学术环境的纯净[3]。
(四)从被动适应者到学术引领者
在适当引用和标注的前提下,高质量的AI内容也能推动学术发展。此时,编辑不是被动应对AIGC技术的挑战,而是主动拥抱它对学术创新的贡献。这就要求编辑善于引导作者有效、规范地利用AI工具,帮助其更好地展现出独立的学术性思维和创造性价值,避免学术不端行为出现。与此同时,通过引入AI辅助的审稿系统,编辑能够洞察学术趋势和热点,反馈精确和可操作的组稿需求和审稿意见,积极指引对应专业方向的学者对新主题、新问题进行探讨,充分发挥学术期刊引领学术创新的重要作用。
与单纯的抄袭、不规范引用不同,AIGC的具体内容并不一定对于学术研究与期刊行业发展毫无用处。学术期刊编辑把握着知识创新与生产的演进方向[4],因而更需要客观评价AIGC,以筛除低质量、不规范的AI内容和应用高质量、真实性的AI内容作为AIGC时代的双重文化使命。
(一)对低质量、不规范AI内容的筛除
随着大语言模型版本的不断训练和迭代,AI工具越来越善于模仿学者的专业表达与特色文风,以至于普通人很难辨识作者是AI还是真人。编辑一方面需要判定论文是否为AI代写,另一方面则需要判定AI内容能否承载学者的创新性与学术价值。倘若无法判定论文是否由AI生成,编辑坚守的标准永远都是筛除低质量与不规范的内容。
在判定论文是否由AI代写时,编辑依靠自身的经验与专业能力已经难以应对发展成熟的AI语言模型,无法单兵作战。因此,运用基于特定算法与识别模型的AIGC论文检测系统实属必要。然而,目前已研发上市的主流AIGC检测系统仍欠缺精准的识别性,亟需编辑提供多样化的检测样本和具体案例以支持这些系统的良性发展。此时,学术期刊应该利用好行业力量,通过搭建期刊行业云与刊群平台,让编辑可以共享检测数据与样本,共同评估和反馈检测结果,帮助检测系统提高识别效率与准确性。知网腾云采编系统的刊群功能为期刊互联和信息共享提供了一个实际的应用案例,当某篇论文AI成分过多并且存在学术造假风险,编辑可以立即将该信息在刊群内共享,所有成员期刊都能获得警示,从而形成学术期刊行业针对AIGC的集体防御机制,防止AI代写行为的蔓延。
在判定AI内容是否为低质量时,一方面要关注内容来源是否合法、内容本身是否真实,另一方面则要考虑应用AI内容是否比筛除具有更大的学术价值与贡献。就前者而言,编辑需要从著作权与隐私权的侵犯、数据与文献的造假、事实与逻辑的虚构等角度进行审查,在AIGC检测技术的辅助下得出客观公正的判定结果。就后者而言,编辑则应当以人为本,站在学者的立场上思考AI内容对于论文的权重与贡献:如果作者使用AIGC只是为了改写他人观点、降低查重率或翻译外文文献,则属于低质量内容;如果AI工具的利用是为了更好润色作者的行文与表达、美化图表、改善文章结构、梳理真实的调研结果与实验数据,则属于高质量内容。编辑把握的标准应当是学者本身的创造性内核与思维过程,AI工具的辅助只是为了帮助其得到一个更加直观完善的创造性结果。
(二)对高质量、真实性AI内容的应用
具有高质量与真实性的AI内容通常在逻辑结构、语言表达和知识准确性等方面表现较好,能够为学术研究提供有价值的参考。为了辩证合理地利用这些内容,编辑需要对AIGC检测系统提供的机器判别结果进行人工评估。学术期刊应当制定明确的AI评估标准,包括内容的原创性、科学性、逻辑性和引用规范等,编辑能够基于这些标准系统性地评估AI内容的学术贡献与创新价值。在自动化检测的基础上,编辑还应当进行人工复核并引入专家评审,尤其是听取AI领域相关技术专家的评审意见,同时依据学术评价与技术评价做出更为客观公正的审稿决策。
在被动审查AI内容的同时,编辑还需要积极主动引导作者规范使用AI工具,以提高学术研究的质量和可信度。学术期刊可以制定AI工具使用指南,明确规定学术写作中能够使用AI工具的具体范围和正确方法。例如,规定哪些图表可以使用AI工具绘制,限定AI成分占比与AIGC疑似程度的上限,说明如何对AI内容的语料来源进行引用与标识等。有条件的期刊也可以为作者提供AIGC技术培训,通过开展工作坊、线上课程和一对一辅导,提升作者的技术能力和学术素养,引导他们合理利用AI工具进行学术研究。此外,学术期刊还应当建立反馈机制,收集作者在使用AI工具过程中的问题和建议,不断改善使用指南和支持服务。通过与作者的双向互动,编辑可以更好地理解和满足作者的AI使用需求,推动AIGC技术在学术写作中的规范应用。
(一)AIGC技术素养的提升与数据分析能力的增强
AIGC时代,学术期刊编辑需要掌握AIGC技术和相关AI工具,了解其工作原理和应用场景,知己知彼、活学活用才能提升对AI内容审查的敏感度与专业性,最终用AI打败AI[5]。特定领域的学术期刊还需要重点培养技术型编辑,使其掌握机器学习、深度学习和自然语言处理等基础知识以及数据清洗、特征提取、数据可视化等数据处理技术,提升数据分析和处理能力。在实践层面,编辑要能熟练使用AIGC检测工具和基本的统计学工具,一方面通过学习成功的AIGC案例积累技术应用和数据分析经验,另一方面通过积极参与刊群、共同监测异常等方式打击AI代写行为,避免低质量、不规范AI内容的扩散以及文献知识库的污染。
(二)AI伦理意识的提升与AI法律知识的强化
编辑需要学习和理解AI应用的基本伦理原则,如增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等,树立正确的AI伦理观。在审查AI内容时,编辑既要熟悉相关法律法规,如《个人信息保护法》《数据安全法》《著作权法》等,掌握规范AIGC应用的基本法律框架,也要构建自身的AIGC学术评判标准,基于学术诚信、学术规范、学术伦理来鉴别AI内容的可用性。此外,学术期刊应当针对AIGC制定内部规章制度,建立AI内容审查的监督和执行机制,指引编辑在日常工作中践行相关伦理原则与法律法规,在学术出版的各个环节防止不当利用AIGC的学术不端行为。
(三)人机协同能力的提升与服务作者意识的优化
基于人机协同理念进行编辑价值重塑,将能使编辑全方位地武装起来以迎接AIGC的挑战,引领AIGC技术成为新的内容生产力和审核力引擎[6]。编辑不仅需要学习和掌握人机协同的工作模式,如人机协同策划、AI智能审稿、内容自动化推送等,还要熟练使用各类AI协同工具,如智能排版校对软件、AIGC检测与优化系统、大数据定向推送平台等[7]。在树立人机协同理念的同时,编辑必须坚持以服务作者为中心,关注作者需求,提供个性化的AIGC审稿服务与技术支持,帮助作者提升AIGC的技术素养和使用能力,引导作者在符合学术规范与法律法规的前提下正确使用AI工具,逐步推进并引领AIGC在学术领域中的辩证利用。
五、结语
AIGC技术在学术出版领域发挥着越来越重要的作用,编辑对于AIGC的把控与引领将能够决定技术向善还是向恶。在辩证利用高质量、真实性AI内容的前提下,编辑与AIGC的人机协同及深度融合不仅能够大幅提升学术期刊的质量和影响力,还将为学术界提供更加丰富和多样的知识资源。若想尽早迎接这样的学术未来,编辑自身应当勇于探索和创新,自我重塑价值并接受技术洗礼,不断强化自身的AI理念与AI技能,构筑新时代出版人的AI学术标准,最终为构建更加开放、合作和进步的AI学术生态贡献新质力量。
参考文献
[1] Gruda, D. Three Ways ChatGPT Helps Me in My Academic Writing[J]. Nature, April 2024.DOI:10.1038/d41586-024-01042-3.
[2] Shumailov, I., Shumaylov, Z., Zhao, Y. et al. AI Models Collapse When Trained on Recursively Generated Data[J]. Nature,2024(631),755–759.
[3]于千雯,王木亮,高玉洁,等.从PGC到AIGC:科技期刊内容转向、价值审视与应对策略——基于学术期刊编辑视角[J].编辑学报,2023,35(S2):161-164.
[4]纪小乐,魏建.生成式AI与学术期刊出版:冲击及应对[J].沈阳师范大学学报(社会科学版),2024,48(4):82-90.
[5]陈泽琦,黄晓峰.AIGC背景下期刊出版的应对措施[J].新媒体研究,2024,10(2):1-4.
[6]赵凯.版权、伦理与价值观审核——人工智能生成内容(AIGC)对编辑职业能力的新挑战[J].科技与出版,2023(8):62-68.
[7]罗飞宁,刘壮,谢文亮.AIGC时代编辑的身份挑战与角色转型[J].出版广角,2023(15):65-69.
(本文作者:《深圳大学学报(人文社会科学版)》编辑部 编辑 周濛 )
北京百道世纪网络信息技术有限公司及其平行公司北京百道世纪教育科技有限公司下属的网络媒体平台百道网、百道网微信、帮书店微信,以及百道学习APP和小程序等平台上发布的文章,版权属于北京百道世纪网络信息技术有限公司所有,或北京百道世纪网络信息技术有限公司与著作权人共同拥有,严禁转载。任何纸媒、网媒或社交媒体需要发布或转载,请与版权专员联系(service@bookdao.biz),获得授权后,方可转载。对于任何未经授权的转载,我们将依法追究其侵权责任。
扫描二维码 分享文章