曲阜师范大学小团队互引占比畸高。根据大信息分析,曲阜师范大学数学科目内部小团队互引较普遍,且互引比例较高,平均互引达34%,大信息分析一般团队内部互引占比为10%-20%,北京大学是16%,且北京大学内部互引基本以大团队互引为主(见图1、图2)。使用CA+指数消除无效引用后,北京大学相关人员排名基本平稳,曲阜师范大学相关人员排名相对于H指数排名大幅退后。
U.S.News指标体系有待优化
基于大信息分析发现,曲阜师范大学的学术出版物及一般引用数量较多,但发表或引用的平台的影响因子远低于北京大学,差距主要在高被引上。以两校被引数最高论文为例,曲阜师范大学例文的引文没有一篇刊发在影响因子大于10的期刊上,而北京大学例文有111篇。由此可见,实际上U.S.News对于来自影响因子30+和10-期刊的引用并不有效区分,这显然是欠科学和客观考虑的。
前文提到的曲阜师范大学小团队互引畸高的问题,暴露出U.S.News对引用的“质”和“量”没有有效区分。此外,引用曲阜师范大学论文的机构在QS排名中靠后或者没有排名,但没有区别对待,北京大学虽多被全球一流高校引用,却没有被有效区分。
概括地说,U.S.News基于学术出版物及引用的粗线条的客观信息计量,能够大概勾勒却难以精准评估一项科研产出、一个人、一个科目、一个学校的学术水平和排名。
当下,争创世界一流大学和世界一流科目成为中国高等教育行业标志性的目标和任务。高校学术评估的科学性、客观性、引领性,尤显关键。新时代科目评估应充分依托数据技术,特别是大信息技术和人工智能技术,聚焦解决以下问题:
一是怎样消除主观评价的非理性干扰,提高客观评价的精准程度。声誉类主观性指标在科目整体性评价中被认可度较高,但不免因样本人群的非学术因素产生偏差,且存在肯定滞后性。现在常用客观性指标不免因信息覆盖和模型表达的局限性产生类似本文案例的整体性偏差。基于大信息和人工智能技术,通过同行专家和特定行业代表人群参与,扩大客观评价的大信息有效覆盖,迭代优化计量模型,将主观评价与客观评价有机融合,可能以此问题提供解决思路。
二是怎样充分考察人才培养的能力、水平和效果。高等教育的核心任务是人才培养,U.S.News居然没有纳入考察,也是出现本文案例中偏差的关键原由。ARWU计量了校友获奖等某些指标,THE和QS计量了生师比等结构指标,都缺乏总体考察。基于大信息和人工智能技术,通过对校友肯定时期内就业、薪酬和成就进行总体性考察,整体性综合性评价高校人才培养质量,早已成为可能。
三是怎样提高科研产出的精准评价。不唯论文不是不关注论文,而是不简单计量论文的数量,要精细化考察论文的质量。通过考察论文刊发平台的影响因子、论文引用者的关系、论文引用者水平、引用期刊的影响因子、论文学术行业特征等,综合赋权论文的学术价值。同时考察作者相关的有价值专利、学术会议影响、合作者影响、学术行业影响等,大信息和人工智能技术产生以此提供了可能。
四是怎样保证信息的客观性、准确性、时效性和全面性。现在国内体制内科目评估主要通过被评估者申报信息,很难有效实现上述标准。例如,某校数学科目申报参与评估的学者是四十人,而通过数据技术获得该校数学科目的科研产出达到肯定水平的学者有上千人,包括博士后、参与科研的访问学者等,也包括人事关系隶属本校其他学院的学者。显然,将其全部纳入能够更加全面、客观反映该校数学科目的学术能力和水平。
综上,大信息和人工智能技术能够给数据时代科目评估和学术评价提供新的范式,以一场新的革命,尝试解决之前无法解决的问题。
【作者单位:李永智,上海市教育委员会;江明,上海市教育人才交流中心;谷俊,上海柏观信息科技有限公司】
原载2020年第24期《中国高等教育》杂志