Our culture is embedded with rankings: of movies, of college athletic teams, of consumer products, of universities, and of graduate programs. Rankings are a guilty pleasure — we claim they don ’ t influence us, and we know their foibles, yet we can ’ t help looking to see where we stand.
在上月末《美國新聞和全球報道》(US News & World Report)公佈的 2018 年全球大學最新排名上,清華大學計算機專業排名全球第一,華中科大和浙江大學也分別進入前十。
而一些世界著名的高校,例如 MIT、斯坦福、哈佛分別隻排到第 4、第 6 和第 7 名。
更有甚之的是,卡內基 · 梅隆大學僅排名第 22 名。
排名出來後,國內很多知名教授的看法都類似 " 我就笑笑 ……",隻是把它當個笑話。
但美國學界的態度卻不同。美東時間 2017 年 11 月 11 日,代表美國 200 多傢計算機研究機構與學會的美國計算研究會 ( Computing Research Association, CRA ) 發表公開聲明,抗議 US News 發表的全球大學計算機科學排名。
CRA 認為 USN&WR 的這份排名非常的荒謬,在計算機科學領域工作的研究人員沒有人會認真看待這個排名,但排名本身卻有可能會嚴重地誤導其他很多人。
CRA 指出 USN&WR 排名中有兩個大問題:
第一、排名的文獻數據來自 the Web of Science,而忽略瞭會議出版物在 CS 領域的重要影響;
第二、USN&WR 所采用的 " 學術聲譽 " 因素是不合理的。
他們在 USN&WR 的全球大學排名榜出來之後,曾試圖聯系他們的負責人,要求他們撤銷全球大學計算機科學排名,但是 USN&WR 並沒有給予回復。
公開信全文內容翻譯如下:
致計算研究社區:
《美國新聞和全球報道》(USN&WR)最近的全球大學計算機科學排名對 USN&WR 讀者及世界各地的計算機科學單位造成瞭惡劣影響。上周,我們誠意地請求他們撤銷這個排名,但很不幸,USN&WR 拒絕瞭這個請求。
在這個排名中,所使用的方法是基於 Web of Science 收集的期刊出版物(而忽略瞭會議出版物)來排名。這種方法並不能準確地反映 CS 社區的研究是如何傳播的,以及研究人員如何得到認可或影響的。此外,出版物清單並沒有公佈,即使有些人質疑基於文獻計量排名的合理性,但卻無法爭議 USN&WR 排名的缺陷。從不正確的數據來推斷,而數據又不透明,所以這就是一個荒謬的排名。
USN&WR 排名中另外一項重要因素是 " 學術聲譽 "。但在一個體積巨大且大部分沒有聯系的社區裡考慮學術聲譽,可以說是非常有問題的。另外考慮到這個群體中人們語言不同,價值觀念不同,資源水平不同,目標也不同,期望世界各地的研究單位之間有一個接近的準確 " 學術聲譽 " 評估是不合理的。
任何具有 CS 研究經歷的人都會看到他們的排名簡直是無稽之談,而忽略它們。但是其他人可能會被嚴重誤導。
2016 年 CRA 曾在 Snowbird 舉辦瞭一個兩年一次的研討會,當時主導 USN&WR 排名工作的 Rober Morse 也曾參會。在所討論的諸多項目中,我們對排名中使用文獻計量及涉及的其他各種問題進行瞭認真的討論。特別是,我們指出瞭使用不包括會議索引的數據源時會出現的問題,會議索引相比發表的論文有更大的影響和更高的引用率。在 11 月 1 日(全球排名出來後),我們聯系瞭 Morse 並指出其所使用方法的問題,要求他們撤銷這個基於有缺陷數據源進行的排名,但他沒有回應。
我們敦促社區忽視 USN&WR 的這份計算機科學排名。
此致敬禮
Susan Davidson, Chair CRA Board of Directors, Weiss Professor, University of Pennsylvania
Andrew P. Bernat, CRA Executive Director
Carla Brodley, Dean, Northeastern University
Laura Haas, Dean, University of Massachusetts Amherst
H.V. Jagadish, Bernard A. Galler Collegiate Professor, University of Michigan
Kathryn S. McKinley, Google
Mario Nascimento, Chair and Professor, University of Alberta
Fred Schneider, Chair and Samuel B. Eckert Professor, Cornell University
另附:USN&WR 2018 全球大學排名中使用的為大學打分的 12 項指標及其權重
1、全球學術聲譽,12.5%
2、地區學術聲譽,12.5%
3、論文發表,10%
4、出版書籍,2.5%
5、舉辦會議,2.5%
6、標準論文引用影響因子,10%
7、論文引用數,7.5%
8、" 被引用最多 10% 出版物 " 中被引用率,12.5%
9、出版物占 " 被引用最多 10% 出版物 " 的比率,10%
10、國際合作,10%
11、代表領域在 " 所有出版物中被引用最多前 1% 論文 " 中被引用論文數,5%
12、出版物占 " 所有出版物中被引用最多前 1% 論文 " 比率,5%
其中全球(地區)學術聲譽的結果則是來自 Clarivate Analytics 對在領域內專傢意見的學術聲譽調查。其他幾項指標對應的文獻數據來自 the Web of Science 2011 年到 2015 年的論文數據,不過引用率則使用的是截止到今年 5 月 30 日的數據。這樣做的目的是為瞭保證統計的穩定性和精確性。
那麼,CS 領域合理的排名應該是什麼呢?