文章專區

2021-06-15學術研究再現性該如何提升? 「註冊報告」與「材料分析報告」發表制度的出現 474 期

Author 作者 劉雨如/英國諾丁罕大學遺傳學博士。
2005年,史丹佛大學醫學院教授尤安尼迪斯(John Ioannidis),發表了一篇學術文章,題為〈為什麼大部分的研究發表發現都是假的〉(Why most published research findings are false),指出許多醫學研究結果都無法被重複,並提出統計模型顯示,大多數的學術發表結果為假陽性(false positive results)。這篇文章是當年點閱率最高的學術文章,直至 2020 年,已經有超過三百萬次的閱覽,可知學者們非常關心這個議題。

尤安尼迪斯日後,也成為後設研究(Metascience),也就是研究「學術研究結果」(research on research)這個領域的創始者之一。

 

研究結果再現性低的危機

之後,學者們試圖重複藥物在細胞生物學上的重要研究發現,結果只有11∼25%的研究,在照著發表中的描述重做之後,可以得到相同結果。開放科學中心(Center for Open Science)重複了100個心理學實驗,出現重複結果的也不到一半。此外,行為社會科學及實驗經濟學等領域,也相繼出現同樣的再現性(reproducibility)危機。

造成這個現象的其中一個原因,是出版偏見(publication bias),讓負面的結果不容易被發表。期刊編輯、審查者及作者,都比較喜歡有吸睛正面結果的文章,負面的研究結果大多會被晾在一旁。但是負面研究結果,若是沒有機會透過出版,讓學者們知道,也是浪費研究經費以及研究者們的時間,更不用說,如果是臨床實驗,也浪費了病人們的參與和配合。估計約有85%的生醫研究是由於實驗設計不佳,或是缺乏必要性而從未發表。

事實上,在一份學術研究提案(research proposal)中,可約略區分為,假說、方法、結果及討論,四個部分。其中只有結果,是研究者們無法掌控的,以結果論定一項學術研究是否值得公諸於世,未免有失公允。甚至容易變向成為篡改數據(massaging data)或分析偏差(skewing analysis)的誘因。

在學術研究領域中,研究過程(procedure)應該與最後結果同樣重要。如果能在學術研究出版機制當中,加入研究過程的審查,並增加其透明度,將有助於未來科學發展的效率。

 

學術發表更應著重研究過程

早在1970年代,學者們就已經開始重視這個問題,心理學家羅森索(Robert Rosenthal)就曾說:「我們需要一個可以依研究過程為標準,來評量一份研究的系統。如果研究過程能被適當的、有理的、嚴格的評判,並使其結果推導出結論,那麼這份研究就不能因其結果而被編輯或審查者拒絕。」

類似的概念在當時零星的被提出,不過都沒有被主流科學重視及施行。1976年,《歐洲超心理學期刊》(European Journal for Parapsychology),為了幫助負面結果研究的發表,提出一套相當有前瞻性的制度,可以先審查研究提案,再做發表。他們默默的執行這套制度,長達17年之久,一直到1992年停刊為止。

而知名度高具影響力的醫學學術研究期刊《刺胳針》(The Lancet),在1997年也開始了研究提案審查制度,一共有148篇文章在該制度下發表。然而卻在2015年,以其他機構已經在這一方面努力為由,終止了研究提案審查制度。

1997年,美國食藥署現代化法案(US Food and Drug Administration Act, FDAMA),首度以法律層級的高度,要求試驗方法需要註冊,也因此在2000年成立了線上專頁,處理試驗註冊事務。一直要到2005年,國際醫學期刊編輯委員會(International Committee of Medical journal Editors, ICMJE),才開始鼓勵期刊,提出試驗必須註冊的要求。

然而,在過去的這些制度當中,只著重在研究提案的審查,並未出現不論結果如何,最後都會被接受的原則。即使研究提案經過審查,如若研究結果不如預期,仍有可能不被發表,最後石沉大海,出版偏見的問題依然存在。

針對此一問題,學者們提出「註冊報告」(Registered Reports)的制度,做為一種解決的方式。

 

「註冊報告」先投搞,再做實驗

註冊報告制度共有兩個階段。在第一階段中,研究者們需提出一份詳細的研究計畫給期刊編輯,包括預計這份研究能回答的問題,以及研究設計及方法。

在經過期刊編輯及同儕審查,都認為這份研究提案具創新性與重要性,而且研究方法的設計確實可行後,即同意不論研究結果如何,期刊都必須發表出來。研究者也可以在開始進行研究,收集數據之前,從審查者的回饋意見當中,得到具有建設性的建議。若實驗設計上有重大錯誤,也能夠及早修正,免得需要事後亡羊補牢。

註冊報告的第二階段,在研究提案被接受之後。研究作者必須得到開放科學框架(Open Science Framework)認可的預先註冊(preregister),也就是將研究提案交給「開放科學資料庫」(Open Science Framework Repository),一個統整註冊報告的平台。研究作者可以選擇即時公開研究提案,或是經過一段保密時期再行公開。接著,研究作者就可以開始實驗及研究,收集數據,統計分析結果,並進行討論。在研究提案執行的過程當中,只要是這份研究計畫所產生的更進一步探究,研究者都可以自由的去做,不會受到限制。

第二階段完成後,研究提案加上結果與討論的部份,會被送給當初審註冊報告的審查者,這時候審查者就不能再對實驗設計或是理論有意見了。雖然也有可能會送給新的審查者,但審查者的意見也不能改變這篇研究會被發表的結果。唯一會影響公開發表可能性的是研究作者本人,只有研究作者能撤銷研究結果的發表。

自從2013年,學術期刊Cortex及《心理科學觀點》(Perspectives on Psychological Science)採用註冊報告制度開始,至2019年,約有30份期刊都已經開始接受註冊報告,200份註冊報告被接受發表,涵蓋生命科學及社會科學等,需要強調研究設計與過程的學術領域。在2019年7月,兩篇於2017年,被《自然人類行為》(Nature Human Behaviour)接受的註冊報告研究,首次公開發表,是註冊報告制度邁向普及的一大步。

註冊報告制度下的發表當中,研究結果並不支持其假說的機率為66%,相對於傳統制度的5-20%,有明顯的不同。當然也有可能是研究作者本身,有預感結果可能會不符假說,才經由註冊報告制度的管道,來增加研究被發表的機率。另外,註冊報告制度也可能並不適用於,沒有清楚的假說,或是分析計畫需求的研究領域,例如偏探索性質的研究。但是,註冊報告制度,在適當的學術領域中,的確是對付出版偏見的好方法。

此外,註冊報告制度對於,希望投資具有良好實驗設計及影響力的研究的學術基金發放機構來說,也是有好處的。兒童腫瘤基金會(The Childern’s Tumor Foundation)、英國癌症研究(Cancer Research UK)及輝瑞藥廠(pfizer)都曾與施行註冊報告制度的期刊合作,鄧普敦世界慈善基金會(The Templeton World Charity Foundation ),則要求申請者提出註冊報告,做為經費申請的基本步驟。不過這樣的做法,特別需要期刊編輯和出版社,以獨立第三方的角度,不受經費來源的影響,做出是否同意執行註冊報告研究的決定。

另外一個學者們關心的議題,同時也是科學發展中相當重要的核心原則,就是研究結果的再現性(replication)。一份研究的可信度應當來自於再現性,而不是研究作者的威望或權力。而提升學術發表的透明度,讓其他學者能透徹了解研究中所使用的器材,試劑及操作方法,將有助於學術研究的再現性。

 

「材料設計分析報告」強化研究透明度

2013年Nature的問卷調查中顯示,86%的學者認為生命科學領域學術發表的再現性堪憂。針對這個問題,Nature要求作者在投稿時,加填一份清單,說明實驗結果是否經過重複驗證,如何定義適當的樣本大小、抽樣是否隨機、數據是否公開等問題。這份清單在同儕審查時會一並附上,也跟著文章一起發表。這個做法,的確對於研究的透明度有所幫助,但許多期刊編輯仍感不足。

在這樣的前提之下,美國國家科學院(The National Academies),在2017年,經過許多學術期刊及專家們共同討論後,提出了材料設計分析報告(Materials Design Analysis Reporting, MDAR)的架構。

MDAR目地在鼓勵揭露,更多生命科學投稿文章中,材料(試劑、實驗動物等)、數據、分析(程式與統計方法)及報告的細節。2019年,共有33位期刊編輯,211位作者,289份投稿使用了MDAR,多數都認為有所成效。許多學者表示不論是不是要投稿,他們都會用MDAR來檢視自己的文章。Nature目前也已經開始使用並希望更多期刊的加入。

但事實上,出版社能做的其實不多,更重要的是各大學及研究基金機構的支持。

MDAR的推出並沒有遇上好時機,歐盟及英國都在準備放鬆對藥品法令及研究者的規範,以鼓勵科學界有更多的創新與競爭力。不過MDAR的確是一個很好的工具,幫助學者們確認發表文章的完整及透明度,提升研究品質。

隨著科學領域快速的發展,從事科學研究的學者們也越來越多,學術研究的發表與出版制度,也已經因襲延用了一個多世紀,各種誠信問題層出不窮,光是靠學者們的自我要求或是同儕輿論,來維持科學信譽已然不足。

在網際網路普及率極高,人人都能在彈指之間,平等的取得資訊的年代,讓科學社群運作更順暢、更透明,科學討論更開放、更多元,將是未來科學發展的方向。我們有幸參與新舊制度交接的時代,密切關心開放科學的發展,思考並提出不同觀點與討論,都是我們這一代科學研究人員,責無旁貸的責任與義務。

延伸閱讀
Monya Baker, 1,500 scientists lift the lid on reproducibility, Nature News, 2016.