メタサイエンス

メタサイエンスあるいはメタ研究meta-researchは、科学そのものを研究するために科学的方法論を用いることである。メタサイエンスは、科学研究の質を向上させつつ非効率性を削減することを目的としている。また「研究の研究research on research」や「科学の科学science of science」とも呼ばれ、研究方法を用いて研究の進め方を分析し、改善すべき点を特定するものである。メタサイエンスはすべての研究分野を対象とし、「科学の鳥瞰図」と表現されることがある[1]ジョン・P・A・ヨアニディスは次のように述べている。「科学は人類にとって最も素晴らしいものであるが、より良い方法があるはずである。」[2]

1966年、初期のメタ研究論文は、10の主要な医学雑誌に発表された295件の論文の統計的手法を分析した[3]。その結果、「読まれた報告のほぼ73%において、結論が導き出された際、その結論の根拠が不適切であった」と指摘された。その後の数十年間におけるメタ研究は、数多くの科学分野における研究において、方法論的な欠陥、非効率性、不適切な実践が数多く存在することを明らかにした。多くの科学研究は再現不可能であり、特に医学社会科学分野で顕著であった。この問題への認識が高まる中で、2010年代初頭に「再現性の危機」という用語が提唱された[4]

メタサイエンスによって浮き彫りになった問題に対処するため、以下の措置が実施されている。これらの措置には、科学的研究や臨床試験の事前登録、およびCONSORTEQUATORネットワークのような組織の設立が含まれる。これらの組織は、方法論や報告に関するガイドラインを発行している。統計の誤用を減らすこと、学術界における不適切なインセンティブを排除すること、査読プロセスを改善すること、学術出版システムに関するデータを体系的に収集すること[5]、科学文献におけるバイアスを是正すること、および科学プロセスの全体的な品質と効率を向上させるための継続的な努力が行われている。このように、メタサイエンスはオープンサイエンス運動の基盤となる方法論の重要な要素である。

歴史

[編集]
John Ioannidis (2005), "Why Most Published Research Findings Are False"[6]

1966年に発表された初期のメタ研究論文は、10の主要な医学雑誌に発表された295件の論文の統計的手法を分析した。その論文は、「読まれた報告のほぼ73%において、結論が導き出された際、その結論の根拠が不適切であった」と指摘していた[7]。1976年の論文では、メタ研究への資金提供を呼びかけていた: 「研究に関する研究、特に前向きの研究の性質上、長期間を要するため、独立した高度な専門性を有するグループを設立し、十分な長期的な支援を受けて、科学的発見の性質に関する後向きおよび前向きの研究を実施し支援することを推奨する。」[8]2005年、ジョン・P・A・ヨアニディスは「Why Most Published Research Findings Are False」というタイトルの論文を発表し、医療分野の論文の過半数が誤った結論を導き出していると主張した[9]。この論文は、パブリック・ライブラリー・オブ・サイエンスで最もダウンロードされた論文となり[10][11]、メタサイエンスの分野の基礎を築いたものとされている[12]ジョン・P・A・ヨアニディスは、ジェレミー・ハウイックとデスピナ・コレツィとの関連研究で、医療介入の少数しか、GRADEアプローチに基づく『高品質』のエビデンスによって支持されていないことを示した[13]。後のメタ研究は、心理学医学を含む多くの科学分野で結果の再現性が広く困難であることを見出した。この問題は「再現性の危機」と称された。メタサイエンスは、再現性の危機と研究における無駄への懸念に対する反応として発展した[14]

多くの主要な出版社はメタ研究に興味を示し、出版物の品質向上に努めている。サイエンスランセットネイチャーなどの主要な学術誌は、メタ研究と再現性の問題に関する継続的な報道を行っている[15]。2012年にPLOS ONEは「再現性イニシアチブ」を立ち上げた。2015年にはBioMed Centralが4つの雑誌に対して「報告の最低基準チェックリスト」を導入した。

メタ研究の広範な分野における最初の国際会議は、2015年にエディンバラで開催された「Research Waste/EQUATOR」会議であった。査読に関する最初の国際会議は、1989年に開催された「Peer Review Congress」であった[16]。2016年に「Research Integrity and Peer Review」が設立された。同誌の創刊編集後記では、「査読、研究報告、研究と出版の倫理に関する問題への理解を深め、潜在的な解決策を提示する研究」を呼びかけていた[17]

メタ研究の分野とテーマ

[編集]
科学知識の生成プロセスを層構造で体系化した概念の模範的な可視化であり、その中心には「科学の機関」がメタサイエンスの対象として位置付けられている。

メタサイエンスは、主に5つの主要な分野に分類される:方法論、報告、再現性、評価、およびインセンティブ。これらはそれぞれ、研究を実施する方法、研究結果を伝える方法、研究の再現性を確認する方法、研究を評価する方法、および研究を報奨する方法に対応している[18]

方法

[編集]

メタサイエンスは、研究における偏り、不適切な研究設計、統計の濫用など、不適切な研究実践を特定し、これらの実践を軽減する方法を模索することを目的としている[19]。メタ研究は、科学文献において数多くの偏りを特定してきた[20]。特に注目すべきは、P値の濫用と統計的有意性の濫用が広く行われている点である[21][22]

科学データサイエンス

[編集]

科学データサイエンスは、データサイエンスを研究論文の分析に適用する分野である。定性的手法と定量的手法の両方を包含している。科学データサイエンスの研究には、不正検出[23]と引用ネットワーク分析[24]が含まれる。

ジャーナロロジー (Journalology)

[編集]

ジャーナロロジー(出版科学)は、学術出版プロセスのあらゆる側面を学術的に研究する分野である[25][26]。この分野は、学術出版においてエビデンスに基づく実践を導入することで、学術研究の質を向上させることを目的としている[27]。「ジャーナロロジー」という用語は、ブリティッシュ・メディカル・ジャーナルの元編集長であるスティーブン・ロックによって考案された。1989年にイリノイ州シカゴで開催された第1回ピアレビュー会議は、ジャーナロロジーを独立した分野として確立する上で画期的な瞬間とされている[28]。ジャーナロロジーの分野は、科学における研究の事前登録を推進する上で重要な役割を果たしてきた。特に臨床試験における事前登録は、現在ほとんどの国で期待されるようになっている[29]

報告

[編集]

メタ研究は、特に社会科学と健康科学の分野において、研究の報告、説明、普及、一般化に関する不適切な実践を指摘している。不適切な報告は、科学的研究の結果を正確に解釈すること、研究を再現すること、および著者の偏りや利益相反を特定することを困難にする。解決策には、報告基準の施行や科学的研究における透明性の向上(利益相反の開示に関するより厳格な要件を含む)が含まれる。CONSORTやより大規模なEQUATORネットワークなどの報告機関によるガイドラインの策定を通じて、データと方法論の報告を標準化しようとする試みが行われている[30]

再現性

[編集]

再現性の危機は、多くの科学的研究が再現困難または不可能であることが判明した継続的な方法論的危機である[31][32]。この危機の根源は20世紀中盤から後半のメタ研究にあるが、「再現性の危機」という用語は、問題への認識が高まる中で2010年代初頭に[33]初めて提唱された[34]。再現性の危機は、心理学(特に社会心理学)と医学[35][36](がん研究を含む[37][38])において特に詳しく研究されてきた。再現性は科学的なプロセスにおける不可欠な要素であり、再現性の広範な失敗は、影響を受ける分野の信頼性を疑問視する要因となっている[39]

さらに、研究の再現(または再現不能)は、オリジナル研究に比べて影響力が低いとされ、多くの分野で発表される可能性が低い。これにより、研究の報告や、ひいては再現を試みる行為自体が抑制される傾向にある[40][41]

評価とインセンティブ

[編集]

メタサイエンスは、査読の科学的基盤を確立することを目的としている。メタ研究は、事前ピアレビュー、事後ピアレビュー、オープンピアレビューを含む査読システムを評価する。また、より良い研究資金配分基準の開発を目指している[42]

メタサイエンスは、より良いインセンティブシステムを通じてより良い研究を促進することを目的としている。これには、研究のランキングや評価、およびそれらを行う研究者に対する異なるアプローチの正確性、効果、コスト、および利益を研究することが含まれる[43]。批判者は、歪んだインセンティブが学術界に「出版か死か」という環境を生み出し、ジャンクサイエンス、低品質な研究、および偽陽性の生産を促進していると主張している[44][45]。ブライアン・ノセックは次のように述べている。「私たちが直面する問題は、インセンティブシステムがほぼ完全に研究の発表に焦点を当てており、研究の正確性にはほとんど注目していない点である。」 [46] 改革を支持する人々は、インセンティブシステムを再構築し、より高品質な結果を重視するように求めている[47]。例えば、品質を「指標のみ(または主に)ではなく、物語的な専門家評価」に基づいて判断し、機関の評価基準、透明性の確保、および専門的な基準を重視する仕組みを提案している[48]

著者資格

[編集]

研究では、科学出版管理システム向けに機械可読な基準と(バッジの分類体系)を提案し、貢献度(誰がどのような研究作業にどの程度貢献したか)に焦点を当てたシステムを提唱している。これは、従来の「著者」という概念(出版物の作成に何らかの形で関与した人)に依存するのではなく、より詳細な貢献度を評価するものである[49][50][51][52]。ある研究は、貢献の微妙な差異の無視が続くことに関連する問題の一つを指摘した。その研究では、「著者リストの延長(1つの論文あたりの共著者数の増加)、従来よりも少ない文章量の論文、出版数の急増により、出版物の数はもはや適切な指標ではなくなった」と指摘されている[53]

評価要因

[編集]

雑誌社に投稿された論文原稿の内容以外の要因が、査読の評価に重大な影響を与えることがある[54]。これらの要因には、研究者の過去の出版物の信頼性に関する記録の活用や、公共の利益との整合性など、重要な要素も含まれる場合がある。ただし、評価システム(査読を含む)は、分析指標(引用数やアルトメトリクスなど)と比較して、現実世界へのポジティブな影響、進歩、公共の利益といった目的に向けたメカニズムや基準が大幅に欠如している可能性がある。これらの分析指標は、評価するという目的の 部分指標 として使用される場合でも、本質的な評価基準として機能していない場合がある[55][56]。学術的な報酬構造の再考、具体的には、「中間成果物(例えばデータ)に対するより正式な評価を提供する」ことは、ポジティブな影響をもたらし、データの非開示を減少させる可能性がある[57]

訓練と認定

[編集]

あるコメンタリーによると、学術ランキングは、それぞれの研究者がどこ(国と機関)で訓練を受けたかを考慮していない[58]

科学計量学 (Scientometrics)

[編集]

科学計量学(サイエントメトリクス)は、科学論文における書誌データの計測を扱う分野である。主要な研究課題には、研究論文や学術誌のインパクトの測定、科学的引用の理解、そしてこれらの測定値を政策やマネジメントの文脈で活用することが含まれる[59]

研究によれば、「学術的成功を測るために用いられる指標(論文数、被引用数、インパクトファクターなど)は、数十年間ほとんど変化しておらず」、ある程度においては「もはや有効な指標ではなくなっている」とされている[60][61]。その結果、「過剰生産、不必要な細分化、過剰な売り込み、ハゲタカジャーナル(掲載料を取って論文を出す雑誌)、巧妙な剽窃、さらには科学的結果を意図的に曖昧にし、それを売り込むといった問題」が生じている[62]

この分野における新しいツールには、「被引用ノードが引用ノードにどれほど情報を与えているか」を定量化するシステムが含まれる[63]。 これにより、非加重の引用ネットワークを加重ネットワークに変換し、その後、出版物や著者などのさまざまな要素に対するインパクト指標を導き出すといった重要性の評価に利用できる[64]。 また、他の用途として、検索エンジンやレコメンデーションシステムにも応用可能である。

科学のガバナンス

[編集]

科学研究の資金提供(サイエンスファンディング)や科学のガバナンスも、メタサイエンスを通じて検討され、知見を得ることができる。[65]

インセンティブ
[編集]

優先順位付けなどのさまざまな介入は重要である可能性がある。

たとえば、「差別的技術開発(differential technological development)」という概念は、技術の開発順序に影響を与えることでリスク、特に地球規模の壊滅的リスクを低減することを目的として、意図的に異なる予防的速度で技術を開発することを指す。具体的には、制御技術・安全技術・政策技術などを、リスクの高いバイオテクノロジーよりも優先して開発することなどが含まれる。[66][67]

望ましい結果を確保するために、既存の立法制度やインセンティブだけに依存することは必ずしも十分ではない場合がある。というのも、こうした制度は多くの場合、対応が遅すぎたり、適切でなかったりすることがあるからである。[68]

メタサイエンスに基づく改革を含め、科学および関連プロセスを適切に統治するための他のインセンティブとしては、以下のようなものが挙げられる:

  • 特に公的資金による研究のアクセス可能性や、公共の関心に関わる多様な研究テーマに対して真剣に取り組んでいるかどうかという点で、一般市民への説明責任を果たすこと
  • 有資格で生産的な科学者の人材層の拡充
  • 科学の効率性を向上させることで、より広範な問題解決能力を高めること
  • 人間の生理学など、明確で科学的根拠に基づいた社会的ニーズが、適切に優先され、対応されるようにすること

このような介入、インセンティブ、そしてその設計は、メタサイエンスの研究対象となり得る。

科学研究の資金提供と表彰
[編集]

科学賞は、科学におけるインセンティブの一形態である。 メタサイエンスは、既存の科学賞の制度や仮想的な制度を対象として検討することができる。 たとえば、メタサイエンスの研究により、ノーベル賞で顕彰された研究は、ごく少数の科学分野に偏って集中していることが明らかになっている。実際、71の科学分野のうち少なくとも1つのノーベル賞を受賞した分野は36分野にとどまっている。さらに、DC2およびDC3という科学の分類体系に基づく849の細分類のうち、114の分類がノーベル賞と関連していたが、その中でも次の5分野が1995年から2017年に授与されたノーベル賞の半数以上を占めていたことが示された:[69][70]

  • 素粒子物理学(14.0%)
  • 細胞生物学(12.1%)
  • 原子物理学(10.9%)
  • 神経科学(10.1%)
  • 分子化学(5.3%)

ある研究では、政策決定者が責任を科学に委任し、科学がその後「社会にとって信頼でき有用な知識を提供する」と期待する、中央集権的な権威に基づくトップダウン型のアプローチは、あまりにも単純化されすぎていると指摘されている。[71]

測定の結果、バイオメディカル分野の資源配分は、疾病負担よりも、過去の資源配分や既存の研究との相関が強いことが示されている。[72]

ある研究は、次のように示唆している:

「査読が、研究報告や研究資金の競争的選定における主要な審査手段として維持されるのであれば、科学界はその運用が恣意的なものにならないよう十分に注意を払う必要がある。」[73]

複数の研究は、「私たちが成功をどのように測定するかを再考する必要がある」ことを示している。[74]

研究資金データ
[編集]

助成金データベースや研究資金の謝辞欄から得られる研究資金に関する情報は、サイエントメトリクス(科学計量学)の研究におけるデータソースとなり得る。たとえば、資金資金に関する情報は、資金提供機関が科学技術の発展に与える影響を調査したり、評価したりする目的で活用される。[75]

研究課題と調整
[編集]
リスク・ガバナンス
[編集]

科学コミュニケーションと公共利用

[編集]

「科学には、グローバルな公共財としての価値を支える2つの基本的な特性がある」と主張されている。 その特性とは、

1.知識の主張とその根拠となる証拠が公開され、検証にさらされること

2.科学研究の成果が迅速かつ効率的に伝達されること

である。[76] メタサイエンスの研究では、サイエンスコミュニケーションに関するさまざまなトピック、たとえば科学報道のメディアでの扱い、科学ジャーナリズム、科学の教育者や科学研究者によるオンラインでの成果発信などが取り上げられている。[77][78][79][80] ある研究では、学術界でソーシャルメディアの利用に対して与えられている主なインセンティブは「情報拡散(amplification)」であるとされ、さらに今後は、こうしたプラットフォームが研究との「実質的な関与(real engagement)」を促進するための、より制度的な文化への転換が必要であると指摘されている。[81] また、科学コミュニケーションには、社会的なニーズ・関心・要望を科学者に伝えるという役割も含まれる。

自然科学および技術科学における気候変動研究への資金提供と、社会科学および人文科学における資金提供との比較[82]
ノーベル賞に関連する科学論文のクラスターネットワーク
がん研究における実験の再現性を実施する際の障壁、再現性プロジェクト:Cancer Biology

脚注

[編集]
  1. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  2. ^ On communicating science and uncertainty: A podcast with John Ioannidis”. Scope (2015年12月8日). 2019年5月20日閲覧。
  3. ^ Schor, Stanley; Karten, Irving (March 28, 1966). “Statistical Evaluation of Medical Journal Manuscripts” (英語). Journal of the American Medical Association 195 (13): 1123–1128. doi:10.1001/jama.1966.03100130097026. PMID 5952081. https://jamanetwork.com/journals/jama/article-abstract/658800. 
  4. ^ Pashler, Harold; Harris, Christine R. (2012). “Is the Replicability Crisis Overblown? Three Arguments Examined” (英語). Perspectives on Psychological Science 7 (6): 531–536. doi:10.1177/1745691612463401. ISSN 1745-6916. PMID 26168109. http://journals.sagepub.com/doi/10.1177/1745691612463401. 
  5. ^ Nishikawa-Pacher, Andreas; Heck, Tamara; Schoch, Kerstin (4 October 2022). “Open Editors: A dataset of scholarly journals' editorial board positions”. Research Evaluation 32 (2): 228–243. doi:10.1093/reseval/rvac037. ISSN 0958-2029. 
  6. ^ Ioannidis, JP (August 2005). “Why most published research findings are false.”. PLOS Medicine 2 (8): e124. doi:10.1371/journal.pmed.0020124. PMC 1182327. PMID 16060722. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1182327/. 
  7. ^ Schor, Stanley (1966). “Statistical Evaluation of Medical Journal Manuscripts”. JAMA: The Journal of the American Medical Association 195 (13): 1123–1128. doi:10.1001/jama.1966.03100130097026. ISSN 0098-7484. PMID 5952081. 
  8. ^ Comroe, Julius; Comroe, Robert (1976). “Scientific Basis for the Support of Biomedical Science.”. Science 192 (4235): 105–11. Bibcode1976Sci...192..105C. doi:10.1126/science.769161. JSTOR 1741888. PMID 769161. https://www.jstor.org/stable/1741888 2023年12月14日閲覧。. 
  9. ^ Ioannidis, JP (August 2005). “Why most published research findings are false.”. PLOS Medicine 2 (8): e124. doi:10.1371/journal.pmed.0020124. PMC 1182327. PMID 16060722. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1182327/. 
  10. ^ Highly Cited Researchers”. 2015年9月17日閲覧。
  11. ^ Medicine - Stanford Prevention Research Center. John P.A. Ioannidis
  12. ^ Robert Lee Hotz (2007年9月14日). “Most Science Studies Appear to Be Tainted By Sloppy Analysis”. Wall Street Journal (Dow Jones & Company). https://www.wsj.com/articles/SB118972683557627104 2016年12月5日閲覧。 
  13. ^ Howick J, Koletsi D, Pandis N, Fleming PS, Loef M, Walach H, Schmidt S, Ioannidis JA. The quality of evidence for medical interventions does not improve or worsen: a metaepidemiological study of Cochrane reviews. Journal of Clinical Epidemiology 2020;126:154–159
  14. ^ “Researching the researchers”. Nature Genetics 46 (5): 417. (2014). doi:10.1038/ng.2972. ISSN 1061-4036. PMID 24769715. 
  15. ^ Enserink, Martin (2018). “Research on research”. Science 361 (6408): 1178–1179. Bibcode2018Sci...361.1178E. doi:10.1126/science.361.6408.1178. ISSN 0036-8075. PMID 30237336. 
  16. ^ Rennie, Drummond (1990). “Editorial Peer Review in Biomedical Publication”. JAMA 263 (10): 1317–1441. doi:10.1001/jama.1990.03440100011001. ISSN 0098-7484. PMID 2304208. 
  17. ^ Harriman, Stephanie L.; Kowalczuk, Maria K.; Simera, Iveta; Wager, Elizabeth (2016). “A new forum for research on research integrity and peer review”. Research Integrity and Peer Review 1 (1): 5. doi:10.1186/s41073-016-0010-y. ISSN 2058-8615. PMC 5794038. PMID 29451544. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5794038/. 
  18. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  19. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  20. ^ Fanelli, Daniele; Costas, Rodrigo; Ioannidis, John P. A. (2017). “Meta-assessment of bias in science”. Proceedings of the National Academy of Sciences of the United States of America 114 (14): 3714–3719. Bibcode2017PNAS..114.3714F. doi:10.1073/pnas.1618569114. ISSN 1091-6490. PMC 5389310. PMID 28320937. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5389310/. 
  21. ^ Check Hayden, Erika (2013). “Weak statistical standards implicated in scientific irreproducibility” (英語). Nature. doi:10.1038/nature.2013.14131. https://www.nature.com/news/weak-statistical-standards-implicated-in-scientific-irreproducibility-1.14131 2019年5月9日閲覧。. 
  22. ^ Krauss, A (2024). Science of Science: Understanding the Foundations and Limits of Science from an Interdisciplinary Perspective. Oxford University Press. doi:10.1093/9780198937401.001.0001. ISBN 978-0-19-893740-1. https://doi.org/10.1093/9780198937401.001.0001 
  23. ^ Markowitz, David M.; Hancock, Jeffrey T. (2016). “Linguistic obfuscation in fraudulent science”. Journal of Language and Social Psychology 35 (4): 435–445. doi:10.1177/0261927X15614605. 
  24. ^ Ding, Y. (2010). “Applying weighted PageRank to author citation networks”. Journal of the American Society for Information Science and Technology 62 (2): 236–245. arXiv:1102.1760. doi:10.1002/asi.21452. 
  25. ^ Galipeau, James; Moher, David; Campbell, Craig; Hendry, Paul; Cameron, D. William; Palepu, Anita; Hébert, Paul C. (March 2015). “A systematic review highlights a knowledge gap regarding the effectiveness of health-related training programs in journalology” (英語). Journal of Clinical Epidemiology 68 (3): 257–265. doi:10.1016/j.jclinepi.2014.09.024. PMID 25510373. 
  26. ^ Wilson, Mitch; Moher, David (March 2019). “The Changing Landscape of Journalology in Medicine” (英語). Seminars in Nuclear Medicine 49 (2): 105–114. doi:10.1053/j.semnuclmed.2018.11.009. hdl:10393/38493. PMID 30819390. 
  27. ^ Couzin-Frankel, Jennifer (18 September 2018). “'Journalologists' use scientific methods to study academic publishing. Is their work improving science?”. Science. doi:10.1126/science.aav4758. 
  28. ^ Couzin-Frankel, Jennifer (18 September 2018). “'Journalologists' use scientific methods to study academic publishing. Is their work improving science?”. Science. doi:10.1126/science.aav4758. 
  29. ^ Couzin-Frankel, Jennifer (18 September 2018). “'Journalologists' use scientific methods to study academic publishing. Is their work improving science?”. Science. doi:10.1126/science.aav4758. 
  30. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  31. ^ Schooler, J. W. (2014). “Metascience could rescue the 'replication crisis'”. Nature 515 (7525): 9. Bibcode2014Natur.515....9S. doi:10.1038/515009a. PMID 25373639. 
  32. ^ Smith, Noah (2017年11月2日). “Why 'Statistical Significance' Is Often Insignificant”. Bloomberg.com. https://www.bloomberg.com/view/articles/2017-11-02/why-statistical-significance-is-often-insignificant 2017年11月7日閲覧。 
  33. ^ Pashler, Harold; Wagenmakers, Eric Jan (2012). “Editors' Introduction to the Special Section on Replicability in Psychological Science: A Crisis of Confidence?”. Perspectives on Psychological Science 7 (6): 528–530. doi:10.1177/1745691612465253. PMID 26168108. 
  34. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  35. ^ Gary Marcus (May 1, 2013). “The Crisis in Social Psychology That Isn't”. The New Yorker. http://www.newyorker.com/tech/elements/the-crisis-in-social-psychology-that-isnt. 
  36. ^ Jonah Lehrer (December 13, 2010). “The Truth Wears Off”. The New Yorker. http://www.newyorker.com/magazine/2010/12/13/the-truth-wears-off. 
  37. ^ “Dozens of major cancer studies can't be replicated”. Science News. (2021年12月7日). https://www.sciencenews.org/article/cancer-biology-studies-research-replication-reproducibility 2022年1月19日閲覧。 
  38. ^ Reproducibility Project: Cancer Biology” (英語). www.cos.io. Center for Open Science. 2022年1月19日閲覧。
  39. ^ Staddon, John (2017) Scientific Method: How science works, fails to work or pretends to work. Taylor and Francis.
  40. ^ Yeung, Andy W. K. (2017). “Do Neuroscience Journals Accept Replications? A Survey of Literature” (英語). Frontiers in Human Neuroscience 11: 468. doi:10.3389/fnhum.2017.00468. ISSN 1662-5161. PMC 5611708. PMID 28979201. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5611708/. 
  41. ^ Martin, G. N.; Clarke, Richard M. (2017). “Are Psychology Journals Anti-replication? A Snapshot of Editorial Practices” (英語). Frontiers in Psychology 8: 523. doi:10.3389/fpsyg.2017.00523. ISSN 1664-1078. PMC 5387793. PMID 28443044. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5387793/. 
  42. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  43. ^ Ioannidis, John P. A.; Fanelli, Daniele; Dunne, Debbie Drake; Goodman, Steven N. (2 October 2015). “Meta-research: Evaluation and Improvement of Research Methods and Practices”. PLOS Biology 13 (10): e1002264. doi:10.1371/journal.pbio.1002264. ISSN 1544-9173. PMC 4592065. PMID 26431313. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4592065/. 
  44. ^ Binswanger, Mathias (2015). “How Nonsense Became Excellence: Forcing Professors to Publish”. In Welpe, Isabell M.; Wollersheim, Jutta; Ringelhan, Stefanie et al. (英語). Incentives and Performance. Springer International Publishing. pp. 19–32. doi:10.1007/978-3-319-09785-5_2. ISBN 978-3319097855 
  45. ^ Edwards, Marc A.; Roy, Siddhartha (2016-09-22). “Academic Research in the 21st Century: Maintaining Scientific Integrity in a Climate of Perverse Incentives and Hypercompetition”. Environmental Engineering Science 34 (1): 51–61. doi:10.1089/ees.2016.0223. PMC 5206685. PMID 28115824. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5206685/. 
  46. ^ Blame bad incentives for bad science” (英語). Science News (2016年10月21日). 2019年7月11日閲覧。
  47. ^ Smaldino, Paul E.; McElreath, Richard (2016). “The natural selection of bad science” (英語). Royal Society Open Science 3 (9): 160384. arXiv:1605.09511. Bibcode2016RSOS....360384S. doi:10.1098/rsos.160384. PMC 5043322. PMID 27703703. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5043322/. 
  48. ^ Chapman, Colin A.; Bicca-Marques, Júlio César; Calvignac-Spencer, Sébastien; Fan, Pengfei; Fashing, Peter J.; Gogarten, Jan; Guo, Songtao; Hemingway, Claire A. et al. (4 December 2019). “Games academics play and their consequences: how authorship, h -index and journal impact factors are shaping the future of academia” (英語). Proceedings of the Royal Society B: Biological Sciences 286 (1916): 20192047. doi:10.1098/rspb.2019.2047. ISSN 0962-8452. PMC 6939250. PMID 31797732. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6939250/. 
  49. ^ Holcombe, Alex O. (September 2019). “Contributorship, Not Authorship: Use CRediT to Indicate Who Did What” (英語). Publications 7 (3): 48. doi:10.3390/publications7030048. 
  50. ^ McNutt, Marcia K.; Bradford, Monica; Drazen, Jeffrey M.; Hanson, Brooks; Howard, Bob; Jamieson, Kathleen Hall; Kiermer, Véronique; Marcus, Emilie et al. (13 March 2018). “Transparency in authors' contributions and responsibilities to promote integrity in scientific publication” (英語). Proceedings of the National Academy of Sciences 115 (11): 2557–2560. Bibcode2018PNAS..115.2557M. doi:10.1073/pnas.1715374115. ISSN 0027-8424. PMC 5856527. PMID 29487213. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5856527/. 
  51. ^ Brand, Amy; Allen, Liz; Altman, Micah; Hlava, Marjorie; Scott, Jo (1 April 2015). “Beyond authorship: attribution, contribution, collaboration, and credit”. Learned Publishing 28 (2): 151–155. doi:10.1087/20150211. https://www.researchgate.net/publication/274098676. 
  52. ^ Singh Chawla, Dalmeet (October 2015). “Digital badges aim to clear up politics of authorship” (英語). Nature 526 (7571): 145–146. Bibcode2015Natur.526..145S. doi:10.1038/526145a. ISSN 1476-4687. PMID 26432249. 
  53. ^ Fire, Michael; Guestrin, Carlos (1 June 2019). “Over-optimization of academic publishing metrics: observing Goodhart's Law in action”. GigaScience 8 (6): giz053. doi:10.1093/gigascience/giz053. PMC 6541803. PMID 31144712. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6541803/. 
  54. ^ Elson, Malte; Huff, Markus; Utz, Sonja (1 March 2020). “Metascience on Peer Review: Testing the Effects of a Study's Originality and Statistical Significance in a Field Experiment” (英語). Advances in Methods and Practices in Psychological Science 3 (1): 53–65. doi:10.1177/2515245919895419. ISSN 2515-2459. https://psyarxiv.com/gyds8/. 
  55. ^ McLean, Robert K D; Sen, Kunal (1 April 2019). “Making a difference in the real world? A meta-analysis of the quality of use-oriented research using the Research Quality Plus approach”. Research Evaluation 28 (2): 123–135. doi:10.1093/reseval/rvy026. 
  56. ^ Bringing Rigor to Relevant Questions: How Social Science Research Can Improve Youth Outcomes in the Real World”. 2021年11月22日閲覧。
  57. ^ Fecher, Benedikt; Friesike, Sascha; Hebing, Marcel; Linek, Stephanie (20 June 2017). “A reputation economy: how individual reward considerations trump systemic arguments for open access to data” (英語). Palgrave Communications 3 (1): 1–10. doi:10.1057/palcomms.2017.51. hdl:11108/308. ISSN 2055-1045. 
  58. ^ La Porta, Caterina AM; Zapperi, Stefano (1 December 2022). “America's top universities reap the benefit of Italian-trained scientists” (英語). Nature Italy. doi:10.1038/d43978-022-00163-5. https://www.nature.com/articles/d43978-022-00163-5 2022年12月18日閲覧。. 
  59. ^ Leydesdorff, L. and Milojevic, S., "Scientometrics" arXiv:1208.4566 (2013), forthcoming in: Lynch, M. (editor), International Encyclopedia of Social and Behavioral Sciences subsection 85030. (2015)
  60. ^ 引用エラー: 無効な <ref> タグです。「10.1093/gigascience/giz053」という名前の注釈に対するテキストが指定されていません
  61. ^ 引用エラー: 無効な <ref> タグです。「10.1093/9780198937401.001.0001」という名前の注釈に対するテキストが指定されていません
  62. ^ Singh, Navinder (8 October 2021). "Plea to publish less". arXiv:2201.07985 [physics.soc-ph]。
  63. ^ Manchanda, Saurav; Karypis, George (November 2021). “Evaluating Scholarly Impact: Towards Content-Aware Bibliometrics”. Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing. Association for Computational Linguistics. pp. 6041–6053. doi:10.18653/v1/2021.emnlp-main.488 
  64. ^ Importance Assessment in Scholarly Networks”. Template:Cite webの呼び出しエラー:引数 accessdate は必須です。
  65. ^ Nielsen, Kristian H. (1 March 2021). “Science and public policy” (英語). Metascience 30 (1): 79–81. doi:10.1007/s11016-020-00581-5. ISSN 1467-9981. PMC 7605730. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7605730/. 
  66. ^ Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. pp. 229–237. ISBN 978-0199678112 
  67. ^ Ord, Toby (2020). The Precipice: Existential Risk and the Future of Humanity. United Kingdom: Bloomsbury Publishing. p. 200. ISBN 978-1526600219 
  68. ^ Technology is changing faster than regulators can keep up - here's how to close the gap” (英語). World Economic Forum (2018年6月21日). 2022年1月27日閲覧。
  69. ^ “Nobel prize-winning work is concentrated in minority of scientific fields” (英語). phys.org. https://phys.org/news/2020-07-nobel-prize-winning-minority-scientific-fields.html 2020年8月17日閲覧。 
  70. ^ Ioannidis, John P. A.; Cristea, Ioana-Alina; Boyack, Kevin W. (29 July 2020). “Work honored by Nobel prizes clusters heavily in a few scientific fields” (英語). PLOS ONE 15 (7): e0234612. Bibcode2020PLoSO..1534612I. doi:10.1371/journal.pone.0234612. ISSN 1932-6203. PMC 7390258. PMID 32726312. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7390258/. 
  71. ^ Nielsen, Kristian H. (1 March 2021). “Science and public policy” (英語). Metascience 30 (1): 79–81. doi:10.1007/s11016-020-00581-5. ISSN 1467-9981. PMC 7605730. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7605730/. 
  72. ^ Fortunato, Santo; Bergstrom, Carl T.; Börner, Katy; Evans, James A.; Helbing, Dirk; Milojević, Staša; Petersen, Alexander M.; Radicchi, Filippo et al. (2 March 2018). “Science of science”. Science 359 (6379): eaao0185. doi:10.1126/science.aao0185. PMC 5949209. PMID 29496846. https://www.researchgate.net/publication/323502497 2021年11月22日閲覧。. 
  73. ^ Elson, Malte; Huff, Markus; Utz, Sonja (1 March 2020). “Metascience on Peer Review: Testing the Effects of a Study's Originality and Statistical Significance in a Field Experiment” (英語). Advances in Methods and Practices in Psychological Science 3 (1): 53–65. doi:10.1177/2515245919895419. ISSN 2515-2459. https://psyarxiv.com/gyds8/. 
  74. ^ Fire, Michael; Guestrin, Carlos (1 June 2019). “Over-optimization of academic publishing metrics: observing Goodhart's Law in action”. GigaScience 8 (6): giz053. doi:10.1093/gigascience/giz053. PMC 6541803. PMID 31144712. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6541803/. 
  75. ^ Fajardo-Ortiz, David; Hornbostel, Stefan; Montenegro de Wit, Maywa; Shattuck, Annie (22 June 2022). “Funding CRISPR: Understanding the role of government and philanthropic institutions in supporting academic research within the CRISPR innovation system”. Quantitative Science Studies 3 (2): 443–456. arXiv:2009.11920. doi:10.1162/qss_a_00187. 
  76. ^ Science as a Global Public Good”. International Science Council (2021年10月8日). 2021年11月22日閲覧。
  77. ^ Jamieson, Kathleen Hall; Kahan, Dan; Scheufele, Dietram A. (17 May 2017) (英語). The Oxford Handbook of the Science of Science Communication. Oxford University Press. ISBN 978-0190497637. https://books.google.com/books?id=hSgmDwAAQBAJ&pg=PA51 
  78. ^ Grochala, Rafał (16 December 2019) (英語). Science communication in online media: influence of press releases on coverage of genetics and CRISPR. doi:10.1101/2019.12.13.875278. https://www.biorxiv.org/content/10.1101/2019.12.13.875278v1.abstract. 
  79. ^ G. Manickam Govindaraju; Kalei Joethi Sahadevan; Tan Poh Ling (February 2019). “Framing Analysis of News Coverage on Renewable Energy in the Star Online News Portal”. Journal of Engineering Science and Technology. http://jestec.taylors.edu.my/Special%20Issue%20on%20SU18/SU18_04.pdf 2021年11月22日閲覧。. 
  80. ^ MacLaughlin, Ansel; Wihbey, John; Smith, David (15 June 2018). “Predicting News Coverage of Scientific Articles” (英語). Proceedings of the International AAAI Conference on Web and Social Media 12 (1). doi:10.1609/icwsm.v12i1.14999. ISSN 2334-0770. https://ojs.aaai.org/index.php/ICWSM/article/view/14999. 
  81. ^ Carrigan, Mark; Jordan, Katy (4 November 2021). “Platforms and Institutions in the Post-Pandemic University: a Case Study of Social Media and the Impact Agenda” (英語). Postdigital Science and Education 4 (2): 354–372. doi:10.1007/s42438-021-00269-x. ISSN 2524-4868. 
  82. ^ Overland, Indra; Sovacool, Benjamin K. (1 April 2020). “The misallocation of climate research funding” (英語). Energy Research & Social Science 62: 101349. Bibcode2020ERSS...6201349O. doi:10.1016/j.erss.2019.101349. hdl:11250/2647605. ISSN 2214-6296.