文章快速检索     高级检索
  科学与社会  2026, Vol. 16 Issue (3): 37-53  

引用本文 

浦江淮, 赵小龙. 迈向认识论奇点:人工智能、不透明性与科学发现的新规范[J]. 科学与社会, 2026, 16(3): 37-53.
PU Jiang-huai, ZHAO Xiao-long. Toward an Epistemological Singularity: Artificial intelligence, opacity, and new norms for scientific discovery[J]. Science and Society, 2026, 16(3): 37-53. DOI: 10.19524/j.cnki.10-1009/g3.2026.03.037.

作者简介

浦江淮,南京大学哲学学院博士研究生。研究方向为科学哲学、人工智能哲学等;
赵小龙,南京大学哲学学院博士研究生。研究方向为科技哲学、美学理论等

项目资助

国家社会科学基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”(20&ZD045)。

迈向认识论奇点:人工智能、不透明性与科学发现的新规范
浦江淮, 赵小龙     
南京大学哲学学院
摘要: 在计算生物学、材料科学等高度依赖数据的实验科学或计算科学领域,科学发现的有效性辩护日益锚定于模型在特定任务中的预测精度、工具效用与干预可靠性。模型的不透明性并非认知障碍,而是推动当代科学认识论结构重组的内生动力。那么,当高精度但低可解释性的计算成果被科学实践持续采纳并获得制度化承认时,科学知识的生成是否可能与人类理解发生脱钩?为回应这一追问,尝试提出“认识论奇点”概念,用以指称科学发现的有效性辩护不再必然依赖人类可理解的解释结构,而是锚定于以计算系统、制度化验证与实践稳定性为核心的可靠性机理的历史性转折。通过考察这一转折得以显现的实践与理论背景,界定“认识论奇点”的概念内涵并提出相应判据,讨论“后奇点”语境下科学认识论面临的若干核心问题,可以论证这一历史性转折。
关键词: 人工智能    科学发现    认识论奇点    不透明性    科学正当性    
中图分类号: B028           文献标识码: A
DOI: 10.19524/j.cnki.10-1009/g3.2026.03.037

目前,在蛋白质结构预测、材料性质推断等前沿科学领域,人工智能在预测精度和求解效率方面显著超越传统方法,并推动多项重要科研进展。从能力结构来看,人工智能在科学实践中的作用大体可区分为识别、预测与生成三个方面:识别能力体现在对复杂模式的提取与分类(如高通量成像中的关键特征鉴定);生成能力体现为对新结构或新方案的构造(如分子设计中的新型化合物合成);预测能力则指向对未知状态或结果的前瞻性推断。从技术视角来看,这三类能力在底层上均依赖于对数据分布的学习与概率结构的刻画,因而在一定意义上可被理解为“统计预测”在不同任务情境中的展开。然而,就科学认识论而言,预测能力具有更为基础性的意义。这不仅因为预测直接关联科学理论的经验检验与实践采纳,更重要的是,在深度学习语境下,人工智能所依赖的统计性概率推断与科学哲学中以机理解释为导向的预测之间存在重要差异 ①。当前模型运行机理的高度复杂性与不透明性使得基于统计性概率推断的高精度预测往往伴随着人类可理解解释的缺席。这种在缺乏机理揭示的条件下依然被接受的高效预测,最直接地冲击了传统科学“理解优先”的正当性(justification)结构 ②。由此形成的“AI for Science”科研范式,在重塑科学发现实践的同时,也史无前例地凸显出“预测成功”与“理解匮乏”之间的深层张力。

围绕这一张力,既有研究从不同角度展开分析。其中,保罗·汉弗莱斯(Paul Humphreys)提出“本质认识论不透明性”(essential epistemic opacity)概念,用以刻画复杂计算系统在规模、并行性与速度等方面对人类理解能力的超越[1],这一判断直接挑战了以人类可理解性为核心的传统认识论预设。埃蒙·杜德(Eamon Duede)等学者尝试通过将认识论评估情境化,从而论证模型不透明性未必削弱科学发现的正当性[2]。与此同时,计算机科学领域则试图以可解释人工智能等技术手段缓解模型黑箱问题。然而,多项哲学反思已指出,此类“解释”往往侧重于满足用户理解需求或提供事后合理化叙述,与科学解释所追求的机理揭示或理论统一存在根本差异[3-4]。总体而言,受传统科学哲学侧重“理论导向”与因果机理解释的影响,这些讨论大多坚持以“理解”为认识前提,倾向于将不透明性视为一种需要被纠正的异常状态。然而,在计算生物学、材料科学等高度依赖数据的实验科学或计算科学领域,科学发现的有效性辩护已逐渐发生转移,不再单纯诉诸理论解释的完备性,而是日益锚定于模型在特定任务中的预测精度、工具效用与干预可靠性。

在这一背景下,我们不妨将不透明性理解为推动当代科学认识论结构发生深层重组的内生动力,并由此提出一个更为根本的问题:当高预测准确性但低可解释性的计算成果在科学实践中被持续采纳,并逐步获得制度化承认时 ③,科学知识的生成是否可能与人类理解发生脱钩?

为回应这一问题,我们尝试提出“认识论奇点”概念,用以指称这样一个历史性转折。在该转折点上,科学发现的有效性辩护不再必然依赖人类可理解的解释结构,而是锚定于以计算系统、制度化验证与实践稳定性为核心的可靠性机理。具体论证安排如下:首先,考察这一转折得以显现的实践与理论背景;其次,界定“认识论奇点”的概念内涵并提出相应判据;最后,讨论“后奇点”语境下科学认识论面临的若干核心问题。

一、人工智能科学发现中的认识论断裂

在近代科学认识论的经典框架中,“预测”(prediction)、“解释”(explanation)与“理解”(understanding)并非彼此孤立的认识活动,而是一种互相交织且相对稳定的规范性结构。其中,预测通常被定义为对未来或未观测现象的经验判断,其认识论价值并不单纯来源于结果的准确性,而在于它能够作为检验理论合理性与评估科学主张可信度的重要经验依据。解释则指通过揭示规律、因果机理或生成结构,使经验现象在逻辑上变得可说明(accountable)。而理解特指一种主体的认知状态,即认知主体能够在反思意义上把握解释结构,并据此进行推理、迁移与评估。解释通常被视为理解的前提,而预测的正当性则以主体理解为规范基础。由此,近代科学理性长期维系着一种隐含前提,即科学知识应当同时满足“经验上的预测成功”与“认知上的理解可达”这两项要求。

然而,在当代科学实践中,这一规范结构正面临严峻挑战。在许多情境中,人工智能模型能够在缺乏可还原推理路径和机理说明的情况下,持续产出高度可靠的预测结果。由此,预测成功与解释性理解之间的传统耦合关系开始松动,并呈现出“脱钩”的趋势 ④。在这一背景下,“认识论奇点”的可能性成为一个可以被严肃讨论的问题。

1. 解释—预测关系的结构演变

在逻辑经验主义传统中,解释与预测通常被视为同一逻辑结构的不同展开方式。卡尔·亨普尔(Carl Hempel)与保罗·奥本海默(Paul Oppenheim)提出的“演绎-律则模型”确立了著名的“对称性论题”(symmetry thesis),即由于在对某一特定事件的完整D-N解释中,解释项逻辑地蕴含了被解释项,我们可以说,如果解释项中提出的规律和具体事实在更早的适当时间已被知晓并加以考虑,那么该解释论证或许可以用于对被解释项事件进行演绎预测。从这个意义上讲,D-N解释是一种潜在的D-N预测[5]。在此框架内,解释的效力被严格等同于基于律则的预测能力。这一论题表达了一种认识论预设,即预测的有效性源于人类理智可理解的普遍律则或解释结构;而预测的准确性本身并非独立的知识终点,而是解释成功的经验确证。

然而自20世纪中叶以来,“对称性论题”遭遇严峻挑战。迈克尔·斯克里文(Michael Scriven)的“梅毒与麻痹性痴呆”反例与“气压计案例”瓦解了解释与预测之间严格的逻辑对称性[6],表明预测成功并不逻辑地蕴含解释有效性,高相关性的预测亦可能缺乏解释力。然而,这些反例并未动摇理解在科学认识中的核心地位。相反,随着后逻辑经验主义的转向,科学哲学逐步放弃对形式对称性的坚持,将关注重心转向解释的内容条件。无论是韦斯利·萨尔蒙(Wesley Salmon)的因果-机理进路,还是詹姆斯·伍德沃德(James Woodward)的干预主义模型,都强调科学解释的任务在于揭示现象背后的因果结构,而非仅仅复现预测结果。

在这一理论框架中,预测虽被视为科学活动的重要成果,却并未获得独立的认识论地位。若无法为预测结果提供关于“为何如此”的解释性说明,那么其只能被视为工具性的成就。因此,尽管预测与解释在逻辑上可以区分,但在正当性评价中,预测必须通过主体对解释结构的理解才能获得承认。科学知识的可信性由此锚定于因果机理的可理解性,而非预测结果本身的经验成功。

2. 实践的发展:从预测性建模到算法黑箱

进入21世纪,随着复杂性科学与大数据的兴起,上述以“理解”为核心的认识论规范开始在科学实践的前沿遭遇实质性挑战。利奥·布雷曼(Leo Breiman)指出,统计实践中长期并存两种方法论取向:其一是以数据建模为核心的文化。它假设数据由相对简单且可理解的随机机理(如线性回归)生成,旨在通过参数估计来还原变量间的真实结构,这延续了经典科学“求真”的理想;其二是以算法建模为导向的文化。它承认自然界的复杂性往往超出特定函数形式的涵盖范围,因而将系统视为“黑箱”,并将最小化预测误差确立为建模的最高准则[7]。加利特·施穆利(Galit Shmueli)进一步从统计学原理层面揭示了二者的张力:为了追求预测的稳健性(降低方差),算法往往必须主动引入偏差(如正则化),这在数学上意味着为了“求准”而不得不部分牺牲对潜在因果结构的真实描绘[8]。

上述发展表明,在统计学与数据科学语境中,解释与预测之间的关系已发生深刻变化,预测的成功不再严格依赖对真实机理的再现。迈克尔·毕晓普(Michael A. Bishop)等人关于统计预测规则的研究进一步印证了该变化。他们指出,简单的统计预测规则在医疗诊断、社会风险评估等任务中表现出显著高于人类专家的可靠性,这促使科学哲学重新评估预测成功本身的认识论地位,并动摇了长期将解释性理解置于预测控制之上的规范排序[9]。

由此,预测不再仅是解释的副产品,而开始以相对独立的方式获得实践认可。并且,随着深度学习等人工智能方法的广泛应用,这一取向被进一步强化。需要强调的是,这一转向并不意味着解释在科学实践中被简单取代,而是引入了一种新的规范性张力,即预测有效性与解释可理解性之间的断裂。当深度学习模型在缺乏可还原推理路径和机理说明的情况下,仍能持续产生高度可靠的预测结果时,预测的正当性逐渐脱离解释性理解而获得独立地位[10]。

事实上,人工智能介入科学实践并不必然导致预测与理解的断裂,这一结果取决于具体计算体系的表征方式。早期专家系统以显式符号和规则为知识载体,其推理过程在原则上可被理解与复现[11],其不透明性主要源于规模与认知资源限制,属于可消解的“弱不透明性” ⑥。相比之下,深度学习模型依赖高维分布式表征,其内部参数更新与人类可识别的概念单位之间缺乏稳定映射关系,内部状态难以转化为可理解的符号或因果结构[12]。这种不透明性源于表征层面的结构性断裂,属于“强不透明性”。在此条件下,主体无法在原则上访问完整推理路径,理解不再是预测生成的必要条件。

因此,强不透明性的出现带来预测与解释之间关系的断裂。无论是AlphaFold2在缺乏动力学解释的情况下实现高精度结构预测,还是材料发现系统在理论机理尚未明确时生成大量候选结构,这些实践均表明,预测能力可以在缺乏相应解释结构的条件下独立增长。由此,预测与解释之间的规范性关联不再具有必然性,而转变为一种情境依赖的可选关系,这类科学实践也逐渐呈现出预测优先、解释滞后甚至缺席的特征。

3. 弥合断裂的主要路径及其困境

在预测与解释的结构发生断裂之后,一种直观回应是将相关困难视为暂时性的技术不足,并寄希望于可解释人工智能的发展来消解模型不透明性。当前主流的可解释人工智能方法多采用事后解释路径,如SHAP、LIME或注意力可视化等。这类方法在工程实践中具有价值,但若以科学解释的认识论标准衡量,其局限便随之显现。

首先,事后解释所揭示的主要是统计相关结构,而非因果或机理结构。特征归因结果或热力图只能表明哪些输入变量在数值变化上对输出敏感,却无法回答这些变量为何在因果意义上具有解释力。因此,这类解释并未回答“为何如此”,而只是描述模型在统计意义上如何运作[13]。其次,事后解释面临一个原则性张力,即保真度(fidelity)与可解释性(interpretability)之间的不可兼容性。解释模型若足够简化以便理解,便难以忠实反映原模型的高维非线性结构;而若追求高度保真,其复杂性又会逼近原模型,从而丧失可解释性[14]。这一张力并非工程取舍问题,而源于高维表征与人类低维认知能力之间的不匹配。最后,事后解释在经验上表现出显著的不稳定性。在预测结果保持不变的情况下,解释输出可能对微小扰动高度敏感[15]。这一现象表明,部分解释结果可能并非模型推断结构的稳健表征。若解释本身缺乏稳定性,其为科学知识辩护的认识论地位便难以成立。因此应当承认,事后解释路径所提供的解释类型,在结构上并未与近代科学所确立的解释规范对齐。它提供的是一种基于相关性的合理化框架,而非揭示模型生成结构的机理性说明,其认识论功能因而需要被严格限定[16]。

近年来,人工智能可解释性研究中出现了以“机理可解释性”(Mechanistic Interpretability,MI)为代表的路线,试图通过分析神经网络的权重、激活模式与计算回路,在模型内部层面重建其推断结构。这一路线不再满足于事后行为拟合,而是直接挑战“本质不透明性”的判断。在局部层面,MI已取得一定进展,例如对Transformer模型中具体计算回路的识别,揭示了模型实现上下文依赖与模式延展的方式[17]。这些成果表明,深度学习模型并非在所有层面上都不可理解,其内部确实存在可分析的计算结构。然而,即便承认MI在局部层面的进展,也不足以恢复以主体理解为中心的传统解释规范。其根本原因在于,高预测性能并不必然依赖可压缩、可陈述的中介结构。正如“计算不可约性”(computational irreducibility)所揭示的,对于某些复杂系统,其精确行为在原则上不存在比逐步运行系统本身更为简洁的描述[18]。这意味着,深度学习所捕捉的高维规律可能本质上不可压缩,任何将其转化为人类可理解形式的尝试都不可避免地损失关键信息。因此,理解即便可能获得,也往往是局部的、工具性的[19]。

综上所述,人工智能在科学实践中引入的强不透明性,并未宣告解释或理解的终结,而是动摇了以人类理解为中心的解释规范。预测能力可以在相当程度上脱离理解而独立增长,解释也不再是预测成功的必然伴随物。由此,人工智能并非取消了理解,而是推动了理解的“去中心化”,理解仍具认识价值,但不再构成所有科学实践的规范核心。当代科学正是在这一意义上逐渐被推向了“认识论奇点”这个关键的临界状态。

二、认识论奇点

在强不透明模型逐渐确立为科学实践重要工具的情境下,一个严峻的规范性问题随之浮现:当研究者在原则上无法理解模型的生成路径时,科学共同体依据何种认知标准,能够允许这些输出作为可信证据、核心假说乃至决策依据被纳入科学知识体系?换言之,在“理解”缺席的条件下,知识的“可采纳性”究竟由何支撑?

随着深度学习在诸多领域持续展现出稳定的经验优势,传统以“主体可理解性”为前提的正当性框架已难以为继,因而逐渐转向一种以外在、制度化的可靠性检验为核心的新机制。我们可以将这一结构性转折概念化为“认识论奇点”,以指称科学知识的生产机制与人类理解机理之间出现的稳定脱耦,并经由制度化实践被自然化为新的常态。

1. 概念界定与操作性判据

首先必须澄清,此处所构建的“认识论奇点”在概念谱系上严格区别于弗诺·文奇(Vernor Vinge)或雷·库兹韦尔(Ray Kurzweil)在未来学和超人类主义语境下提出的“技术奇点”(technological singularity)[20]。后者通常指代智能主体的通用能力呈指数级增长并最终超越人类智能总和的假设性历史节点,带有强烈的思辨色彩和末世论意味。相比之下,本文提出的“认识论奇点”既不预设某个未来时间点的“智能爆发”,也不等同于一般意义上的“算力飞跃”,而是指科学知识的生产机制与人类理解机理在系统内部形成稳定分化,并被科学共同体的制度结构加以“合法化”的临界状态。

为了确立该概念的分析效力,我们提出判定某一科学领域进入“认识论奇点”的四个必要且充分的操作性判据。它们互为支撑,共同刻画了认识论断裂的完整图景。

第一,经验效果取得绝对优势。在不透明性与辩护结构发生转变之前,模型必须在经验层面展现出足以压倒传统方法的性能优势。这种优势不是边际性的(如提高1%—2%的准确率),而是绝对性的,即算法系统在核心任务中表现出相对于人类认知方法或传统计算方法的“代际差”。这种绝对优势具备两个特征:其一,稳健性,即它并非偶然出现,而是能经受多周期盲测(blind tests)和跨中心独立实验的重复验证;其二,跨越性,即其性能表现往往突破了传统方法的理论极限。以AlphaFold在CASP14中的表现为例,其GDT得分达到92.4,不仅远超第二名,更直接逼近冷冻电镜等物理实验的精度上限[21]。这种“碾压式”的性能优势确立了该领域的性能稳态,从而在事实层面上对“可理解性”形成了巨大的压力,即便人类并不真正理解模型的内部机理,也难以在实践上拒绝其输出所带来的巨大科学收益。

第二,事后重构在认识论规范意义上是不可行的,这构成了“认识论奇点”的核心特征。问题的关键不在于解释在技术上是否可能,而在于要获得一种在认识论上与模型输出等价的过程性理解,其所需解释复杂度在原则上无法被有效压缩。由此产生的解释,即便在逻辑上可行,也因复杂度与原计算过程同阶而失去其应有的认识论功能。在这一意义上,传统科学实践中“先理解、再采纳”的规范要求不再具备可操作的实现路径。

第三,制度性承认。仅有性能优势和解释困难还不足以构成奇点,关键在于不透明性通过制度的确立实现“合法化”。当科学共同体通过修改评审规范、设立标准化基准(benchmarks)或建立公共数据基础设施,正式承认“黑箱”输出的正当性时,不透明性才从一种需要辩解的技术异常转变为新的常规科学的一部分。典型地,当Nature、Science等顶级学术期刊开始大规模接受仅基于“性能指标”而非“机理阐明”的论文发表,当CASP等标准竞赛被视为评估科学贡献的核心依据时,对科学知识的辩护事实上被外包给了一套社会-技术装置。理解的缺席不再被视为审稿意见中的致命缺陷,而是被制度性地“合法化”了。

第四,认知路径依赖的形成。当科研流程对人工智能系统产生深刻的路径依赖,以至于若剔除该系统,该领域的知识增长率将显著回落,甚至导致范式倒退时,奇点状态才真正稳固下来。此时,人工智能系统不仅在事实层面上提高了效率,而且在功能上变得不可替代,实验设计、假设生成乃至结果筛选都围绕模型输出进行重构。例如在当前的蛋白药物设计领域,AlphaFold的预测往往是实验的起点,如果移除这一工具,整个研发流程将不得不退回到低效的试错阶段。这种“棘轮效应”将使得科学共同体无法撤回对黑箱的信任。

2. 认识论奇点的“生态位”

认识论奇点并非技术发展的自然结果,而是一种依赖特定结构条件的“局部稳态”。它的涌现需要特定的“生态位”,只有当统计模型带来的“性能收益”显著压倒黑盒造成的“理解损失”时,奇点才会发生。反之,若某领域的底层理论高度可压缩,或面临强规范约束(如医学诊断、司法量刑),奇点则会被延迟甚至阻断。因此,认识论奇点并非普遍命运,而是一种受制于学科复杂性结构、实践价值密度与外部规范的差异化分布状态。

具体而言,认识论奇点的加速涌现依赖两个关键条件:其一,高复杂表征需求。在蛋白质折叠、湍流模拟等高维、非线性领域,人类长期以来未能建立低维、符号化的统一理论模型,传统理解路径难以为科学发现提供有效支撑。在此背景下,深度学习的“强不透明性”不仅非障碍,反而是跨越人类认知极限、进入未知解域的唯一可行策略。其二,高实践价值回报。在药物研发或材料设计等领域,模型的预测性能直接兑现为成本下降与成功率跃升。这种巨大的实践红利促使科学共同体调整评估标准,将“预测的有效性”置于“机理的可解释性”之上。当“性能收益远超理解成本”成为被制度化承认的共识,奇点便在这些领域率先爆发。

与此相对,认识论奇点在两类领域会遭遇显著抑制:其一,理论高度可压缩领域。在经典物理等成熟学科中,人类建立的低维、形式化“白箱”模型已在预测与解释间达成自洽。引入强不透明系统不仅难以带来实质性的性能飞跃,反而会徒增理解与验证成本。其二,强规范约束领域。在医疗、司法、核能等高风险场景下,不透明性本身即潜在系统性风险,而非可接受的技术代价。在这些领域,决策的可审计性与责任追溯被视为底线要求。即便算法性能占优,其不可解释性仍会遭到制度性否决。例如,欧盟《人工智能法案》(Artificial Intelligence Act)明确要求高风险系统具备透明度与人类监督机制。

从“生态位”视角看,认识论奇点的涌现与否,本质上取决于理解成本与性能收益之间的动态平衡。高复杂表征与高实践价值构成了加速条件,降低了人类理解失效所带来的心理与制度阻力;理论可压缩性与强规范约束则构成抑制条件,强化了理解在知识采纳中的必要性。这种结构性分化塑造了一幅差异化的“奇点分布图景”:在部分前沿科学领域中,知识生产机制正由方法与理解的统一转向可控与可复现优先的新结构;而在其他领域中,传统的可解释性秩序仍然保持其规范核心地位。

三、“后奇点”语境下的知识辩护与认知分工

认识论奇点的到来,不仅意味着科学发现生成机制在技术层面的深刻变迁,更会引发科学知识辩护逻辑与认知结构的变革与重组。当强不透明模型成为关键认知代理时,传统以主体可理解性为核心的正当性框架在科学发现阶段将遭遇严峻挑战。对此,科学理性将被迫寻找新的规范性锚点,并推动新的认知分工的形成。

1. 正当性逻辑的转向

在经典科学理性图景中,科学知识的可接受性通常预设了一种可辩护性要求,即科学共同体不仅要求结论在经验上成立,而且要求研究者能够在反思与论证中给出支持该结论的理由与论据,从而使他人能够理解其接受该结论的根据。就认识论立场而言,正如劳伦斯·邦朱尔(Laurence BonJour)在对基础主义的批评中所指出的,若信念缺乏理由支撑,其正当性将难以成立[22]。在此基础上,这一要求可以进一步被理解为一种内在主义取向,即正当性在规范上要求主体对其信念根据具有某种可通达性。然而,当具有强不透明性的深度学习模型深度介入科学发现过程时,面对无法还原为线性因果链条的高维统计推断,科学共同体不得不在两种取向之间作出选择,要么牺牲可观的预测增益,以降低对不透明工具的依赖;要么调整知识接受标准,使正当化的重心从“主体可反思理由”转向“过程在制度化条件下是否可靠”。

需要澄清的是,我们在此处讨论的“内在主义”并非关于科学发现如何在心理层面发生,而是关于发现结果在共同体中如何获得正当性的规范标准。内在主义的核心主张可以概括为:正当性依赖于主体可获得(或至少可原则通达)的理由与证据,从而使知识主张能够接受反思性审查[23]。在科学语境中,这一主张长期与“解释的优先性”相互支撑。科学假设之所以可被接受,通常要求其能够说明何以如此,或至少能够在某种理论框架内被理解与辩护。但在深度学习驱动的发现实践中,如果仍坚持以内在主义作为正当性条件,就会得出一个在实践上难以接受的结果:最有效的发现工具所生成的关键结论将被系统性排除。

在内在主义理解不可得的条件下,阿尔文·戈德曼(Alvin I. Goldman)的过程可靠论为科学共同体提供了一种可行的外在主义框架。戈德曼提出,信念的正当性并不取决于主体是否理解其生成机理,而取决于产生该信念的认知过程在经验上是否可靠,即该过程是否具有产生真信念并避免假信念的高概率倾向[24]。将这一思路迁移到“AI for Science”的语境中,就形成一种更具操作性的“计算可靠论”方案:我们采纳模型输出,并非因为其生成路径在认知上透明,而是因为该模型在历史数据、严格盲测与多中心验证中表现出高度稳定的预测效能。例如,DeepMind发布的材料发现工具GNoME成功预测了数百万种潜在晶体结构。科学界对这一结果的接纳,并不建立在对神经网络如何从图结构中推导稳定性的机制理解之上,而是基于其预测结果随后被自动化合成实验和密度泛函理论计算所证实的极高一致性[25]。在此过程中,科学知识的正当性基础由解释的深度转向了预测的精度与过程的稳健性,可靠性取代可理解性,成为知识确证的核心担保[26]。需要指出的是,我们并非主张以可靠性取代理解是一种在规范意义上“更优”的科学认识论方案。相反,这一转向应被理解为一种在实践压力下被迫发生的规范调整。可靠性并非取代理解的价值,而是在理解不可得的条件下,成为维系科学实践持续运作的最低可接受正当性标准。

科学知识的正当性标准向可靠论迁移的一个重要前提是知识的辩护从传统的个体心智理解转向制度化验证。例如,CASP之类的共同体评测机制通过统一任务、盲测与公开比较,为模型输出提供制度化的可靠性证据,并使不透明但高性能的方法获得可被共同体承认的进入通道。因而,知识正当性的“发生位置”在一定程度上由个体心智内部转移到外在的社会—技术系统之中,模型输出被纳入一个由评测—复现—迭代构成的公共回路,正当性更多体现为过程在制度化条件下的稳定可依赖性。

2. 解释的后置与认知分工重组

需要指出,认识论奇点的确立,并不意味着解释在科学实践中的消失,而是意味着其认识论地位的调整与位移。当强不透明模型成为主要的知识生成机制时,解释不再承担科学发现阶段的前置辩护功能,而是转向知识被接受之后的整合性、规范性角色。在这一意义上,解释并未被取消,而是被重新定位。

在经典科学实践中,科学假设只有在能够被解释,或至少能够被纳入既有理论框架时,才被赋予认识论上的可接受性。以皮特·利普顿(Peter Lipton)提出的“最佳解释推论”为代表,解释力长期被视为评估科学假设合理性的重要指标。然而,在后奇点语境下,解释先于接受的时序结构被迫发生倒置。由于深度学习模型的内部计算路径在原则上难以还原为人类可理解的因果或机理叙事,因此若仍坚持前置解释作为接受前提,将直接阻断知识生成过程。同时,为获取高维表征所带来的显著预测收益,科学共同体必须在尚无解释的情况下先行采纳模型输出。由此,解释将被后置,模型结果的初步正当性首先由制度化验证与可靠性评估确立,解释随后才介入,对既定结果进行理论定位与因果追问。

随着解释脱离发现阶段的辩护语境,其规范性任务也将随之发生转移。在后奇点语境下,解释不再主要承担“使知识可被接受”的功能,而是转向提供意义、融贯性与认知可操作性。具体而言,解释主要承担以下三项不可被算法完全替代的功能。

第一,解释承担语义转译功能,将模型输出的句法性数学对象转译为具有科学意义的概念结构,使其能够进入人类的科学交流与论证体系;第二,解释通过将孤立的预测结果嵌入既有理论网络,维持科学知识整体的理论融贯性,防止知识碎片化;第三,在条件允许的情况下,解释通过对预测结果的逆向分析,尝试进行有限的因果或机理重构,为后续实验设计与干预实践提供方向。

需要强调的是,在这一过程中,解释虽不再是发现阶段的必要前提,但在边界情境、高风险决策与跨领域应用中,仍然发挥着重要的辅助性验证与约束作用。解释的地位由此并非被削弱,而是从“正当性来源”转变为“意义与整合机理”。

3. 可能的反驳与回应

针对本文所提出的“认识论奇点”以及后奇点语境下的认识论变革,一个可能的核心质疑在于,我们是否过早放弃了“理解”在科学中的规范核心地位?对此,有必要回应三类具有代表性的反驳,以澄清我们并非否认理解的认识价值,而是在强不透明性条件下,对其规范地位进行重估。

第一,认为模型不透明只是暂时技术障碍、可解释性工具终将恢复理解的中心地位。这类反驳忽视了不透明的结构性特征,即深度学习的高维分布式表征原则上难以压缩为人类概念单元或线性因果链。此外,即使未来局部可解释性提升,科学共同体也已形成制度化规范,这种效用驱动的认知路径依赖可能从规范层面阻断理解重归发现阶段的前置核心。

第二,试图通过弱化解释标准(例如仅要求提供支持干预或反事实推理的信息)来维持解释的规范角色。这类主张混淆了解释的内容形式与认识论时序。在强不透明主导的发现实践中,模型输出先于解释并直接引导决策,解释已从为发现提供正当性辩护的“门槛条件”,结构性地转变为对既定结果进行意义整合的“整合机理”。

第三,担忧将知识正当性部分外包给基准评测和制度化验证可能导致盲目信任。我们承认这一路径并非真理的理想担保,且存在掩盖系统性偏差的风险。但制度化可靠性并非取代理解,而是在理解不可得时设定最低可接受边界;它通过公开性、可重复性与跨情境比较,构成风险管理导向的次优正当性安排,是科学理性面对高维计算复杂性时的务实调整。

综上,认识论奇点并不意味理解的消亡,而是标志着理解转为验证与应用阶段的后置认知资源。这一转变是科学理性在复杂计算系统条件下深层结构的必要重构。

四、结 语

本文从人工智能深度介入科学发现的现实出发,分析了预测能力在缺乏人类可理解解释的条件下仍能获得科学采纳的认识论后果。通过引入“认识论奇点”这一概念,我们尝试指出,在强不透明模型主导的实践中,科学知识的生成机制与人类理解机理之间可能出现稳定脱耦,传统以理解为前置条件的正当性结构将由此发生根本性转变。

当然,这一转变并不意味着科学理性放弃理解,而是标志着理解在科学认识结构中的位置重组。理解不再构成科学发现被采纳的必要门槛,而转变为对既定结果进行整合、约束与反思的后置认知资源。科学知识的正当性因此更多依赖于制度化验证与过程可靠性,而非主体对生成过程的完全把握。在此基础上,可进一步看到,“认识论奇点”也指向科学认识主体结构的潜在重组。在人工智能深度嵌入科学发现流程的条件下,承担发现功能与正当性责任的认识单位,可能不再局限于单一的人类主体,而呈现为由人类、计算系统与制度机制共同构成的复合性认知结构。在这一结构中,认知功能在不同要素之间发生分布,理解、计算与验证被重新配置于不同层级之中。

因此,“认识论奇点”并非关于科学未来的技术预言,而是一种用于描述当代部分前沿科学领域中规范结构转型的分析框架。它揭示了人工智能时代科学理性在复杂计算条件下所采取的现实调整,也为进一步讨论科学治理、责任分配与认知分工提供了理论起点。

数据可用性声明:本论文为哲学理论研究,主要围绕相关概念与理论问题展开分析与论证,不涉及实证研究、数据采集或数据分析,不产生或分析任何关联数据,因此无论文关联数据。

① 在此有必要对两种不同语境下的“预测”概念作出区分。在传统科学哲学中,科学预测主要建立在自然法则与因果机理的基础之上,预测与解释具有逻辑上的对称性或同构性,即“预测的成功”往往被视为“理解机理”的明证(具体见下文第一部分)。而当代深度学习语境下的算法预测则是指基于高维空间与海量数据的统计相关性所进行的概率推断与经验映射。后者很大程度上绕过了人类可理解的因果机理,实现了“预测效力”与“机理解释”的深度剥离。本文所探讨的认识论张力,正是源于这种“无理解的预测”对传统科学认识论标准的冲击。

② 本文中的“正当性”对应于科学哲学与认识论中的核心概念“justification”。鉴于中文学界在翻译该词时存在多种习惯(如证成、辩护等),特在此说明,本文在不同语境下交替使用这些术语时均指涉同一内涵,即科学发现、知识主张或计算成果在认识论层面上获得合理支持、检验与确立的过程。

③ 本文中的“制度”和“制度化”,主要指科学共同体内部的评价与验证机制(如同行评审、基准测试与数据基础设施等)及其稳定运作方式,而非法律或宏观社会制度。

④ 本文对“断裂”与“脱钩”在不同分析层面上进行区分。其中,“断裂”主要指涉逻辑与结构层面,旨在刻画传统科学哲学中预测与解释之间同构关系的瓦解;而“脱钩”则侧重于科学实践与功能运作层面,用以描述在复杂计算系统中,科学知识的自动化生成过程与人类认知主体的理解过程不再具有强制性的绑定与依赖关系。前者的逻辑断裂构成了后者实践脱钩的认识论前提。

⑤ “由于在对某一特定事件的完整D-N解释中,解释项逻辑地蕴含了被解释项,我们可以说,如果解释项中提出的规律和具体事实在更早的适当时间已被知晓并加以考虑,那么该解释论证或许可以用于对被解释项事件进行演绎预测。从这个意义上讲,D-N解释是一种潜在的D-N预测。”详见参考文献[5]。

⑥ 本文参考汉弗莱斯的界定,区分两种不透明性:弱不透明性源于计算规模导致的认知资源限制,其过程在原则上仍是可还原的;强不透明性则源于系统内部表征与人类概念体系的断裂,即便“打开黑箱”也无法将系统内部表征映射为可理解的因果链条(详见参考文献[1])。本文讨论的深度学习主要属于后者。

参考文献
[1]
Humphreys P. The Philosophical Novelty of Computer Simulation Methods. Synthese, 2009, 169(3): 615-626. DOI: 10.1007/s11229-008-9435-2.
[2]
Duede E. Deep Learning Opacity in Scientific Discovery. Philosophy of Science, 2023, 90(5): 1089-1099. DOI: 10.1017/psa.2023.8.
[3]
Miller T. Explanation in Artificial Intelligence: Insights from the Social Sciences. Artificial Intelligence, 2019, 267: 1-38.
[4]
Lipton Z C. The Mythos of Model Interpretability: In Machine Learning, the Concept of Interpretability is both Important and Slippery. Queue, 2018, 16(3): 31-57. DOI: 10.1145/3236386.3241340.
[5]
Hempel C G. The Thesis of Structural Identity. Curd M, Cover J A. Philosophy of Science: the Central Issues. New York: W. W. Norton & Company, 1998: 695−705.
[6]
Scriven M. Explanation and Prediction in Evolutionary Theory: Satisfactory Explanation of the Past is Possible even When Prediction of the Future is Impossible. Science, 1959, 130(3374): 477-482.
[7]
Breiman L. Statistical Modeling: The Two Cultures (with Comments and A Rejoinder by the Author). Statistical Science, 2001, 16(3): 199-231. DOI: 10.1214/ss/1009213726.
[8]
Shmueli G. To Explain or to Predict?. Statistical Science, 2010, 25(3): 289−310.
[9]
Bishop M A, Trout J D. 50 Years of Successful Predictive Modeling Should be Enough: Lessons for Philosophy of Science. Philosophy of Science, 2002, 69(S3): S197-S208. DOI: 10.1086/341846.
[10]
张起, 郦全民. 科学预测的多重角色. 自然辩证法通讯, 2026, 48(1): 27-34. DOI: 10.15994/j.1000-0763.2026.01.004.
[11]
Feigenbaum E A, Buchanan B G. DENDRAL and META-DENDRAL: Roots of Knowledge Systems and Expert System Applications. Artificial Intelligence, 1993, 59(1-2): 233-240. DOI: 10.1016/0004-3702(93)90191-D.
[12]
LeCun Y, Bengio Y, Hinton G. Deep Learning. Nature, 2015, 521(7553): 436-444. DOI: 10.1038/nature14539.
[13]
贾玮晗, 董春雨. 事后解释可以消除认识的不透明性吗. 探索与争鸣, 2024(6): 80-87,178. DOI: 10.3969/j.issn.1004-2229.2024.06.013.
[14]
Guidotti R, Monreale A, Ruggieri S, et al. A Survey of Methods for Explaining Black Box Models. ACM Computing Surveys (CSUR), 2018, 51(5): 1-42. DOI: 10.1145/3236009.
[15]
Kamath S, Mittal S, Deshpande A, et al. Rethinking Robustness of Model Attributions. Proceedings of the AAAI Conference on Artificial Intelligence, 2024, 38(3): 2688-2696. DOI: 10.1609/aaai.v38i3.28047.
[16]
Rudin C. Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models instead. Nature Machine Intelligence, 2019, 1(5): 206-215. DOI: 10.1038/s42256-019-0048-x.
[17]
Conmy A, Mavor-Parker A, Lynch A, et al. Towards Automated Circuit Discovery for Mechanistic Interpretability. Advances in Neural Information Processing Systems, 2023, 36: 16318-16352. DOI: 10.52202/075280-0719.
[18]
Wolfram S. A New Kind of Science. Champaign: Wolfram Media, 2002: 737−739.
[19]
董春雨. 从机器认识的不透明性看人工智能的本质及其限度. 中国社会科学, 2023(5): 148-166, 207–208.
[20]
Vinge V. Technological Singularity. Whole Earth Review, 1993, (81): 88-95. DOI: 10.4324/9781003032854-2.
[21]
Jumper J, Evans R, Pritzel A, et al. Highly Accurate Protein Structure Prediction with AlphaFold. Nature, 2021, 596(7873): 583-589. DOI: 10.1038/s41586-021-03819-2.
[22]
BonJour L. The Structure of Empirical Knowledge. Cambridge: Harvard University Press, 1985: 30−33.
[23]
Littlejohn C. Internalist vs. Externalist Conceptions of Epistemic Justification. https://plato.stanford.edu/entries/justep-intext/ [2025-12-14].
[24]
Goldman A I. What is Justified Belief?. Pappas G S. Justification and Knowledge: New Studies in Epistemology. Dordrecht: Springer Netherlands, 1979: 1−23.
[25]
Merchant A, Batzner S, Schoenholz S S, et al. Scaling Deep Learning for Materials Discovery. Nature, 2023, 624(7990): 80-85. DOI: 10.1038/s41586-023-06735-9.
[26]
Ortmann J. Of Opaque Oracles: Epistemic Dependence on AI in Science Poses No Novel Problems for Social Epistemology. Synthese, 2025, 205(2): 1-22.
Toward an Epistemological Singularity: Artificial intelligence, opacity, and new norms for scientific discovery
PU Jiang-huai, ZHAO Xiao-long     
School of Philosophy, Nanjing University
Abstract: In data-intensive experimental and computational sciences—such as computational biology and materials science—the epistemic justification of scientific discovery is increasingly anchored in a model's predictive accuracy, instrumental utility, and reliability in intervention within specific tasks. This paper argues that model opacity is not an epistemic obstacle but an endogenous driver of structural reorganization in contemporary scientific epistemology. This raises a core question: when high-accuracy but low-interpretability computational outputs are continuously adopted by scientific practice and receive institutional recognition, can the generation of scientific knowledge become decoupled from human understanding? To address this question, this paper proposes the concept of "epistemic singularity", which denotes a historical turning point at which the epistemic justification of scientific discovery no longer necessarily depends on human-understandable explanatory structures, but instead becomes anchored in reliability mechanisms centered on computational systems, institutionalized validation, and practical stability. By examining the practical and theoretical backgrounds that render this turning point visible, this paper defines the concept of epistemic singularity, formulates corresponding criteria, and discusses several core issues facing scientific epistemology in a post-singularity context, thereby substantiating the reality of this historical shift.
Keywords: artificial intelligence    scientific discovery    epistemic singularity    opacity    scientific justification    

作者简介:浦江淮,南京大学哲学学院博士研究生。研究方向为科学哲学、人工智能哲学等;
赵小龙,南京大学哲学学院博士研究生。研究方向为科技哲学、美学理论等。
项目资助:国家社会科学基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”(20&ZD045)。

1在此有必要对两种不同语境下的“预测”概念作出区分。在传统科学哲学中,科学预测主要建立在自然法则与因果机理的基础之上,预测与解释具有逻辑上的对称性或同构性,即“预测的成功”往往被视为“理解机理”的明证(具体见下文第一部分)。而当代深度学习语境下的算法预测则是指基于高维空间与海量数据的统计相关性所进行的概率推断与经验映射。后者很大程度上绕过了人类可理解的因果机理,实现了“预测效力”与“机理解释”的深度剥离。本文所探讨的认识论张力,正是源于这种“无理解的预测”对传统科学认识论标准的冲击。

2本文中的“正当性”对应于科学哲学与认识论中的核心概念“justification”。鉴于中文学界在翻译该词时存在多种习惯(如证成、辩护等),特在此说明,本文在不同语境下交替使用这些术语时均指涉同一内涵,即科学发现、知识主张或计算成果在认识论层面上获得合理支持、检验与确立的过程。

3本文中的“制度”和“制度化”,主要指科学共同体内部的评价与验证机制(如同行评审、基准测试与数据基础设施等)及其稳定运作方式,而非法律或宏观社会制度。

4本文对“断裂”与“脱钩”在不同分析层面上进行区分。其中,“断裂”主要指涉逻辑与结构层面,旨在刻画传统科学哲学中预测与解释之间同构关系的瓦解;而“脱钩”则侧重于科学实践与功能运作层面,用以描述在复杂计算系统中,科学知识的自动化生成过程与人类认知主体的理解过程不再具有强制性的绑定与依赖关系。前者的逻辑断裂构成了后者实践脱钩的认识论前提。

5“由于在对某一特定事件的完整D-N解释中,解释项逻辑地蕴含了被解释项,我们可以说,如果解释项中提出的规律和具体事实在更早的适当时间已被知晓并加以考虑,那么该解释论证或许可以用于对被解释项事件进行演绎预测。从这个意义上讲,D-N解释是一种潜在的D-N预测。”详见参考文献[5]。

6本文参考汉弗莱斯的界定,区分两种不透明性:弱不透明性源于计算规模导致的认知资源限制,其过程在原则上仍是可还原的;强不透明性则源于系统内部表征与人类概念体系的断裂,即便“打开黑箱”也无法将系统内部表征映射为可理解的因果链条(详见参考文献[1])。本文讨论的深度学习主要属于后者。