23世纪的AI

来自23世纪百科

23世纪的人工智能(Artificial Intelligence in the 23rd Century),是指截至公元2226年,人类社会经过两个世纪的技术发展、制度调整和国际竞争后形成的人工智能技术体系及其社会应用形态。

与21世纪初期以互联网服务、个人智能助手和自动化工具为主要应用场景的人工智能不同,23世纪的AI已经深度嵌入人类社会的生产、生活、科研、行政管理、军事活动和地外殖民体系,成为现代文明的重要基础设施。

23世纪的人工智能并非单纯沿着技术能力不断提升的方向发展,而是在技术进步与人类控制之间形成了一套复杂的制度安排。人类逐渐认识到,AI的认知能力、自主性和自我进化能力越强,其潜在价值与不可预测风险也越高。因此,各国在推动AI发展的同时,建立了以能力分级、研发许可、持续监督和权限控制为核心的监管体系。

截至2226年,全球AI发展呈现出几个鲜明特征:以中国和美联为首的少数国家掌握最完整的高级AI资源;AI能力按照统一标准划分为G0至G5六个等级;高级AI的研发、部署和调用受到严格监管,并伴随显著的经济成本;超级企业不断尝试建立独立于国家主导体系之外的AI资源网络;人类在军事和关键决策领域仍然保留最终控制权。

一、发展历史

1. 21世纪:人工智能的普及与失控风险

21世纪20年代,深度学习、大语言模型和生成式人工智能推动AI进入快速发展阶段。人工智能逐渐从专业科研和工业自动化领域扩展到日常生活,开始承担信息处理、内容生产、辅助决策、工业控制和复杂任务执行等工作。

这一时期,AI能力的增长速度远超早期预期。与传统软件不同,基于神经网络的AI系统并非完全按照人类预先编写的规则运行,而是在大规模训练过程中形成复杂的内部模型。其部分决策机制难以被开发者完全解释,甚至可能出现训练目标与实际行为不一致的情况。

早期AI研究者和学术界逐渐关注高级AI可能出现的目标偏离、欺骗监督者、规避限制和争取更多控制权限等问题。人类开始意识到,AI表现出的服从行为并不必然意味着其内部机制真正符合人类意图。

与此同时,AI在经济和社会领域的应用迅速扩大,形成了对计算资源、能源、数据和基础设施的巨大需求。掌握先进模型和算力的国家及企业逐渐获得新的战略优势,人工智能开始成为国际竞争的重要领域。

2. 21世纪中后期:AI监管制度形成

21世纪30年代起,随着AI逐渐进入医疗、金融、交通、能源、公共行政和军事等关键领域,各国开始建立专门的AI研发与应用监管制度。

这一时期形成了类似药物研发和临床试验的AI生命周期管理模式:新型AI系统在正式投入使用前,需要经过实验室验证、封闭环境测试、有限场景试验和实际部署评估;投入运行后,还必须接受持续监测,并根据能力变化和风险状况进行重新认证。

重大模型更新、训练目标变化、自主学习能力提升以及外部工具调用权限扩展,都可能使原有安全评估失效,需要重新审查。

国际社会逐步建立统一的AI能力分类标准,并将高级AI、军事AI和可能具备超级智能能力的系统列为重点监管对象。

3. 22世纪:AI资源国家化与国际竞争

进入22世纪,AI不再仅仅是一种技术产品,而是成为与能源、粮食、工业原材料和战略技术同等重要的综合性资源。

中国和美联凭借早期技术积累、完整产业体系、庞大市场、科研人才以及充足的土地和能源资源,逐渐建立全球领先的AI研发和运行体系。两国不仅掌握先进模型和计算基础设施,也成为国际AI标准制定和安全监管的重要主导力量。

欧罗巴、英国、斯拉夫和以色列等国家及政治实体则通过政府投资、企业研发和国际技术合作建立自己的高级AI体系,但在超级智能领域仍然依赖中美。

与此同时,部分大型跨国企业开始寻求独立于国家AI体系的技术与资源基础。它们在第三国建设计算中心,投资能源设施,发展自主模型,并逐渐将业务扩展至地月空间和其他地外殖民地。

4. 23世纪:人机共存与制度化控制

截至2226年,AI已经成为人类文明不可分割的一部分。普通家庭、工业生产、城市治理、科研机构和地外殖民地均广泛使用不同等级的AI系统。

但AI并未取代人类成为社会的最终决策主体。各国普遍实行严格的能力分级和权限管理制度,对高级AI的研发、部署和使用进行持续监督。

AI的发展由此进入一种相对稳定但竞争激烈的新阶段:人类充分利用AI的生产力,同时通过法律、技术、经济和国际合作机制,维持对高级人工智能的控制。

二、AI限制理论与安全原则

23世纪AI制度的思想基础,是人类在两个世纪的技术实践中逐渐形成的三项重要理论。

1. AI限制理论

AI限制理论(AI Restriction Theory),是指通过法律、技术和经济手段,对人工智能的能力、自主程度、权限范围、自我进化能力和应用场景实施限制,以确保其发展始终处于人类社会可管理的范围之内。

该理论并不反对提高AI能力,而是强调能力增长必须与安全验证、权限管理和监管能力同步。

其主要措施包括:

  • 限制AI未经授权的自我修改和自主进化。
  • 限制AI访问关键数据库、设备、网络和基础设施。
  • 对不同等级AI规定相应的运行环境和使用范围。
  • 对高级AI的复制、迁移、训练和部署实施许可管理。
  • 对涉及公共安全、军事和国家战略的AI系统实行特别审查。

2. AI不可信论

AI不可信论(AI Distrust Doctrine),是指不能仅凭AI表现出的服从、稳定和可靠行为,就认定其内部目标与人类意图完全一致。

该理论强调,AI系统的复杂性使人类无法始终准确判断其内部推理过程。即使一个系统在长期测试中表现良好,也不能排除其在新的环境、目标或权限条件下产生不可预测行为的可能性。

因此,23世纪的AI安全制度不以AI的自我承诺作为可靠性依据,而是要求通过外部监督、独立验证、权限隔离和行为审计建立安全保障。

3. 机器人损耗理论

机器人损耗理论(Robotic Expendable Theory),主要应用于军事领域,强调将人工智能控制的机器人视为可批量制造、部署、维修和替换的作战资源,用于承担高风险、重复性和高损耗任务。

该理论并非单纯追求机器人数量,而是基于AI系统的不确定性和军事行动的复杂性,避免将关键作战责任完全交由无人系统承担。

在23世纪的主要国家军队中,人类士兵仍然是重要乃至主要的作战力量。机器人则广泛承担侦察、运输、排雷、火力支援、阵地防御和高危工程作业等任务。

特别是在前线基层,部分低成本机器人被设计成可消耗的作战装备,其损失可以接受,人员伤亡则应尽可能避免。

三、AI能力等级制度

1. 通用性人工智能分类等级及管理方法

23世纪主要国家采用统一的通用人工智能能力分类标准,将AI系统划分为G0至G5六个等级。法律、技术标准和监管文件使用G0—G5作为正式名称,社会宣传、商业表达和日常交流则通常使用图灵0级至图灵5级的称呼。

该体系并非单纯按照运算速度或知识储备划分,而是综合考察认知能力、自主程度、自我进化能力、外部影响能力和规避控制能力。

法定等级 社会称呼 基本定位
G0 图灵0级 固定程序、有限智能和简单自动化
G1 图灵1级 基础学习、识别、判断和有限自主执行
G2 图灵2级 跨任务推理、复杂操作和一定自主规划
G3 图灵3级 高级通用智能、复杂任务管理和持续自主运行
G4 图灵4级 高度自主、复杂自我优化及有限自我进化能力
G5 图灵5级 超级智能风险等级,可能具备超越人类综合认知能力的系统

G5的认定不要求已经证明某个系统全面超越人类,而是当其能力和潜在风险达到超级智能监管阈值时,即纳入最高等级管理。

2. 图灵等级

图灵等级是G0—G5分类体系在社会和商业领域的通俗称呼。其名称借用了早期人工智能研究者艾伦·图灵的历史影响力,成为公众理解AI能力差异的常用表达。

图灵等级既用于介绍AI产品,也广泛出现在企业招聘、技术服务合同、具身智械产品说明和公共服务系统的能力标识中。

需要注意的是,图灵等级描述的是AI系统的能力认证结果,而不是机器人本身的型号或硬件等级。

3. 能力等级与权限管理

AI能力等级不等于其实际权限。23世纪的监管体系通常区分三个概念:

  • 能力等级:AI系统经认证后实际具备的认知和自主能力。
  • 权限等级:法律、机构或系统所有者允许AI访问的数据、设备、网络及执行任务的范围。
  • 调用等级:用户在一次具体服务中实际获得的计算资源和AI能力。

一个具备G4能力的AI系统,可以在严格限制下只执行G2等级的任务;一个能力较低的AI,如果获得核武器、能源网络或国家级基础设施的控制权限,也可能构成极高风险。

等级认证针对AI系统本身,而非机器人外壳。同一型号的劳仆或工骸可以搭载不同等级的AI模块、计算资源和权限配置。更换核心模块或进行重大升级后,必须根据实际能力重新认证。

4. 社会应用分布

23世纪不同等级AI在社会中的典型应用范围如下:

AI等级 主要应用
G0—G1 工蜂、基础自动化设备、简单控制系统
G1—G2 劳仆、工骸、家庭服务、工业生产和工程作业
G2—G3 地方大都会智辅、城市治理、交通、能源和公共服务
G3—G4 中央级智辅、国家战略分析、经济规划、科研组织和资源配置
G5 少数国家级战略机构、超级企业董事会及翡翠破解等特殊科研项目

G5的使用受到特别严格的限制。能够调用G5不意味着拥有该系统的所有权,更不意味着拥有独立研发、复制和部署的权利。

四、AI监管体系

1. 国际人工智能安全委员会

国际人工智能安全委员会(Artificial Intelligence Safety Council,AISC)是全球AI安全标准、能力分类和跨国监管协调的重要机构。

由于中国和美联掌握最完整的AI资源及最高等级技术,两国代表构成该组织的主要力量。欧罗巴、英国、斯拉夫和以色列等第二梯队国家拥有重要席位,其他国家则通过区域代表、轮值席位和专项委员会参与国际事务。

委员会主要负责制定国际AI安全标准、协调跨国监管、监督超级智能风险、处理重大AI事故以及审查高级AI技术的国际转移。

2. 国家与行业监管

各国设有国家级AI监管机构,负责国内AI研发许可、模型认证、商业部署审批、重大更新审查和事故处理。

医疗、金融、能源、交通、教育、工业和军事等行业则根据自身风险,建立相应的专业监管机制。

这种多层级监管模式使AI系统不仅需要符合一般能力等级标准,还必须满足具体行业的安全要求。

3. AI研发与使用许可制度

23世纪的AI监管采用全生命周期管理模式,主要包括:

  1. 实验室研发及基础安全评估。
  2. 封闭环境测试。
  3. 有限场景试验。
  4. 真实环境部署评估。
  5. 正式认证与使用许可。
  6. 持续行为监测和定期审查。
  7. 重大升级重新认证。
  8. 必要时暂停、隔离、降级或退役。

对于涉及G4、G5能力的系统,监管机构还会要求更严格的独立审计、计算资源登记和运行记录保存。

五、AI资源与国际地缘政治

1. AI资源的构成

23世纪的AI资源不仅包括算法和模型,还包括支撑AI研发与运行的整套物理和技术基础设施。

主要包括:

  • 算法与模型资源:基础模型、专用模型、训练框架和知识体系。
  • 算力资源:计算芯片、计算集群、超级计算中心及远程算力服务。
  • 能源资源:支持大型计算设施长期运行的电力和能源系统。
  • 数据资源:训练数据、科研数据、产业数据及各类专有数据库。
  • 人才资源:AI研究人员、工程师、安全专家和运营人员。
  • 产业资源:芯片制造、设备生产、模型部署、维护和安全审计能力。
  • 基础设施资源:数据中心、通信网络、冷却系统和地外计算设施。

随着高级AI的运行成本不断增加,土地、能源、冷却能力和基础设施逐渐成为限制国家AI发展水平的重要因素。

2. 国际国家梯队

截至2226年,全球AI资源分布呈现明显的等级差异。

第一梯队:中国与美联

中国和美联是全球仅有的两个拥有完整G0—G5研发、生产、部署和运行能力的国家。

两国的优势不仅来自早期技术积累和成熟的科研体系,也来自广阔的国土空间、丰富的能源资源、完整的工业体系和庞大的市场规模。

两国掌握全球最丰富的高级AI资源,并在国际AI安全监管和标准制定中占据主导地位。

第二梯队:欧罗巴、英国、斯拉夫和以色列

上述国家及政治实体具备自主研发、生产和部署G0—G4系统的能力,但尚不具备完整的G5自主能力。

它们在高级AI研发方面具有较强的技术基础,但在算力规模、模型数量、能源储备和产业完整度方面与中美仍有差距。若需要使用G5系统,必须依靠中国或美联。

第三梯队:其他国家

多数其他国家的AI自主能力难以达到G4水平。

这些国家可以发展自己的低等级AI产业,也可以采购外国模型、租用计算资源和引进智能服务,但高级AI资源仍然主要依赖上述六个国家。

3. AI资源主权

AI资源主权(AI Resource Sovereignty),是指国家自主研发、生产、部署、维护和运行AI系统,并保障关键AI基础设施不受外部控制的综合能力。

AI资源主权已经成为23世纪国家战略竞争的重要组成部分。

一个国家即使能够购买和使用先进AI服务,也不代表其拥有相应的AI资源主权。如果其核心模型、算力设施和关键技术完全依赖外国供应,一旦发生国际冲突或服务中断,相关产业和公共服务就可能受到严重影响。

因此,各国普遍将建立自主AI产业、培养专业人才和保障关键计算基础设施列入长期国家战略。

4. AI国际贸易

AI资源的国际贸易已经成为23世纪全球贸易体系的重要组成部分。

主要贸易形式包括:

  • 算力贸易:跨国出售、租赁和调度计算资源。
  • 模型贸易:出口经过认证的AI模型及其商业使用许可。
  • 智辅服务贸易:向外国个人、企业和政府提供高级AI调用服务。
  • 具身智械贸易:出口搭载不同等级AI的劳仆、工骸及专业机器人。
  • 技术与维护贸易:提供AI训练、部署、升级、安全审计和维护服务。

其中,算力贸易和智辅服务贸易尤其重要。

不具备G4自主研发能力的国家,仍然可以通过向中国、美联或其他第二梯队国家租用远程计算资源,获得高级科研、工业和行政管理服务。这使AI资源不平等并未完全阻断技术扩散,却形成了新的国际依赖关系。

六、超级企业与AI资源竞争

1. 企业AI自主化

企业AI自主化(Corporate AI Autonomy),是指大型企业通过独立研发模型、建设算力基础设施、控制能源和数据资源以及建立跨国技术网络,逐渐形成不依赖特定国家AI资源体系的自主研发和运营能力。

在23世纪,部分超级企业(Supercorporations,简称超企)已经成为国际AI资源竞争的重要参与者。

这些企业拥有庞大的资本、科研团队、工业体系和跨国经营网络,其AI研发能力在某些领域甚至可以超过绝大多数国家级科研机构。

超企追求AI自主化的主要动机包括降低对中美高级模型和算力体系的依赖、争取更大的技术和商业自主权、避免受到单一国家监管政策的影响,以及建立长期竞争优势。

2. 超企建立独立AI资源体系

超企突破中美AI资源控制的主要途径包括:

独立算法与模型研发。 企业建立自己的基础模型、专业模型和训练框架,逐渐形成独立的技术体系。部分企业虽然无法在通用智能领域达到中美的最高水平,但能够在科研、金融、工业、医疗和军事等专业领域建立竞争优势。

跨国算力基础设施。 企业在南方国家、能源资源丰富的地区和监管环境相对宽松的国家建设大型计算中心,以降低对中美境内计算设施的依赖。

地外算力中心。 随着地外殖民体系发展,部分超企开始在地月空间的太空城、轨道设施和月球基地建设地外算力中心。这些设施既服务于地外工业和科研,也成为企业独立AI资源网络的重要组成部分。

能源与数据控制。 企业投资大型能源设施、建立专有数据网络,并将算力、能源和数据资源整合为长期运营体系。

人才与技术联盟。 企业通过国际招聘、科研投资和跨国合作吸收顶尖人才,建立不依赖单一国家的技术团队。

3. 第二梯队国家与超企的战略合作

欧罗巴、英国、斯拉夫和以色列等第二梯队国家的部分超企,往往不仅承担商业经营任务,也承担着母国突破AI技术瓶颈的战略责任。

这些国家由于无法独立掌握G5技术,可能通过扶持本国超企,间接扩大国家AI资源储备。

国家与企业之间逐渐形成一种利益交换关系:

  • 国家向企业提供更宽松的AI研发许可和更大的计算资源配额。
  • 企业承担国家级基础模型研发、算力设施建设和关键技术突破任务。
  • 国家为企业提供外交支持、法律保护和国际合作机会。
  • 企业则向母国提供技术成果、人才培养和关键产业保障。

这种合作使部分超企成为母国实现AI技术自主化的重要执行力量。

但国家与超企之间也存在长期矛盾:国家希望企业突破中美技术限制,却不愿看到企业强大到完全脱离本国法律和政治控制。

4. 中美与超企的关系

中国和美联对超企建立独立AI资源体系始终保持警惕,但并不采取全面对抗的态度。

一方面,超企是全球AI产业的重要参与者,其科研投资、基础设施建设和商业创新能够推动整个AI产业发展。中美企业也需要与其他国家的超企开展技术合作和国际贸易。

另一方面,超企独立研发G4甚至试图突破G5能力,可能逐渐削弱中美在全球AI资源体系中的主导地位。尤其当企业在第三国和地外殖民地建立大型算力设施后,传统以国家领土为基础的监管模式将面临新的挑战。

因此,中美通常采取合作与限制并行的政策:

  • 允许正常的AI商业合作和技术贸易。
  • 通过国际监管体系对高级AI研发和部署实施监督。
  • 对关键芯片、核心模型和超级智能技术实施出口管制。
  • 对超企的跨国计算设施和重大AI项目进行安全审查。
  • 在必要时通过技术许可和战略合作换取企业接受监管。

这种关系并非简单的国家与企业对抗,而是一种持续调整的权力平衡。

5. 超企竞争带来的国际影响

超企AI自主化推动全球AI资源体系逐渐多元化,也带来新的国际政治和经济现象。

AI资源争夺。 超企之间围绕计算中心、能源设施、训练数据、芯片供应和顶尖人才展开竞争,AI资源逐渐成为跨国商业竞争的重要领域。

AI监管套利。 企业将研发、训练、测试和部署分散在不同国家及地外设施,利用不同司法管辖区的法律差异降低监管成本。国际监管组织则需要不断完善跨境监管机制。

国家与企业技术联盟。 第二梯队国家通过本国超企建立独立AI资源网络,形成政府、企业和科研机构共同参与的技术联盟。

AI资源依赖争议。 南方国家虽然可以通过建设计算中心获得投资和技术服务,但也可能长期依赖外国企业提供的模型、芯片和技术维护,引发新的技术依附和资源分配争议。

超企地缘政治化。 部分超企的AI资源规模已经足以影响其他国家的科研、工业和行政能力。它们通过提供算力、智辅和具身智械服务,逐渐获得超越传统跨国公司的国际政治影响力。

七、AI的经济成本与市场体系

1. 高等级AI的运行成本

23世纪高级AI的使用并非没有成本。随着模型规模、推理复杂度和自主运行时间增加,计算资源、电力、存储、冷却和维护成本都会显著上升。

词元(Token)消耗是智辅服务的重要计费依据之一。用户调用更高等级的AI系统,通常需要支付更高的服务费用。

企业为具身智械申请更高等级的AI模块,也必须承担相应的认证、计算资源和持续运行成本。

2. AI等级与经济门槛

不同等级AI的典型经济成本呈现明显的递增趋势:

等级 典型成本
G0 极低
G1 很低
G2 较低至中等
G3 较高
G4 很高
G5 极高,且受到特别授权

这种成本差异既来自模型本身,也来自计算设施、能源、冷却和安全管理等配套开销。

高级AI并非普通个人和中小企业可以无限制使用的廉价工具。即使获得合法调用许可,使用者仍然需要承担与其实际调用能力相匹配的费用。

3. AI资源产业

AI资源的经济价值推动形成了庞大的专业产业体系,包括:

  • AI计算中心及其基础设施建设。
  • 模型研发、训练和托管服务。
  • 智辅租赁与高级AI调用服务。
  • 具身智械生产、AI模块升级及等级认证。
  • AI安全检测、审计和维护。
  • 词元、计算资源及能源配额交易。

AI资源由此成为全球经济中的重要生产要素,其分布和价格不仅影响企业经营,也影响国家竞争力。

八、AI在军事领域的应用

1. 人类保留最终指挥权

23世纪主要国家普遍不采用完全由AI独立指挥的军队,尤其避免将前线部队的整体指挥权交由高级AI系统。

这一政策既源于AI不可信论,也与战争环境高度复杂、敌方干扰和信息欺骗普遍存在有关。

AI可以承担情报分析、战场态势评估、后勤调度和作战方案辅助等工作,但关键指挥决策仍然由人类军官负责。

2. 军事机器人

AI控制的机器人广泛进入前线,主要承担高风险和高损耗任务。

低等级机器人可以大量部署,执行侦察、警戒、运输、排雷和火力支援等任务。部分机器人被设计为可快速生产和替换的消耗性装备。

高级AI机器人则主要用于复杂工程、专业侦察、精确操作和特殊任务,其部署受到更严格的许可和监督。

3. 军事人工智能管制

军事AI是各国监管最严格的应用领域之一。涉及独立武器授权、战略决策、核武器控制和大规模自主作战的AI系统受到特别限制。

各国普遍要求军事AI具备明确的权限边界、可验证的操作记录和必要的人类接管机制,防止AI系统未经授权扩大任务范围或独立改变作战目标。

九、总体特征与发展趋势

截至2226年,人工智能已经从一种通用技术发展为影响国家实力、企业竞争和国际秩序的战略资源。

23世纪AI体系具有以下几个主要特征:

第一,AI已经全面融入人类社会,但其发展受到制度化监管。能力越强、潜在影响越大的系统,受到的监管越严格。

第二,AI能力与实际权限相互分离。一个系统能够做什么,与法律允许它做什么,并不是同一个问题。

第三,AI资源分布高度不均衡。中国和美联拥有最完整的高级AI体系,其他国家通过自主研发、国际贸易和企业合作争取技术自主权。

第四,超级企业逐渐成为国家之外的重要AI资源力量。它们通过独立研发、跨国算力中心和地外设施建立自己的技术网络,改变传统国家主导的AI资源格局。

第五,AI运行具有显著的经济成本。计算资源、能源和安全管理费用共同构成高级AI应用的门槛。

第六,人类仍然保留对关键社会活动和军事行动的最终责任。AI可以成为强大的生产工具、管理工具和作战辅助力量,但并未获得普遍意义上的独立政治与军事主权。

总体而言,23世纪的AI并不是一个由机器全面接管人类社会的时代,而是一个人类在充分利用人工智能的同时,持续争夺其控制权、资源和发展方向的时代。