大西洋月刊的作者迈克尔·舒曼写道，如果技术的好坏取决于程序自己从中学到的信息，那么国家审查就不是成功的良方。加美财经编译，不代表支持文中观点或者确认其中事实。
由位于旧金山的OpenAI公司设计的聊天机器人ChatGPT，在全世界引起了兴奋、一些不安和许多好奇。不过，在中国，美国的机器人和使其发挥作用的人工智能，对中国的政治制度和全球野心构成了威胁。这是因为像ChatGPT这样的聊天机器人热衷于信息，这是中国政府坚持要控制住的东西。
中国共产党通过审查制度保持自己的权力，在其领导人习近平的领导下，这种努力得到了加强，以寻求更大的意识形态一致性。聊天机器人在审查方面很棘手，所说的话可能是不可预测的，当涉及到对中国公众知道、阅读和分享的内容进行微观管理时，当局不喜欢出现意外。
然而，这种政治需要与中国对创新的迫切和基本需求相冲突，特别是在人工智能和聊天机器人等领域。
如果没有持续的技术进步，中国的经济奇迹可能会停滞不前，并削弱习近平超越美国成为世界第一超级大国的目标。习近平对技术进步运动和更严格的社会控制的驱动力一样执着。人工智能的发展，是这个计划的一个重要支柱，而ChatGPT暴露了中国的科技部门仍然落后于其主要地缘政治对手美国。
卡内基国际和平基金会关注全球技术的研究员马特·希恩告诉我，”中国政府对聊天机器人非常纠结，意识形态控制，信息控制，是中国政府的首要任务之一，如果不是最重要的话。但他们也将人工智能和其他新兴技术的领导地位作为首要任务。”
他说，聊天机器人是 “这两件事开始发生冲突的地方”。
习近平选择哪条道路，可能会对中国的技术竞争力产生巨大影响。他是否会允许能够推动中国在全球经济中占据主导地位的进步？或者他是否会为了维持对中国社会的控制而牺牲创新的事业？
那些生活在开放社会的人往往认为，自由思考和信息的自由流动是创新不可或缺的前提条件。这种观点的一个推论是，像中国这样的政治制度，扼杀了知识分子的好奇心，并强制执行社会一致性，阻碍了实现突破所需的创造力和风险承担。
在某些方面，这种说法是有道理的。例如，没有中国的迪斯尼，而且只要国家限制电影人讲故事和创造角色的自由，就可能永远不会有。
整个亚洲的流行文化，被日本和韩国的民主社会所主导。
中国的专制主义已经在其他方面抑制了其科技部门。中国的视频交换应用TikTok正面临着在美国被禁止或强制出售的可能，因为人们担心其总部设在北京的母公司字节跳动可能会受到压力，将美国公民的私人数据交给中国的安全国家。
但是，中国领导人不认为创新需要个人自由创新，认为政治控制和高科技愿望之间没有矛盾。共产党的专制并没有阻止中国公司成为5G电信网络或电动汽车等领域的领导者。审查制度也没有阻碍在政治风险较高的数据和内容领域的技术发展。中国在游戏和社交媒体方面，拥有充满活力和创造力的产业。
此外，国家不仅没有压制潜在的破坏性和颠覆性的人工智能技术，反而积极支持。2017年，中国国务院发布了一项针对该行业的国家战略，名为 “新一代人工智能发展计划”，目标是到2030年 “使中国成为世界主要的人工智能创新中心”。
习近平在提交给10月重要的共产党大会的报告中，特别提到人工智能是国家必须培育的 “新增长引擎 “之一。
尽管有这样的高层关注，中国的人工智能领域仍然落后于美国，至少在聊天机器人领域是如此，ChatGPT的表现非常明显。
研究公司荣鼎集团的高级分析师乔丹·施奈德告诉我在中国，”政府、科技企业家和投资者都明白ChatGPT是多么不可思议，他们不想被落下，被OpenAI和ChatGPT如此大幅度地超越有点尴尬，这肯定会使公司和人才聚焦在缩小这一差距上。”
这种差距似乎很严重。3月，百度的创始人李彦宏试图展示他自己的文心一言机器人，但演示——使用预先录制的结果，非常令人失望，公司的股价在香港证券交易所暴跌。
如果让他们自己去做，百度和其他中国人工智能实验室的天才工程师和编码员可能会迎头赶上。但国家肯定会进行干预。无论科技公司创造出什么样的聊天机器人，都必须遵守中国的人类居民不得不遵守的言论限制。
本月，中国的网络安全监督机构发布了人工智能领域的新法规草案，要求聊天机器人制作的内容符合社会主义价值观，并且不可能颠覆国家政权，这一点很明确。
政府对数字世界实施这种审查，与对现实世界实施的审查力度相同。一支严谨的审查员队伍从社交媒体平台上清除政治敏感材料。许多外国媒体和互联网服务被 “长城 “封锁，”长城 “是国家为阻止不受欢迎的信息和想法而建立的数字防御工事，互联网搜索受到限制。
当局已经采取措施，防止中国公民使用ChatGPT。据报道，监管机构命令中国科技公司拒绝其用户访问。否则，ChatGPT将告诉用户政治上不可接受的信息，尽管很可能是真实的信息，比如北京对少数民族维吾尔族的虐待，国家不希望中国公众看到这些信息。
中国政府拥有的《中国日报》警告说，ChatGPT可以 “促进美国发起的宣传活动”。
百度的文心一言仅在有限的基础上向公众开放，不只是拒绝回应一些有政治嫌疑的询问，而是试图改变话题。
百度和其他聊天机器人供应商，如何调整他们的模型以遵守国家的审查规则，可能会产生进一步的负面影响。例如，一个只在中国长城范围内经过审查的信息上训练的聊天机器人模型，不太可能像一个利用更广泛和更多样化的来源的外国竞争对手那样有效。
在最近的一份新闻稿中，百度指出，文心一言是在 “5500亿个事实的知识图谱 “和其他材料上训练出来的，但当作者要求进一步了解来源的细节时，这家公司不愿发表评论）。
聊天机器人也有可能比早期的数字媒体形式更难审查。聊天机器人模型将以意想不到和令人惊讶的方式分析、整理和连接数据。
“最好的比喻是人类如何学习，”乔治华盛顿大学研究中国技术的政治学家Jeffrey Ding解释道。”即使你只从一套经过审查的书中学习东西，你所读的所有这些不同的书之间的相互作用，也可能产生有缺陷的信息或政治敏感信息。”
这给中国的人工智能专家和国家审查员带来了特殊的挑战。即使中国的聊天机器人是在有限的政治上可接受的信息集上训练的，也不能保证能产生政治上可接受的结果。
此外，聊天机器人可以被坚定的用户 “欺骗”，泄露危险的信息或说出他们被训练过的不能说的话，这种现象已经发生在ChatGPT上。
这种不可预测性，将中国的科技部门置于一个尴尬的位置。一方面，研究人员面临着在人工智能方面取得突破和实现政府目标的压力；另一方面，在一个不能容忍异议的政治环境中，设计聊天机器人可能是危险的。
当局不可能善待违反规则的聊天机器人，更不可能善待设计和培训它的企业家和工程师。为了证明这一点，网络安全机构的法规草案要求聊天机器人供应商对产生的内容负责。
仅仅这一点就可以阻止中国的科技精英们追求聊天机器人，或者至少是向公众提供的先进模式。
然而，在聊天机器人的发展上，设定太多的限制条件，可能会危及中国的科技进步，也会抑制背后的关键科学的发展。卡内基基金会的希恩告诉我，”聊天机器人不仅仅是一个有趣的玩具。很多从事人工智能深层技术的人认为，这是创造更多通用人工智能的最有前途的途径，这也是该领域的圣杯。 因此，中国官员在这个问题上有分歧”。
这在很大程度上将取决于中国领导人愿意以实验的名义放任什么，有充分的理由相信他们会允许一些自由度。中国社交媒体的爆炸性增长也给国家带来了风险，因为为中国公民提供了广泛分享未经授权的信息的可能性（例如抗议活动的视频），要比审查人员能够压制它的速度更快。
然而，为了让新技术蓬勃发展，当局已经接受了这一弊端。
“我确实认为中国政府对人工智能的负面、有害影响感到担忧，”Ding告诉我。尽管有 “审查制度”，但他认为，”我们从中国公司和中国政府过去的记录中看到，在这一领域创造突破性创新方面，有一条前进的道路。”
中国政府甚至可以找到利用聊天机器人的方法来发挥其优势。正如当局已经能够与社交媒体合作，并利用这些平台来操纵民意，监控公众，并跟踪异议人士，聊天机器人也可以很容易地成为社会控制的工具，促进官方的叙述和原则。
记者Josh Chin和Liza Lin在他们最近的书《监控国家》中写道，中国统治者认为，成为人工智能等技术的领导者，”将有助于党建立一个新的控制体系，以确保其自身的福祉。”
这样一个听话的、党内的聊天机器人，在长城的保护下，不受更强大的、不受审查的外国竞争者的影响，在中国国内可能非常成功，但在国外却没什么吸引力。
在这种情况下，中国的威权主义将抑制的不是技术进步本身，而是其在更广泛世界的技术竞争力。