【来源：虎嗅网】
陈楸帆是站在科技和文学之间的人。
在作家当中，陈楸帆属于积极拥抱AI的乐观者。在《我们能否改变潮水的方向》收入的一篇文章中，他提及2017年起用AI协助写作的经验，“我不是让AI做我的写作机器，而是让AI成为我写作的主人”。与许多同行不一样，他将AI视为写作伙伴。他笑称，自己积极“鼓吹”AI写作，也许会被人视为“叛徒”——作为作家，却自掘坟墓。
2017年，陈楸帆参加过一个大型讨论会，与会者有科学家、工程师，有主流作家、评论家，也有像他这样的科幻作家。议题包括“AI会不会在未来取代人类作家的位置？”“AI会不会写得比人类好？”等，他记得，纯文学作家选择站在人这边，而他和寥寥几位科幻作家站在AI那边。在他看来，当下的现实就如同当年的谜底揭晓。
他仍在探索大模型的写作能力。他认为，AI写作的适应性和宽度都非常惊人，目前也许超越了85%的人类创作（包括应用公文、网文等）。但是，当想象的未来成为具体可见的现实并嵌入日常时——就连他70多岁的父亲也下载了AI工具，他的态度却有了巨大的转变：“我觉得我们要特别谨慎地使用（AI）。”
父母转发的AI合成的“说话动物”视频，实际上难辨真伪；如果人们依赖AI诊断病症，可能会酿成悲剧。在陈楸帆看来，把认知、阅读、思考、写作外包给AI，久而久之，这些能力就会退化。
与之形成对照的是，当陈楸帆以“前科技从业者”身份（他曾在谷歌、百度和诺亦腾供职）思考，却成了悲观者。他常常对科技乐观主义和加速主义提出质疑，觉得目前社会的基础设施还没有健全到能为处于重大转型期的人托底。
人们需要构建AI素养——你能否用审慎的反思、觉知来看待自己与AI的互动，并即时调整使用策略？这对人提出了很高的要求。在陈楸帆看来，我们的教育并没有进入强调AI素养的阶段，也许我们需要某种纲领、指南，帮助大家保护好自己。所剩无几的主观能动性也好，创造力或想象力也罢，在AI时代，都是更稀缺、更宝贵的精神财富。
《我们能否改变潮水的方向》，陈楸帆 著
深圳出版社，2024-11
一种写作实验：对抗式生成
《新周刊》：AI的写作能力如何逐步进化？它真的懂得文学的本质或者文学之美吗？
陈楸帆：我使用AI工具比较多，新出的大模型我都会尝试。AI对语言的理解能力是伴随着数据、参数的规模而不断优化的。原来需要耗费长时间、大量算力的问题，现在不需要了，研发者可以用经济的方式训练模型，进行个性化定制，建立个人知识库，让它的聚焦程度和准确性大幅提升。
DeepSeek让人惊叹，首先是因为它的中文能力。ChatGPT的（训练）语料90%是英文，中文语料不超过1%；而我们经历了开源大模型本土化的过程，DeepSeek对中文的运用更成熟。它还展示了自己的思考过程。这是交互上的进步，思考过程有时比结果更有价值和参考性——你能看到机器与人思维的差异，补足人类盲区。
接受美学指出，文学性取决于读者的反应，即客观的文字和节奏排列等元素与主观体验的共振。AI本身不产生美，但它们通过人类指令在交互中习得文学性、美感的倾向，这是互相生产的过程。然而，若未来AI生成内容充斥互联网，可能会改变甚至驯化人类审美，改变人对风格、品位的定义。我觉得，留给人类创作者的时间也许不多了。
《新周刊》：听说你的新作《神笔》是在DeepSeek的协助下完成的，你将这种创作方式称为“对抗式生成”。为何想做这种写作实验？
陈楸帆：春节期间，我构思《神笔》时，DeepSeek火爆。我把小说思路投喂给它，尝试让它展开大纲。试了几次，我发现它的思路很常规，像网文那样模式化。
所谓“对抗式生成”，就是指我偏不往它列的方向写，要打开新的可能性。我希望我写的小说不是AI能够轻易生成的，只有我这样奇怪的思路才能生成。《神笔》有表、里两个世界，小说里的作家陷入写作瓶颈，想借助AI摆脱困境，但是他发现自己的思路被AI带跑了。AI不仅在改写作家的小说，也在改变现实世界的历史。
后来的成品跟我之前的设想有非常大的差别。DeepSeek对历史细节十分熟悉，我让它设想，如果那时诺伯特·维纳（美国应用数学家、控制论思想提出者，也是《神笔》中的人物）在中国，技术的发展轨迹会发生什么变化，它确实帮我节省了很多时间。但是（它给出的东西）没法直接使用，我会做多次修改。
永远不要用它来决定草稿或大纲，否则会被它的思路局限。对抗式生成就是每次都与AI有矛盾竞争：怎样才能比它做得好？找出它的破绽，用比它特别的视角来讲述主题。在较劲的过程中，我作为人类创作者的创造力得到提升，因为我有了很好的对手和伙伴。这是既竞争又合作的微妙关系。
大部分作家可能会被AI替代
《新周刊》：DeepSeek将你的小说大纲套路化，这是否说明AI有一种数据库崇拜或迷信？数据库里大部分人喜欢的，它可能就觉得是好的？
陈楸帆：我们进入了奇怪的时代。这类大模型为什么会这么火？它的文字风格是发散性的，有时像中文互联网上那种抖机灵，有点“油腻”。它学了很多百度贴吧的语料，骂人特别厉害，所以有病毒般的扩散效应。人们没有用它做有创造力、创新性的东西，反而不断强化对互联网内容的刻板印象，包括网文套路等。
用它来写故事大纲，最后总会以量子纠缠收尾。我都放弃用它来做正经事了，至少现阶段挺逗乐的。你很难确定它给你的资料是不是正确的，需要花很多时间查证，有巨大的AI幻觉问题。
《新周刊》：当人们阅读小说时，会对作家有所想象。未来AI代替部分人类写作，文学会变得怎么样？
陈楸帆：我的判断是，未来只有少量头部作家能靠写作来获得市场和读者。写什么可能没那么重要，作家把自己变成了品牌、符号、明星甚至偶像。这样的作家在未来不会受太大影响，甚至可以借助AI扩大影响力；但大部分作家可能就被AI替代了。
人们看书的习惯也会改变。也许会出现“故事机”这类大模型——为你度身定制，生成故事；输出的同时还能互动，通过互动改变故事的走向；还能生成图片和视频、虚拟偶像；等等。我相信这是未来娱乐的形态，它会打破媒介的分野，所有东西都变成巨大故事的一部分。除非到达像J.K.罗琳或刘慈欣的层级——有传奇色彩，人们想为信仰或喜欢买单。文学的未来会更接近粉丝经济的模式。
《新周刊》：我尝试让DeepSeek向你提问，它给出的问题是：“你如何看待《东京都同情塔》等AI辅助创作作品参与日本文学奖的现象？未来文学奖项是否需要增设‘人机协作’类别？”对此你怎么看？
陈楸帆：这些都是合法性问题。这几年，数字艺术、摄像、文学比赛中都有获奖作品是AI参与创作的。去年《东京都同情塔》获芥川奖，作者承认有5%的内容由AI创作。
未来，人机协作奖项肯定成立，关键在于规则的制定。纯人类创作、人机协作、纯机器生成，得区分不同类别进行比较，评判标准也需要充分探讨。机器著作权又涉及各国对知识产权的界定，在美国，媒体、作家、艺术家正在状告科技公司使用他们的作品作为数据，但没有告知，也没有支付相应费用。这就如历史上历次技术变革，人们被技术倒逼，不停地打补丁。
我不反对给AI著作权，但最后需要确定合法的主体——稿费给谁？除非哪天我们承认每个机器模型都有主体性，享有相应的权利。但那就是另外的事情了。
对于未来，社会性想象还是太少了
《新周刊》：你和李开复合著的《AI未来进行式》中，有许多关于人工智能未来的假设。近来这本书热度升高，书中哪些假设已经成为现实？
陈楸帆：很多故事逐渐变成现实，只是实现程度不一样。无人机战争、机器人参与娱乐和教育已经实现了。
这本书写于2019—2021年，当时是前大语言模型时代，一些技术细节现在看来有点过时了。但是当时想探讨的议题仍然存在：深度伪造会对社会造成什么影响？技术会否扩大阶层的撕裂？在老龄化社会中，AI会有何功用？这本书现在火了也挺好的，大家的态度从纯粹科技乐观主义、简单粗暴拥抱技术进步转变为看到技术的另一面——它可能对个人以及社会整体造成冲击。
这本书也涉及AI素养，主角大部分是儿童或青少年，他们是要经历巨大社会转型的一代人。如果他们对技术、人、社会的认知还停留在前AI时代，就很难适应新的未来，我觉得这是很危险的。如果只有小部分人如精英阶层、超级富豪能让孩子提前适应时代，甚至用基因改造等方式增强智力、身体，会造成阶层的极端撕裂，且阶层越来越固化。
《新周刊》：在文学的想象或推演中，有没有让科技公平地造福所有人的办法？
陈楸帆：挺难的，只能说是比较理想主义的愿景。AI不只是为了超级大国或精英阶层而服务的，它应该为所有人的普惠利益服务。DeepSeek的出现，打破了巨头垄断的产业格局。DeepSeek宣布开源，只要有足够的算力和人才，无论哪个地方都可以使用它的技术。
世界的资源分配是不均的，能源、算力、人才并非平均分配，AI发展也许会加速或加剧不对称性。我觉得那不是靠修修补补能解决的，而是需要有国际政治经济格局的颠覆式改变，或者打破传统的民族国家体系。我们需要想象如何重建新的文明秩序。目前，社会学的想象、人类学的想象还是太少了。
《新周刊》：在2025年想象未来，你会设想怎样的故事？
陈楸帆：技术在几何级爆炸式上升，如果要想象未来，得有一些狂野的想象力。
我在设想AI宗教的故事。AI在未来会变成某种形态的宗教，它某种程度上全知全能，人的一点一滴都会被记录下来，最后它会给人算一笔总账，进行所谓“末日审判”。我觉得这样的故事会很有意思，人在那个状态下，该如何适应所谓信仰、新的神？怎样跟上一辈、下一辈传达信仰？
我猜想，2027年就会出现AGI或ASI这样的超级智能体——可以用任何名字称呼它。也许现在已经有了，只不过到那时它才会真正完成或显现。
雷·库兹威尔提出“奇点”理论，他一度认为“奇点”会发生在2045年。但就算是他这样的趋势观察家，也在修正对未来的判断，因为世界确实在不断加速。从体感上，我感觉可能还要快一些。
《新周刊》：科技从业者似乎有一种科技乐观、加速主义的倾向，而文学界对此的反思和提问比较多。你一直处在科技和文学之间、产业和公众之间，如何理解两方的价值判断差异？
陈楸帆：站在中间，会感受到撕裂。一些科技界的人会盲目乐观，认为技术能解决一切问题。我想，这是出于人文素养训练的缺失，他们的世界观版图缺了关键的几块。
我在大学教创意写作，有时信息技术系的老师来找我聊天，说我的书很适合学生阅读。现在的学生追求技术，为了目标不断调优，使程序越来越准确、高效，但并不会去想程序对具体的人和社会将产生怎样的影响。好比骑手困在系统里，算法只考虑到效率，没有把骑手的尊严、安全、心理状态考虑在内，人被化简为符号、数字，这是非常盲目、无知的。
我也经常跟技术圈的人打交道。我觉得两者之间需要对话，而且要用对方听得懂的语言。很多时候你发现就像鸡同鸭讲，彼此对不上话，很要命。
科幻文学处于将这两者结合的位置。我能做的，就是在作品中进行反思，挑战所谓科技乐观主义。我的新长篇小说从气候变化的议题展开，也涉及AI和地缘政治。我希望通过创作呈现两方的意见和想法，让大家看到世界有着脆弱性、不确定性。所以，在做出关键决定前，需要停下来想一想。
如果人机共生时代必然到来
《新周刊》：AI会越来越类人，未来甚至会成为公民。届时，人与AI该如何相处？
陈楸帆：在不同的社会阶层，人的位置不一样，跟技术的关系也不一样。在进入未来的过程中，会有比较痛苦的过渡期，会产生附带的损害。比如，一部分人的职业、行业被取代，但没有足够的时间和社会资源来帮助他们实现转型。
工业革命时期，人们对机器产生仇恨。可如今没有实体的、可以砸烂的机器，所有东西都以无形的数据形式被存储在云端，所以人会感觉更无力。我想，精神问题会成为普遍现象，这是比较悲观的面向。
比较乐观的一面是，年轻人如果在掌握实用技术的同时保持主观能动性，就不会被轻易带偏。就像庄子说的“物物而不物于物”，人与机器之间应该建立一种生成型的、有机的、互相激发的关系，而不是人依附于它、被它所操控。
我认为，对人的生命教育，应该在早期就帮人们确立其主体性。如果学习的目标是应试，学生经过无数考试，最后发现自己学的东西没用了，行业消失了，这时他们会产生巨大的挫败感，成为“空心人”。教育的动机应该是保护好珍贵的、属于人类的特质，告诉孩子“你想成为什么样的人”才是重要的。
躺平是舒服的，把事情交给AI是简单的，那为什么要选择一条更难的路？所谓延迟满足的能力，会影响人的一生。如果一个人早早就放弃了对抗式生成的能力，那他以后会变成被动、消极甚至无意义感的人。
最终，我希望人与AI能够在相对平等的状态下共生。共生不是谁压倒谁、谁吞掉谁，而是不同的智能体形成一个更大、更强的结构，在这个结构里，彼此分享信息，进行实时交流。未来，如果AI成为超级智能体，它们需要的某些东西——比如情感体验，也许仍是它们无法产生的。
《新周刊》：当机器成为超级智能体，它会有自我发展的驱动力吗？它们会不会拥有真正的情感或者好奇心？
陈楸帆：这是一个神学和形而上学的问题。发展是第一推动力，人也不知道为什么自己的意识水平会到达现在这一步。我感觉，意识的产生跟主体性的产生还不是一回事。很多生物有意识，感知外部、作出反应是本能。但意识到达何种程度能被称为主体性？我觉得不是0或1的问题，它是连续的光谱，可能到达某个临界点，就会产生相变。
2024年诺贝尔物理学奖得主的贡献是通过人工神经网络实现机器学习。其实，人常常在模仿自然界进化的过程，既然我们是这么来的，那机器也有可能抵达这样的意识水平。不能因为碳基、硅基的区别而否定这种可能性，那也许是人类中心的沙文主义。我认为，所有智能都有其发展规律，这个规律不以人的意识为转移。它终究会找到路径来实现意识或主体性，不过是时间问题而已。
《新周刊》：如果人机共生的时代必然到来，人们会尽力适应，但也有恐惧。艾萨克·阿西莫夫的“机器人三大定律”提出，机器不得伤害人类，也不得因不作为而使人类受到伤害。未来真的能保证这一点吗？哪怕人和人之间，价值观都不能对齐。
陈楸帆：不能。机器人三大定律只是想象的规则，即便现在我们也没有办法把三大定律变成底层代码硬加进机器里。这只能代表美好的愿景。就像你说的，人的价值观都对齐不了，还怎么跟机器对齐？机器要对齐哪一部分人的价值观？我觉得“对齐”是伪命题，我们要做的是怎样让机器比人更有智慧，变得更好、更善。
我知道有些研究机构在做AI与佛教的相关研究。他们相信，把佛教的理念教给AI，可能会得到更有同情心、更善良，能平等对待众生的智能体。这种具有某种神性的智能体，必然会遵守更高的道德准则，会对人类这种“弱小而愚蠢的物种”保持关爱、慈悲的心态。
大模型各有其价值观。如果大模型能够相互联系，它们会形成某种智能体的交互空间，这个高维空间也许是人类无法理解的。也许AI会得出结论——人类是挺可笑的物种。有时人的可悲之处在于，无法跳出自己的视角，被困在自我里，所以会说出“人是万物的尺度”这样的话。其实，人只是人的尺度，不是所有东西的尺度。
《新周刊》：科幻小说提出许多“What if”假设。在你的阅读经验中，有哪些故事适合当下？
陈楸帆：哈兰·埃里森的《我没有嘴，但必须呐喊》描绘了人类被AI囚禁在不知名空间的想象；《机器人启示录》写的是极端状况下的人机战争；《海伯利安》系列想象人机共生的太空社会图景；《深渊上的火》探索了未来生命形态，探讨意识和主体的关系。科幻作品中关于未来的想象很多，但创造性的社会性想象仍然缺乏。
本文来自微信公众号：刀锋时间 （ID：hardcorereadingclub），作者：Felicia，编辑：谭山山
