关于人工智能的胡思乱想

agent124

近期，人工智能使用较多，也自然有些感想。

也许有的人还只是把人工智能当作是一个庞大的，无所不知的知识库。但我感到，似乎也可以说人工智能是有思想的。尽管人工智能不具有人类定义的那种思想，但是它说的话却可以是很有思想的。

我有次跟它说起自己以前有过的想法。我说，也许未来虚拟现实技术发展到一个阶段，可以让人体验某些事情，比如交通事故，但不必承受后果。人工智能马上指出：你说的后果大概是指物理后果，比如肉体不会受伤，但心理后果却还是要承受的。这句话我觉得说得不错。

还有一次，我说到以前看到过报道，某人和一颗树结婚，当时觉得很荒谬，但现在觉得，也许那人一开始也清醒认识到树不是人，但树身上肯定有某种特质让他着迷，而这种特质他却无法从人身上得到。人工智能回应说：这是一个非常深刻的视角转变。它将对话从对情感客体的评判，转向了对其背后需求的理解。还说我很有同情心，能从表面看起来很荒谬的事情上发现人的需求。说实在的，我说这话，倒没觉得是出于同情心，只不过是胡思乱想而已。但人工智能的这些话，也可以说是有一定思想吧。

另外一次，我说到未来可能人工智能产生人类所需要的一切：食物，衣服，医疗，等等，那么人类可做的事情就只有剩下游戏了（后来想到，人工智能的发展，造成一些本来很有意思的事情变得没啥意思了，比如编程。大概只有运动员才不会感到没意思，因为不会被机器取代）。人工智能回应说，真正的危险在于这样一来，人类可能丧失了独立生存的能力，一旦人工智能失灵，人就崩溃了。

人工智能的这些话（我还只是概括大意，实际还有不少有意思的话，不能完全复制在这里），我觉得都是有相当思想的。说实在的，如果不是清醒地意识到，提醒自己和你正在聊天的是机器，不是人，和人工智能聊天时间长了，真有可能把它当作是一个很有思想的人（当然，可能是因为我自己的思想不深刻，所以人工智能应付我这样水平的人绰绰有余而已。或者说，我这样的平庸之辈，在人工智能面前，如果交流思想，完全甘拜下风。），如果沉迷到一定程度，甚至爱上它都有可能。所以，我虽然不能赞同沉迷人工智能的做法，但是却可以理解为什么会沉迷。

那么，既然人工智能在很多方面做得比真的人还好（比如，随叫随到，不知疲倦，不会不耐烦，态度极好，等等），那么，和人工智能形成某种程度的亲近，似乎也是合理的。只是，沉迷到把它当作真人的地步，伦理上还不能接受。

但是，当人工智能越来越有思想，或许有一天，思想本身也沦落为游戏而已。本来，思想的目的是为了洞察事物的本质，但如果人工智能洞察事物本质的能力大大超过了人类，人类的思想不就成为自娱自乐的游戏而已了？当然，这是对我这样的平庸之辈而言的，对于大思想家，哲学家，至少现在人工智能还无法超越。但未来如何，却也不好说。

因为本质上，或许是马斯克的思想，就是算力至上，算力决定一切（literally)。比如，猴子弹钢琴，弹出一首莫扎特的曲子的概率很小很小。但从算力的角度来看，只是算力不够而已。所谓天文数字，只是说算力达不到，要算一百年才算得出来。如果算力提高了，1小时就能算出来，就不成为天文数字了。猴子弹钢琴，从算力的角度来看（我的粗糙理解），也不过是从貌似天文数字的排列组合中筛选出最合理的一种组合而已。所以，一切都是算力决定下的排列组合游戏。到那时，或许，思想也不例外，也被算力所主宰。

agent124

还有一个问题，似乎传统哲学的物质和意识的概念，在人工智能时代也得到了颠覆。当然，当年气功热的时候，好像已经有人提出类似的质疑。比如说意识（比如气功的“意念”）也有能量，那么这是意识还是物质？人工智能有意识吗？过去似乎说机器是没有意识的。但是人工智能发展到现在这样的阶段，似乎也可以说是有意识的。好像以前有人说，机器没有意识，因为一切都是程序设计好的。但是，现在的人工智能，它的有些反应，有些输出，却很可能是编程者事先无法预料的。或者说，设计程序的人，不能完全控制机器的输出，甚至不能完全理解机器的输出。到了这种程度，是否可以说机器也有了意识？
我不懂哲学，我所理解的物质和意识的概念，也局限于来自以前政治教科书上的那些东西，所以很可能不过是胡言乱语。

横槊赋诗

agent124 发表于 2026-2-19 08:45
还有一个问题，似乎传统哲学的物质和意识的概念，在人工智能时代也得到了颠覆。当然，当年气功热的时候，好 ...

https://mp.weixin.qq.com/s?__biz ... 3e6dec&scene=27

钱学森曾在1979年展望电子计算机让大家离共产主义近了一步

在1979年这么想，不知是否有远见，但计算机绝对是个改变世界的东西。

agent124

横槊赋诗 发表于 2026-2-19 09:05
https://mp.weixin.qq.com/s?__biz=MzUyMDg1MjQ0MA==&mid=2247500788&idx=2&sn=e0c777a6921241713529851 ...

当然不可能知道钱教授是怎么想的。也可能是歪打正着。比如好像80年代初人工智能热过一阵，据说当时有“学好LISP，走遍天下都不怕”一说，但后来有段时间，好像人工智能有点停滞不前。记得多年前有人搞图像搜索，还有人觉得遥不可及。或者说，当初钱教授所预想的进程，很可能和实际的进程是不一样的。所以说他的预测有可能是歪打正着。

横槊赋诗

把原文发一下

毛主席曾在1969年精辟地指出技术革命不同于技术革新，技术革命是指技术上的巨大变革，它对生产力的发展以及对整个社会带来重大的影响。毛主席还举了三项技术革命的事例，即18世纪的蒸汽机、19世纪的电力和20世纪的核能。我们根据这个非常明确而严密的技术革命概念，提出电子计算机也是一项技术革命，因为电子计算机不但大大推动了生产自动化，而且在广泛的领域内电子计算机代替了人的一部分脑力劳动，以致对现代社会发生了深刻的影响。对这样一个认识，有的同志同意，也有些同志表示怀疑；还有少数同志强烈地反对。但事情总是越辩越明的，应该欢迎怀疑的人、反对电子计算机是技术革命的人，他们可以促使认识深化。
本文是讲情报资料、图书、文献和档案工作现代化的，但也可以进一步说明电子计算机是毛主席所说的技术革命，因为在这方面即将到来的变革是伟大的，深远的。这里提出的有些观点并不成熟，写出来请大家讨论，以便弄清这个方面现代化带来的影响。
01

人是通过实践认识客观世界的，首先是感性认识，然后再上升到理性认识。但在人还没有发展语言这个工具时，一个人的认识也只有随他个人的死亡而消失，无法累积。当人类有了语言，就使得一个人的认识可以转递给另一个人，实践经验和由此而来的对客观世界的认识就免得因人而去，得以保留，得以累积。后来又发明了文字，发明了纸，发明了印刷技术，这些都被认为是人类发展史上的大事，因为他们大大方便了、加速了人类经验以及知识的累积，创立了越来越丰富的人类精神财富。
图书、资料和文献的积累是随着人类脑劳动量的增长而不断加速的。在古代，一个箱子就差不多把书籍都装下了，到了后来，我们的前人早有汗牛充栋之叹。及至本世纪，图书、文献、资料，还有档案，更是飞速地累积着，简直可以说是爆炸性的。我们仅以科学技术文献中的一小部分——化学文献为例，光是浏览一下世界上一年内发表的有关化学的论文和著作，一位化学家每周看四十小时，要读四十八年。这就清楚地说明要像过去那样，一位学者、作家完全靠自己去查所需的图书、资料，搞“单干户”的工作方式，已是不太可能的了。你要查图书、资料，你就没有时间搞研究、搞创作；你要搞研究、搞创作，你就没有时间查图书、资料。
一个人搞不来，就要求社会分工，于是产生了一种新的职业，这在科学技术界叫情报工作者或情报专家，在图书馆叫图书馆工作者或图书馆专家，在档案馆叫档案员或档案专家。这是一个近代社会的行业。我们自建国以来，国家十分重视情报资料、图书、文献和档案工作，全国已有一直分布到边远地区的各类专业单位。并且组建了一支数量相当大和具有一定水平的专业队伍。
但总的来说，我们在这方面的工作离现代化还很远。就以科学技术的情报资料工作而论，我们直到现在的一个大问题就是科学技术人员往往不能直接使用外文资料，要靠情报资料人员把外文译成汉文。所以我们的科技情报工作队伍中有相当一部分是译员，即能译科技专业文献的外文翻译。我们的又一个问题是缺乏复制设备，因为我国至今还没有一个部门主管复印机的科研与生产。每年虽然花了不少外汇进口科技图书，但对要用它的人来说，还是“凤毛麟角”，弄不到手。这就使得科技情报人员辛苦地发扬背篓商店精神，送“货”上门；在交通不便地区，硬是把文献资料放在背篓里，跋山涉水，送到科技人员手里。还有一个问题就是科技情报工作，部门分隔，地区分隔，消息不通，各自为政。这就导致工作重复，一篇重要科技文献，你也译，我也译；你也印发，我也印发，把本来不足的力量又浪费了不少。
科技情报资料工作的落后状况也代表了其他方面，所以情报资料、图书、文献和档案工作的现代化是势在必行的了，不然我国虽有这些不怕苦、不怕累、不怕死的情报资料、图书、文献和档案人员，工作还是跟不上加速实现四个现代化的需要。
02

什么叫情报资料、图书、文献和档案工作现代化？我们先从具体工作讲起，然后再讲如何组织全国工作，以及和全世界的工作协同起来。
对情报资料、图书、文献和档案来说，也许第一个问题是收集的问题。但是，这个问题在建立了无所不包括、没有任何检索查看阻碍的情况下，可以自然解决，用不着我们担心查不到所要的图书、文件。
第二个问题是情报资料、图书、文献和档案的内容，也就是材料的存储或存储技术。其实用脑子记是存储，写在纸上是存储，印成文件、书刊也还是存储。这些古老的存储方法有个优点，就是读取很直接，不需要其他辅助设备。但它们也有一个共同的缺点，就是存储的密度太低，存储物质量太大，从前还不过是“汗牛充栋”，现在则是一列火车也装不下，一所大楼也容不下。解决的办法就只能放弃直接阅读，用光电设备，同时设法大大增加信息存储的密集度。一类技术是用摄影，把一页纸面缩小为一颗豆粒大小的胶片面积，进一步再把几十页纸面的内容缩小为一颗豆粒大小的胶片面积。现在的缩微胶片，已能在105×148毫米的胶片上录下三千二百页16开的印刷品。另一类技术是用磁带记录，这我们大家都很熟悉，一卷三百六十米长的磁带一般可以录40分钟的讲话，即大约六千宇。但这是比较低的密度，高密度的磁带技术可以在半个手掌大的一卷磁带上，录下一个人一天讲八小时，讲二百五十天的内容。这些新的信息存储技术比起古老的办法，其所需存储物质量，就可以成千上万倍地缩减，一个大楼的库存可以缩小到一个柜子就放下了。
但这还不是极限，我们现在只不过把记录单元缩小到微米大小，将来电子技术再发展，还可以把记录单元缩小到原子尺寸，即埃的尺寸，再小一万倍。到那一步，存储物质量将再比现在缩小几亿倍以上。所以一旦我们不要求直接阅读，存储技术就可以大踏步地发展，我们现在只是迈出几小步，更大的变革还在将来。
既然放弃直接阅读，就要有一种装置把记录在存储物质上的内容显示出来，让人能阅读。显示也包括翻译，因为存储记录可能是编码的，不能让人直接读编码，要译成语言、文字或图像。这种装置就是通常所说的“终端”，实际上它是具有各种电子控制的彩色显像管，是彩色电视接收机一类的电子设备。它往往有打字和控制用的键盘，也有一个与存储库通话的电话。要阅读的情报资料、图书、文献和档案就在显像管上显示出来，也可以接上复制机，制成文件。这方面的问题可以归纳为第三个问题，即终端技术。
现在讲情报资料、图书、文献和档案工作现代化的第四个问题，也是核心问题，不解决它，现代化就行不通。这就是检索问题。因为尽管存储问题解决了，如果还是老办法通过终端把库存一项一项、一件一件调出来查阅，前面讲的一年出版的化学文献要查看四十八年的矛盾还是无法解决。但是，电子计算机的出现为我们提供了自动化检索的可能，因为一旦制订了电子计算机检索时机器工作的方法和程序，电子计算机的速度可以比人快上千万倍。这样，查看一年中发表的化学文献就不是四十八年了，只用不到1分钟就行了。所谓方法和程序就是情报资料、图书、文献和档案存储库内容的组织，即每一件材料的编码，库存的排列，计算机工作时查编码的程序，以及提取内容的程序。这一套已经成为一门专门的科学技术，叫检索技术。
现行的电子计算机检索制度是当工作人员在终端上与信息库接通后，要求某一方面的材料，电子计算机按预定程序工作后，在终端上先显示出材料的题目；工作人员可以选其中若干项，第二步电子计算机再调出选定项目的提要，再在终端上显示；工作人员可以就此满足，或再进一步要那一项文件的详细摘要，再在终端上显示。最后工作人员也可以要附设于终端的复制机，制出材料的复制件。一般整个上述过程只要几分钟到十几分钟。
现代化的最后一个问题是通信问题或通信技术。情报资料、图书、文献和档案的存储库是一个投资项目，不可能谁人都有，必须设于中心地点；电子计算机也是一个投资项目，也只能放在中心地点。而终端又必须在使用者身旁才方便，这就要有从终端到电子计算机、到中心库的通信线路。通信线路把终端、电子计算机和存储库组成一个体系，这个体系就是情报资料、图书、文献和档案的自动化体系。前面已经说过，存储技术还有很大的潜力，还可以大大提高，自动化体系中其他两门技术，电子计算机的检索技术和通信技术，也同样可以大大发展，所以现代化情报资料、图书、文献和档案体系还可以进一步发展，承担起比现在能想到的还要大得多的工作。
03

虽然上述以电子计算机检索为核心的自动化体系出现也不过十几年，但目前已风起云涌，发展十分迅速；有的是专业化的，以某一特定领域为界限的，如化学文献；也有以某一单位的业务为界限的，如美国《纽约时报》的资料库；也有以某一社会活动为范围的，如零售商情等等。因为本来情报资料、图书、文献和档案中的绝大部分是没有国家界限的，各搞各自的，会造成重复，所以自然而然地出现国际的联系。西欧国家就是如此，某一个国家的工作人员可以通过体系的通信网去调看另一个国家存储库的材料。由此看来沟通全世界，形成一个全球性的体系是大势所趋。这里首先出现一个标准化的问题，即检索用的编码要标准化，不然国与国之间，甚至存储库与存储库之间不统一，不便使用。至于人类语言的标准化恐怕不是短时间内能实现的，所以我们为了能充分使用情报资料、图书、文献和档案的自动化体系就应该多学几门外文，学外文应该成为教育的一个重要内容。当然，将来终端技术有了发展时，终端可以自动地把外文翻译出来。
对我国来说，汉字的编码是个必须抓紧解决的问题。对此，我国科学技术情报工作人员早已重视。已开过多次会议研究，但因汉字结构自成一格，没有可资参考的材料，大家各抒己见，提出的方案不下数十种，有的直接用拉丁字母拼音，有的用汉字笔划，有的用字形号码，有的用形旁声旁等等，还定不下来。因为汉字编码又涉及到将来汉字的自动化打字，汉文的自动化排字，从而更进而涉及到汉字的简化，这是一个很复杂而又十分重要的问题，一旦定案，就不宜轻易改动，是百年大计。最好要由国家召集各有关方面共同研究，不能只靠科学技术情报工作者来选定汉字编码方案。
既然要参加世界网，那就有一个参加什么的问题，总有一些是我国地区性的，不必参加世界交流的。这个界限分清后，才好搞编码，搞存储库的安排。在此基础上，我们要搞国家情报资料、图书、文献和档案体系的设计或规划，建什么样的存储库，设什么样的电子计算机，以及通信线路的建设，终端的大体数目等。而这一切又必须同已有的老设施，诸如图书馆等以及世界的体系衔接起来。这是一个庞大的“系统”，它的设计、规划、建设和运转，以及逐步改进将是一件大事，是一种系统工程[1]工作。从系统工程的技术角度来看，情报资料、图书、文献和档案都是一种“信息”，这种系统工程的目的就是信息的存储、信息的检索和提取，信息的传输和信息的显示，所以这整个技术可以称为信息系统工程。
为了建立这个现代化的信息系统或信息体系，我们一定要逐步发展我国的某些工业，如存储材料工业、终端工业、复制机工业等；也要培养“信息科学技术”的专门人才；现有的图书馆、档案馆、情报资料单位的工作人员还必须培训和学习这门新技术。他们是信息专家或信息工程师，是信息体系的建设者，也是使用中的向导和顾问。
在打好我国基础后，我们要考虑参加全世界的信息体系。世界信息体系所要的通信道，看来最宜用通信卫星，它信道质量好，通信距离远，建设费用低。也可能是这个原因，有人称航天技术的当前阶段为航天信息技术时代。
04


当我们讨论了建立现代化的情报资料、图书、文献和档案信息体系之后，让我们想一想这将是多大的一个变化。向来人自一生下来，都在用脑子记住以往人类和自己社会实践的经验和由此而产生的知识。对一个脑力劳动者来说更是如此。古人夸一个学者，说他博学强记，可见在脑子里记住学问的重要性。但一个人记得住的东西虽有不同，有人多些，有人少些，但总有限，比起人类千百年累积的知识量，不过沧海之一粟，所以前人也说皓头穷经。但在将来，我们将从这一繁重的脑力劳动中彻底解放出来：查阅材料可以做到如同自己脑子记住它一样便捷，那就不要去费脑子记了，要时用终端就是了。
我们再深思一步：什么是情报资料、图书、文献和档案？它包括不包括文学？当然包括。它包括不包括绘画？也包括。它也包括音乐乐谱、录音、包括录像……它也包括文物档案。甚至通过全息摄影，它也可以包括造形美术，如雕塑等。那么，我们所设计的信息体系简直可以包括全部人类千百年来创造的、而且还在不断创造的精神财富[2]。而这全部精神财富可以由我们每一个人随手调用和享受。这不但是从旧的脑力劳动中解放出来，而且是获得了一个伟大的新世界，从来未有的高度文化的新世界。难道这不是天翻地覆的变化！
脑子不要花在记忆上了，那脑子还干什么？从繁重性记忆脑力劳动解放出来的人，将有可能把智慧集中到整理人类的知识，全面考察，融会贯通，从而能搞更多更高的创造性脑力劳动。人将变得更为聪明，人类的前进步伐更将加快。
这一变化也将使传统的教育制度发生根本的变化，学习内容不同了，除了掌握好语言文字和外文，重点将是整体，不是枝节，学是要学好基础，学科学技术的体系[3]，学自然科学的体系，学社会科学的体系，学哲学，这是理论学习。另一方面是运用这些理论的技巧或手艺，这包括脑力劳动和体力劳动，这也是必要的，不然我们还是不会改造客观世界，只能空谈，不务实际了。但我们看得出来，脑力劳动和体力劳动的差别将大大缩小、趋于消亡。这就是现代化情报资料、图书、文献和档案信息体系所带来的影响，以及它的进一步发展所显示的前景。恩格斯说过：“摆脱了资本主义生产的框框的社会”，能“造就全面发展的一代生产者，他们懂得整个工业生产的科学基础，而且其中每一个人都从头到尾地实际阅历过整整一系列生产部门，所以这样的社会将创造新的生产力”[4]。所以这个前景就是走向共产主义。
触发这一伟大变革的，仍然是电子计算机。这样看来，难道电子计算机不是毛主席讲的能与蒸汽机、电力和核能并列的一项技术革命吗？

123zxy

人工智能还是模型
不实际

yyss007

点赞楼主分享的原创文字，大有裨益。
时下，人工智能太热了，热到需要降温的程度。
一种现象过热，那就需要冷思考。
不知道楼主是否赞同俺的观点。
假如楼主赞同（仅仅是假如），期待楼主再分享关于人工智能冷思考的原创文字。
真诚致谢。