ChatGPT最大的隐患不是抢人类的就业而是让个人的经验变得廉价

  行业动态     |      2025-07-15 03:19

  最近看到不少关于同一主题的讨论,都契合stay hungry stay foolish的新解,正好遇上儿童节,便整理后记录下来。

  有过编程经验的,会觉得上面的话有一些道理,如果不能从整体上加以驾驭,那大模型带来的快,就意味着返工(由于你的提示词和真实需求存在差距,而这差距由于你缺少深度思考而在后续显现),此时方向稳会比车速快更为重要,而这背后体现的,是大模型作为一个延伸的存储,其与中央处理器(人脑)的带宽和纠错码机制的缺失,限制了大模型的进一步使用。对于那些教授大模型使用的课程,上述思考意味着我们要关注的是什么样的思维习惯,能避免大模型编程过程中的翻车,让思维速度能和大模型的代码生成速度匹配。

  对于大模型生成的类“得到”视频,笔者的看法与↑有所不同。前几年得到app之所以能够引领知识付费浪潮,就在于其将大V由手工作坊,变成了工业化生产内容,大V们的观点或许不再犀利,但其质量下限却可以保证。然而,正如美式快餐无法取代米其林餐厅的地位,工业化的内容生产,能够获得点击,但带有作者强烈个人标记的作品,却始终有着不可替代的价值。

  之后,便是自然通讯上Andy Clark的一篇观点类文章,名为“Extending Minds with Generative AI”,该文开张明义,指出

  随着人机协作成为常态,我们应当提醒自己,构建人机混合思维系统是我们固有的本性——这些系统能够灵活地整合非生物资源。认识到这一点,会促使我们改变对即将到来的时代的威胁和机遇的思考方式。

  具体来说,该文先立靶子,指出技术带来的危害,就如上面给出的两个例子。具体来说,是:

  1)人们担心新技术正在使我们变笨。GPS 应用程序正在缩小我们的海马体(或在其他方面削弱我们的无辅助导航能力);

  3)流媒体媒体的多任务处理正在降低我们的原生注意力持续时间,并(可能)影响前扣带回皮层灰质密度

  潜移默化中,生成式AI会剥夺我们创造和珍视自身内容的必要性和动力?如果我们需要写一封投诉信、策划一场婚礼或撰写一篇论文,我们是否只需启动最喜欢的生成式人工智能,不加批判地接受它提供的任何内容?长此以往,我们的智慧不再闪耀,集体自我被AI剽窃,创造力的价值不再被珍视。

  扩展心智,即人类的认知随着工具的增加,而逐渐扩展范围,来回应上述担忧。稳重首先回溯历史,指出人类似乎对承认自身的混合本性表现出一种奇怪的抵触。我们长期以来都怀有一种高度限制的自我形象——这种形象自然而然地导致我们担心新的工具和技术会导致心智能力的衰退。

  在柏拉图的《斐德若篇》(约公元前 370 年写成)中,可找到了一个清晰的陈述:即诸如阅读和书写等新发明的发明将对人脑记忆产生灾难性的影响。这种担忧是,这些创新会导致懒惰的大脑。我们会开始认为我们比实际知道的更多,这要归功于这些廉价但肤浅的非生物存储和检索新方式。

  随着我们的工具和技术不断进步,我们能够更深入、更深入地探索生命和物质的奥秘。我们逐渐了解了时间初始阶段的可能条件,并揭示了生命的生化基础。我们并非通过变得越来越愚蠢的大脑来实现这一点,而是通过变得越来越智能的混合思维系统。

  但我们还没有摆脱柏拉图描述的担忧之所以持续产生的根本原因——那种深刻错误的自我形象认知。这令人困惑,尤其是考虑到我们物种的历史一次次被新发现的工具和实践的变革性影响所标记。可以说,我们人类的基本本性就是这样不断将认知负担外包——成为我所说的“天生的赛博嵌合体”。我们一直在忙碌地构建新的思维和推理方式来理解我们的世界和选择。随着这一过程的展开,生物大脑的最佳用途(尽管不是其基本操作和本质)再次发生着转变和变化。这是因为人脑在将自身技能与新工具和技术浪潮提供的机会相匹配方面表现出惊人的适应性。这并非简单的工作卸载,而是创造了精致交织的新整体——大脑、身体、外部世界,其中大脑所做之事、身体所做之事,以及通过外部媒体和应用程序提供的循环都在持续变化,各自以自己的方式、在不同的时间尺度上适应其他部分所提供的内容。我们通过不断尝试预测自身行为产生的感官后果(主动推理)来学习关于我们世界的信息。在这个过程中,我们的大脑通过在世界中采取不同行动,变得擅长解决关键的不确定性。当周围的世界呈现出丰富的可选项组合时,我们的大脑学会做最有效率的事情——例如,仅在生物记忆中存储所需内容(例如搜索线索),以便从其所在的大生态系统中随时获取正确结果。因此,大脑的核心技能包括启动那些能够利用各种环境机会和支持的行为——从在便利贴上涂鸦到启动人工智能。如果最佳的不确定性最小化行为组合需要一些内部脑力工作和一些身体工作(例如在笔记本电脑上敲击键盘),那么就会选择这一序列。大脑本身并不关心事情在何处以及如何完成。它擅长的是学习如何利用具身行动来充分利用我们的(现在主要由人类建造的)世界。人们担心的不是生成式AI会成为扩展思维的技术,而是它们可能会成为取代思维的技术。我们该如何应对这种担忧?我们所看到的大多是涉及人类创造性过程的改变,而非简单的替代。例如,一项对人类围棋玩家的研究表明,随着“超人类 AI 围棋策略”的出现,人类生成的棋步中出现了越来越多的新颖性。这种新颖性并不仅仅在于重复 AI 发现的创新棋步。相反,似乎 AI 棋步帮助人类玩家超越了数百年的传统智慧,开始探索围棋领域中以往被忽视(甚至被忽视)的角落。Andy Clark推测,在艺术、音乐、建筑和医学科学等各个领域,情况也将如此。AI 不会取代人类思维,而是将成为文化进化认知过程的一部分。在那里,AI 思维的相对陌生性有时将对我们有利,使我们能够超越一些隐藏着重要新思维方式的偏见和盲点。然而,相反的效果也可能发生,正如另一项近期研究 (在某些科学研究成果的案例中)所指出的。人工智能在巩固某些工具、观点和方法论方面可能的使用方式,从而阻碍替代性方法的涌现——正如作者借用的类比,农业单一栽培在提高效率的同时,也使作物更容易受到害虫和疾病的侵袭,如果我们以单一的方式使用大模型,也会变得缺少多样性,如何避免文化上的同质性,将会是人机交互领域的研究焦点问题。随着RAG的广泛应用,我们能根据个人的过往经历和输出文本,生成一个数字化的分身,这些电子分身将会产生我们没有说过,但却有可能认同,并让我们获得启发的观点。随着我们越来越习惯于在这些(日益个性化)的“认知生态系统”中工作和行动,我们将开始以类似对待在讨论某个新主题时突然闪现的想法的方式,来对待这些由AI数字分身产生建议与观点。我们将新想法视为在某种广泛意义上属于我但是——就像那种突然闪现的想法一样——我们也想知道它是否真的合理,以及综合考虑下来,我们是否愿意认可它。通过这种方式,我们既信任又质疑更个性化资源的建议,就像我们可能会信任和质疑从我们自身的生物无意识中突然涌现的想法一样。为此,需要提升大模型的可解释性,如此生成式 AI方能 作为真正的创造力增强资源——成为我们思考和决策方式的欢迎补充,而不是简单、不加批判地部署的替代品。无论技术如何,这些资源将围绕我们的生物核心旋转,涌现出想法和机会,帮助你做事、识别情境,并实现你的实际目标。在这样的人机协作中,人类创造力无需受到抑制。相反,它可以蓬勃发展,不断瞄准新的任务和领域。所有发生的改变(正如它一直发生改变的那样),将是人类大脑执行的一些具体任务和处理过程。这些改变将反映出哪些可以完全委托给新的数字无意识,哪些适合存储在生物记忆中,以及哪些必须通过新的、在认识论上进行过良好调节的互动方式涌现出来。这正是我们——作为个人和社会——需要切实努力的地方。作为社会,我们需要优先考虑(甚至可能立法支持)能够与我们的新型智能和半智能资源实现安全协同合作的技术。作为个人,我们需要成为更好的信任评估者,并懂得何时信任。这意味着我们需要以新的方式教育自己,学习如何从我们的生成式 AI 中获得最佳效果,并培养核心元技能(借助新型个性化工具的辅助),帮助我们从数字信息中筛选出真伪。在这个过程中,我们需要从相当早的年纪起就培养对“扩展认知卫生”的深刻而持久的关注。这方面已经有一些进展。年轻一代比以往任何时候都更懂得如何保护隐私、防范网络钓鱼以及在网上分享什么。现在,我们应该以同样严格的标准来对待我们可能会不加批判地纳入我们新数字扩展心智的一切事物。这意味着我们需要发展和应用丰富的认识论(知识理论)——一种更适合我们生物技术混合心智所面临的独特机遇和挑战的理论以上是对Andy Clark这篇评论的全文选译,而这对应下面的两条分享

ChatGPT最大的隐患不是抢人类的就业而是让个人的经验变得廉价(图1)

ChatGPT最大的隐患不是抢人类的就业而是让个人的经验变得廉价(图2)

  上述两者所说的,其实和Andy Clark所说的异曲同工,与之类似的,还包括塔勒布对于大模型应用的评价,即人工在AI输出的策划、审核和增强中的角色也增加了多样性和质量控制的层次。(

  牛津未来研究院 《将人工智能安全视为全球公共产品的影响、挑战与研究重点》

  斯坦福:2025 斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191 页)

  Schwab :2025 未来共生:以集体社会创新破解重大社会挑战研究报告(36 页)

  IMD:2024 年全球数字竞争力排名报告:跨越数字鸿沟人才培养与数字法治是关键(214 页)

  DS 系列专题:DeepSeek 技术溯源及前沿探索,50 页 ppt

  联合国人居署:2024 全球城市负责任人工智能评估报告:利用 AI 构建以人为本的智慧城市(86 页)

  TechUK:2025 全球复杂多变背景下的英国科技产业:战略韧性与增长路径研究报告(52 页)

  NAVEX Global:2024 年十大风险与合规趋势报告(42 页)

  《具身物理交互在机器人 - 机器人及机器人 - 人协作中的应用》122 页

  Evaluate Pharma:2024 年全球生物制药行业展望报告:增长驱动力分析(29 页)

  【AAAI2025 教程】基础模型与具身智能体的交汇,350 页 ppt

  谷歌:2024 人工智能短跑选手(AI Sprinters):捕捉新兴市场 AI 经济机遇报告(39 页)

  美国安全与新兴技术中心:2025 CSET 对美国人工智能行动计划的建议(18 页)

  罗兰贝格:2024 人形机器人的崛起:从科幻到现实:如何参与潜在变革研究报告(11 页)

  kaiyun体育全站 官网登录

  兰德公司:2025 从研究到现实:NHS 的研究和创新是实现十年计划的关键报告(209 页)

  康桥汇世(Cambridge Associates):2025 年全球经济展望报告(44 页)

  kaiyun体育全站 官网登录

  威立(Wiley):2025 全球科研人员人工智能研究报告(38 页)

  牛津经济研究院:2025 TikTok 对美国就业的量化影响研究报告:470 万岗位(14 页)

  Workday :2025 发挥人类潜能:人工智能(AI)技能革命研究报告(20 页)

  CertiK:Hack3D:2024 年 Web3.0 安全报告(28 页)

  波士顿咨询:2025 亚太地区生成式 AI 的崛起研究报告:从技术追赶者到全球领导者的跨越(15 页)

  安联(Allianz):2025 新势力崛起:全球芯片战争与半导体产业格局重构研究报告(33 页)

  IMT:2025 具身智能(Embodied AI)概念、核心要素及未来进展:趋势与挑战研究报告(25 页)

  IEEE:2025 具身智能(Embodied AI)综述:从模拟器到研究任务的调查分析报告(15 页)

  CCAV:2025 当 AI 接管方向盘:自动驾驶场景下的人机交互认知重构、变革及对策研究报告(124 页)

  全国机器人标准化技术委员会:人形机器人标准化白皮书(2024 版)(96 页)

  美国国家科学委员会(NSB):2024 年研究与发展 - 美国趋势及国际比较(51 页)

  艾昆纬(IQVIA):2025 骨科手术机器人技术的崛起白皮书:创新及未来方向(17 页)

  NPL&Beauhurst:2025 英国量子产业洞察报告:私人和公共投资的作用(25 页)

  IEA PVPS:2024 光伏系统经济与技术关键绩效指标(KPI)使用最佳实践指南(65 页)

  AGI 智能时代:2025 让 DeepSeek 更有趣更有深度的思考研究分析报告(24 页)

  2025 军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告(37 页)

  欧洲量子产业联盟(QuIC):2024 年全球量子技术专利态势分析白皮书(34 页)

  美国能源部:2021 超级高铁技术(Hyperloop)对电网和交通能源的影响研究报告(60 页)

  罗马大学:2025 超级高铁(Hyperloop):第五种新型交通方式 - 技术研发进展、优势及局限性研究报告(72 页)

  兰德公司:2025 灾难性网络风险保险研究报告:市场趋势与政策选择(93 页)

  AAAI:2025 人工智能研究的未来报告:17 大关键议题(88 页)

  安联 Allianz2025 新势力崛起全球芯片战争与半导体产业格局重构研究报告

  威达信:2025 全球洪水风险研究报告:现状、趋势及应对措施(22 页)

  兰德公司:迈向人工智能治理研究报告:2024EqualAI 峰会洞察及建议(19 页)

  哈佛商业评论:2025 人工智能时代下的现代软件开发实践报告(12 页)

  德安华:全球航空航天、国防及政府服务研究报告:2024 年回顾及 2025 年展望(27 页)

  奥雅纳:2024 塑造超级高铁(Hyperloop)的未来:监管如何推动发展与创新研究报告(28 页)

  HSOAC:2025 美国新兴技术与风险评估报告:太空领域和关键基础设施(24 页)

  Dealroom:2025 欧洲经济与科技创新发展态势、挑战及策略研究报告(76 页)

  谷歌云(Google Cloud):2025 年 AI 商业趋势白皮书(49 页)

  军事人工智能行业研究报告:技术奇点驱动应用加速智能化重塑现代战争形态 - 250309(40 页)

  璞跃(Plug and Play):2025 未来商业研究报告:六大趋势分析(67 页)

  国际电工委员会(IEC):2025 智能水电技术与市场展望报告(90 页)

  RWS:2025 智驭 AI 冲击波:人机协作的未来研究报告(39 页)

  国际电工委员会(IEC):2025 智能水电技术与市场展望报告(90 页)

  RWS:2025 智驭 AI 冲击波:人机协作的未来研究报告(39 页)

  中国信息协会低空经济分会:低空经济发展报告(2024 - 2025)(117 页)

  浙江大学:2025 语言解码双生花:人类经验与 AI 算法的镜像之旅(42 页)

  开云体育 网页版入口

  人形机器人行业:由 “外” 到 “内” 智能革命 - 250306(51 页)

  北京大学:2025 年 DeepSeek 原理和落地应用报告(57 页)

  加州大学伯克利分校:面向科学发现的多模态基础模型:在化学、材料和生物学中的应用

  电子行业:从柔性传感到人形机器人触觉革命 - 250226(35 页)

  RT 轨道交通:2024 年中国城市轨道交通市场数据报告(188 页)

  FastMoss:2024 年度 TikTok 生态发展白皮书(122 页)

  开云体育 网页版入口

  Check Point:2025 年网络安全报告 - 主要威胁、新兴趋势和 CISO 建议(57 页)

  【AAAI2025 教程】评估大型语言模型:挑战与方法,199 页 ppt

  沃尔特基金会(Volta Foundation):2024 年全球电池行业年度报告(518 页)

  斯坦福:2025 斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191 页)

  国际科学理事会:2025 为人工智能做好国家研究生态系统的准备 - 2025 年战略与进展报告(英文版)(118 页)

  奥纬论坛:2025 塑造未来的城市研究报告:全球 1500 个城市的商业吸引力指数排名(124 页)

  Future Matters:2024 新兴技术与经济韧性:日本未来发展路径前瞻报告(17 页)

  皮尤研究中心:2024 美国民众对气候变化及应对政策的态度调研报告:气候政策对美国经济影响的多元观点审视(28 页)

  空间计算行业深度:发展趋势、关键技术、行业应用及相关公司深度梳理 - 250224(33 页)

  Gartner:2025 网络安全中的 AI:明确战略方向研究报告(16 页)

  北京大学:2025 年 DeepSeek 系列报告 - 提示词工程和落地场景(86 页)

  北京大学:2025 年 DeepSeek 系列报告 - DeepSeek 与 AIGC 应用(99 页)

  CIC 工信安全:2024 全球人工智能立法的主要模式、各国实践及发展趋势研究报告(42 页)

  AGI 智能时代:2025 年 Grok - 3 大模型:技术突破与未来展望报告(28 页)

  不只经验廉价了,十几年背书的知识也廉价了。内科医生打击最大,其次应该是教师[捂脸]

  湖北日报客户端讯(通讯员高小布)正值暑热天气,荆州高新区新318国道旁的二广高速荆州绕城段3标段施工现场,仍是一派热火朝天的建设景象。建筑工人正顶着炎炎烈日,有序开展清表、桩基承台、墩柱等施工作业,多台大型机械设备轰鸣运转,奏响项目建设“奋进曲”。

  据广东各地市政府官网及相关报道2025年7月7日—13日广东多地发布人事任免以下为各地详情广州广州市人大常委会任免市政府工作人员广州市第十六届人民代表大会常务委员会第三十九次会议决定:任命吴萨同志为广州市发展和改革委员会主任。免去洪谦同志的广州市人民政府秘书长职务。

  岳阳晚报7月10日讯(周磊 李时雨)近日,岳阳市城运集团在该市中心医院新老院区间开展无人机物资运输,利用无人机送检样本、运送消毒器材,并配有医用级恒温箱,将原本近30分钟的运输时间缩短至10分钟左右,单次运送能力达10千克,实现点对点无人配送。

  近10万人次受益学生。是公益者刘雄辉近三十多年的坚守。在公益道路上坚定前行。为更多人照亮前行方向。注意到市区街边贴满了各种小广告。

  饭店老板随手拍摄菜品视频被开45万元罚单又撤销 饭店停业损失谁来承担?当事人决定起诉

  福建莆田的小猪宝,希望你早日找到回家的路,家人和网友们都很想你呢孩子!

  “南海仲裁案裁决”是一张非法无效没有拘束力的废纸,中国不接受!我们奉劝有关国家不要再拿这张废纸说事,结果只能是得不偿失,自食恶果。(剪辑:辛乐)

  王楚钦一套海底捞月+扣杀丝滑连招,张本智和被打出表情包#WTT美国大满贯男单决赛

  攀枝花舰不仅是一艘现代化护卫舰,更是军民融合的典范:作为056A型舰艇,强化了南海舰队的近海防御能力;✍ 服役背景。