推广 热搜: 上海  中国    政策  快速  公司  未来  企业  行业  基金 

过度依赖DeepSeek的致命缺点,比AI说谎更可怕……

   日期:2025-03-08     作者:d34i6    评论:0    移动:http://m.razcy.com/news/9872.html
核心提示:大数据文摘受权转载自中信出版社国产人工智能(AI)大模型火遍全网,被网友开发出了各种神奇的功能:高考志愿填报咨询;算命算风

图片

大数据文摘受权转载自中信出版社


国产人工智能(AI)大模型火遍全网,被网友开发出了各种神奇的功能:高考志愿填报咨询;算命算风水;找对象,求姻缘;看病;赛博判官,评价哪个明星最美……


一代人有一代人的搜索引擎,年轻人每天一睁眼就是求助DeepSeek,但玩着玩着发现,AI已经掌握了糊弄学,精准学会了胡编乱造的技能


有大学生试图让AI写论文,它直接有理有据地编造出不存在的参考文献……


有人问AI“如果我把手机丢进水里,你能帮我烘干吗”,它可以煞有介事地列出N种操作方案……


最恐怖的不是搜索有误和一本正经的胡说,AI有时为了让回答显得可信,会堆砌专业词汇,比如量子纠缠、熵增、熵减等,一下把人唬住真假难辨……


倘若被识破回答有误,AI也能面不改色心不跳地滑跪:“对不起,我的回答确实有误”,然后继续胡说,坚决不改……


或者,直接就是一个“服务器繁忙,请稍后再试”。


图片


人们愿意相信人工智能的判断,是因为AI可以在极短的时间内检索到海量的信息,“兼听则明”,那掌握信息比任何一个人类都多的AI,一定也比任何一个人类更明智吧?


实际使用中我们已经发现了,并非如此。


有网友调侃,


图片


甚至已经有AI造谣引发舆论风波的社会事件。


图片


AI让信息获取更容易,但人们甄别信息真伪的难度却更大了。在这个信息泛滥的时代,知识看似免费并触手可及,实则到处是陷阱。


面对相互矛盾的医疗建议,该听谁的?

任何行业都有可能被取代,该怎么进行职业规划?

如何与那些对信息的理解或价值观与我们相左的人合作?

……


每个人都会遇上这种容错率骤降至狭路相逢的时刻,我们不敢想象若是一步选错,会带来怎样的后果。


想要在这个充满不确定性的世界保持平稳、走向成功,我们亟需思考重大问题并做出有效决策的能力。


这项能力可以习得吗?答案是肯定的。


如果你是美国加州大学伯克利分校的学生,就可以选修由三位著名教授——2011年诺贝尔物理学奖得主索尔·珀尔马特哲学教授约翰·坎贝尔,以及法学教授、社会心理学家罗伯特·麦考恩——联合授课的思维课《理智、情感与科学》,学到科学家们用来理解世界的各种思想、工具和方法,做出合理的决策,解决面临的各种问题。


在这门课中,索尔·珀尔马特讲述了科学家们的真实想法,以及自己亲历的科学研究,让非科学领域的人也能够从中找到共鸣;


约翰·坎贝尔从哲学的角度溯本追源,还提供了来自各方人士的诸多观点;


罗伯特·麦考恩拥有公共政策和法律方面的丰富经验,从社会心理学家的角度分析人们的行为方式。


图片

“理智、情感与科学”课程班早期合影,第一排中间正是三位教授。左五为罗伯特·麦考恩,右四为索尔·珀尔马特,右三坐着的是约翰·坎贝尔。


他们的课程大受欢迎,连续开设十几年,甚至出现各种改编和效仿。很多学生通过这项课程找到了重新思考世界的方法,并学会以新的方式做出个人层面的决策和社会问题的解决。三位教授备受鼓舞,想要更进一步让它惠及课堂之外全年龄段的学生和大众。


好消息是,如今你不用远赴海外就读名校,也能学到这门口碑载道的课程——三位教授将课程出版成书,取名为《第三个千年思维》


图片


凝聚三方之力,横跨四个学科,《第三个千年思维》得以用轻松有趣的方式,通过启迪思维的思想实验,援引来自世界各地的、贴近生活的诸多案例,向读者介绍与展示科学思维的要素。


《第三个千年思维》

现在购书还可以免费参与共读营,我们特邀中信出版读者俱乐部优秀领读官姜莉萍担任领读讲师,对《第三个千年思维》内容进行权威领读,共读将于3月10日开营。


如今离这堂课程首开已经过去了十余年,信息技术的发展显然导致了信息传播范围局限性的加剧,形成了所谓的“信息茧房”,整个社会的裂痕愈加深刻,每个人在个人、职业和生活中面临了更多挑战。这本书提供的科学思维框架,也因此有了更深的现实意义。


重新理解世界


面对庞大嘈杂的信息洪流,普通人该如何保持清醒、分辨真伪,做出明智的决策?


《第三个千年思维》中用几十个生动的现实案例,教你如何通过科学方法和工具,评估信息的可靠性和合理性。


决策是否高效取决于三个要素来自靠谱专家的准确信息、对价值观因素的谨慎考虑,以及将决策权交到利益相关者手中的机制。


而想要达成这些条件,可以遵循下面三个步骤准备我们的思想工具:


第一步,理解现实。


每当出现一些争议性社会事件的时候,人人都认为自己持有的观点是客观的,但其实人的想法不可避免会受到价值观和身份认同的影响。这时候我们就需要科学的工具来帮助人们了解现实情况。


理解因果关系是解决问题的关键。因果关系是一个杠杆,借助它我们才能预测采取的行动会产生什么样的影响。如果厘不清事情的前因后果,就很难在实际决策中帮上忙。


但是由于无法随心所欲地操控自己的输出并收到来自现实世界的反馈,在复杂难辨的情况下,我们对因果关系的理解几乎总是有缺陷的。因此,我们需要找出一种方法来解释说明这种不确定性,以确保我们能够在适当的时机采取合理的行动。


第二步,理解不确定性。


人类求生的本能让我们恐惧未知,总希望一件事百分百确定了再去做。但科学却是反直觉的,需要摆脱这种非黑即白的思维方式,建立“概率思维”。在面对不确定性和不完整信息时,概率思维帮助人们量化置信度,做出更合理的决策。通过评估不同选项的概率,人们可以更好地管理风险。


概率思维让我们能够顺畅地利用不完整的信息。科学家已经掌握好几种表达不确定性的方法,其中之一就是尽可能给预测赋予一个数值(概率),以量化预测的确定程度。例如科学家会说,“在五一假期,北京降水的概率为35.3%”。这种从0%到100%的置信范围正是科学研究的工具之一,而且人人都可以利用它来理解这个世界。


图片


通过阐明和分享对自己的陈述的置信度,也能让你在必要时更灵活处事。在很多事情上,我们达不到99.9999%的把握。当你说“我有95%的把握选C”时,置信度给你留下了5%的改变主意的空间。它保留了出现偏差的可能性,能让你充分地重视所有可能,在动态发展的事物中更有效地开展讨论,从而持续深入了解这个世界。


以上这两步看起来容易,做起来却可能很难,因为人类虽然对新鲜事物有着强烈的好奇心,但懒惰的本性却可能阻碍它发挥积极作用。


第三步,养成“敢做能为”的科学观


应对人类这种3分钟热度的天性,一种鲜为人知的科学工具就有了用武之地。它是科学文化在发展过程中创造出来的一种简单的心理技巧,即所谓的“科学乐观主义”。


与我们日常生活中常见的普通乐观主义不同,它更像是一种“敢做能为”的精神——认定眼前的问题必将得到解决的期望。


换言之,不管眼前的问题多么复杂棘手,只要你相信总有一天能找到解决的办法,你就更有可能解决它。


科学乐观主义就好比一剂良方,缓和焦虑,提供信心,为我们提供了全新的视角和出发点,使我们能做出长远看来更有利的决策。


日常能用的思维工具


思想准备完毕,落到具体使用,《第三个千年思维》提供了一系列的科学思维工具,帮助你解决大大小小的难题。


图片

重要的思维工具


例如,你是一个对前景焦虑的职场人,“概率思维”将会给你带来帮助:科学家并不执着于寻找唯一的正确答案,而是理性分析各种可能性,权衡利弊,不断迭代优化。


职业规划亦然,我们无须一次性找到“终极答案”。与其困在“万全之策”的追寻中,不如将注意力转向可执行的下一步,通过持续提升与积累,为未来创造更多可能性。当焦点从“必须找到完美方案”转移到“尝试更优选项”上,焦虑便能得到缓解。


图片


对正忙于职业转型、帮助子女规划学业或筹备企业并购的人们而言,这种思维方式都有所裨益。与其惧怕不确定性,不如将目标拆解,制订阶段性计划,并用行动降低未知带来的风险。


另一个在生活中运用概率思维的方法,就是考察是否给出置信度


术业有专攻,在我们不熟悉的领域常常需要参考专家的意见,怎样的专家更靠谱呢?不妨仔细听听他们如何描述自己的置信度。专家是否在其论断中提供了置信度声明,是区分真专家和伪专家的重要信息来源。他们是否表达了绝对的肯定,还是使用了“有可能”、“存在……的风险”或“有一种观点认为……”等拐弯抹角的表述?


虽然大众常常更青睐自信满满的专家,但在一个不确定性已成为常态的世界,些校准了自我的专家才是更严谨的专家


图片


对于日常生活,科学思维方式也大有裨益。例如在人际交往遇到摩擦时,我们过去常用的方法是“一报还一报”:我诚信,你诚信,很好;我诚信,你不诚信,那我就报复你。


但博弈论用计算机模拟的方式,测算出的收益最高的策略,叫“两报还一报”:我给你一次无心之失的机会,两次才认定你是故意的,我才会以彼之道还施彼身。


因为人有基本归因错误,就是我们倾向于认定他人的恶行是人性本恶,而自己的过失是无心之失,所以我们对别人更严苛,对自己更宽容。两报还一报的策略更宽容,这种博弈方式所达成的总体的收获会更大。


此外还有,在梳理难以检验的因果关系的时候,可以使用一致性、时效性和合理性原则进行评判;或者在听闻一个耸人听闻的数据时,运用费米估算进行验证;又或者使用盲法分析以减少决策时的主观偏见……


其实这些科学思维工具早已存在,我们真正缺少的一直是一个好的诠释,一份简明扼要的指南。它既要以通俗易懂的方式表述科学研究的方法,也要指明它们在日常生活中的实际应用方法。


图片

三位作者正在讨论他们的新书《第三个千年思维》


而《第三个千年思维》正可以契合这份需求,书中不是简单的工具罗列,而是组建起一个完整的思想系统用跨领域的生动案例讲清原理,条分缕析地拆解,手把手教你怎么用它


三位教授是真的想教会我们啊!


第三千年,更大挑战


人类纪元的第三个千年已经过去2.5%,我们还有975年要面对。这是一个社会两极分化越来越严重的世界,每个人不得不面对虚假信息、错误信息、偏见和刻板印象的误导和挑战。


人们越来越难以判断自己看到或听到的信息是否真实可靠:它们是由人工智能生成的,还是某些人出于经济利益、政治动机或其他目的刻意伪造的?


现实对话已经被狭隘的新闻和社交媒体的信息茧房效应切割得支离破碎,错误信息和虚假信息的病毒式传播也限制了大众的视野,人工智能技术的飞速发展同样会带来前所未有的、真假莫辨的虚假现实表象。


这一切的祸端是我们缺乏有效的工具来理解当前的海量信息,这些信息不仅庞大而驳杂,有时甚至自相矛盾。


图片


由少数精英群体通过书信、广播和报刊等传统联络网来消化这世界上稀缺的数据资源,为普罗大众提供决策所需答案的时代,早已一去不返。也许人类历史上第三个千年最显著的不同之处便是,我们每个人都是“游戏的玩家”,不管你是否乐意,在互联网的帮助下,我们彼此已然紧密相连,无人再是一座孤岛。


鉴于人人都可以在浩瀚无垠的数据海洋中遨游,应该基于哪些事实做出决策、何时应自主展开研究、何时需寻求专家帮助、哪些专家是值得信赖的,以及何时需要在价值观的整合方面寻求明智的指引,都需要我们自己去判断。


图片


《第三个千年思维》不是单纯的决策指南,它为我们提供了一种全新的看待世界的思维模式。


通过科学思维,我们学会在不确定中寻找可行的突破口,以事实与逻辑为依据,远离盲目的恐惧和不必要的偏见


同时,它也引导我们在与他人合作时更加包容与务实,从而在复杂的时代背景下开拓出一条更为清晰、稳健的发展路径。


它不仅是一本关于思维方法的书,更是一本关乎人类未来发展的指南。它适用于各个领域、各个年龄段的读者,无论是从事科研工作的专业人士,还是学生、普通大众,都能从中学到宝贵的思维技巧,提升自己的决策能力。


在生活充满变数、社会竞争激烈的当下,我们比以往任何时候都更需要这些科学思维来指导我们的行动,拨开眼前的迷雾,应对挑战。


《第三个千年思维》将帮助你在信息泛滥的时代保持清醒的头脑,做出明智的决策,成为一个更加理性、富有洞察力的思考者。


让我们一起拥抱第三个千年思维,共同迎接更加美好的未来。


图片


GPU算力按需租用

A100/H100 GPU算力按需租用,
秒级计费,平均节省开支30%以上!

图片

本文地址:http://www.razcy.com/news/9872.html    月落星辰 http://www.razcy.com/ , 查看更多
 
打赏
 
更多>同类行业资讯
0相关评论