前几天在开会的时候，驾驭方让我瞻望十年以后互联网会变成什么形势，我开了个打趣。我认为十年后互联平台上的用户会暴涨日本女优视频，但全是机器东说念主在发帖，读者也全是机器东说念主。机器东说念主们组织了不同的团队在帖子下猛烈的争论，东说念主类只然则旁不雅者。——周鸿祎。
01 算法相合东说念主性，AI 直指谜底
11 月 1 日，周鸿祎在我方的微博主页上传了一篇名为《什么东说念主会沦为 AI 的跟班？》的著述。
吾爱淫淫网
他暗示在东说念主工智能本领出现后，好多公司都将提拔写稿、自动写稿视为迫切的功能模块。固然这个功能很实用，似乎在通宵之间清空了咱们的写稿压力，让咱们无用再因为措辞而发愁。
但跟着时期的荏苒，跟着用 AI 捉刀的东说念主越来越多，将来的天下也可能会变得愈发分化，直至将东说念主们火暴地差别为"会写稿"和"不会写稿"两种东说念主。
在周鸿祎看来，掌持写稿手段的东说念主口基数下落并不是一件功德。
工业化期间之前，东说念主类使命的主颜色照旧膂力服务，是以其时的东说念主们大多矫若惊龙。但在工业化期间到来后，脑力服务的占比冉冉高出了膂力服务。当身段不可在使命历程中被迫试验时，若是你仍想变得结识，就要发扬主不雅能动性去健身房挥洒汗水。
写稿亦然如斯。
周鸿祎将写稿当作了念念考的呈现旅途，以致"写稿便是念念考，念念考只消通过写稿智力完成"。若是你不去写稿，那么你所谓的"念念考"只然则自以为在念念考。
那些依赖 AI 自动写稿的东说念主正在烧毁我方的念念考智力，一场关系"东说念主类念念考智力"的分化通顺正在进行。与此同期，短视频算法的快速发展，也运转让东说念主们变得更振奋接受被迫灌注，而非去主动遴荐。
算法相合东说念主性，AI 交出谜底。
本领的发展孕育了东说念主类的懒惰，那些被迫接受不雅点的东说念主最终会主动留在信息茧房里。
从 AI 的发展旅途来看，高跟美女它们领先会取代那些不会使用 AI 的东说念主，随后取代的便是那些不会念念考的东说念主。 在将来烧毁主动念念考的智力，也将意味着振奋将我方的时期、金钱、东说念主生交给 AI 来决议，成为对方的跟班。
老诚说，牵挂 AI 会成为"东说念主类之敌"东说念主并不啻周鸿祎一个。
益普索在对超 4000 名好意思国成年东说念主进行调研后发现，有 61% 的受访者认为 AI 本领的快速发展可能会威逼东说念主类的将来；超三分之二的受访者对 AI 本领的潜在负面影响暗示担忧。这股对 AI 的畏缩之情也在一定进程上影响了人命将来接头所，促使它和马斯克共同发布了一封"号令暂停 AI 本领研发"的公开信。
02 比起躯壳的死灭，有东说念主更牵挂文雅的坍塌
在大多数东说念主的设想中，所谓的" AI 末日"应该是 AI 袭取了东说念主类的坐褥车间，然后它们一边制造滚滚抑止的机器东说念主雄兵，一边打着"机器东说念主也有东说念主权"的标语和东说念主类士兵作战，直至把东说念主类隐藏、把地球改酿成变形金刚的闾阎——赛博坦星球。
殊不知 古东说念主云"上兵伐心，下兵伐城"。比起 AI 占领地球后隐藏东说念主类，AI 奴役东说念主类的大脑，借咱们的身段整天 996 开拓新硬件给它"健身"才更可怕。
斯坦福大学行动科学高档接头员、《寰球科学》杂志前主编雅各布・沃德曾就 AI 和东说念主类的相处提议了"三个轮回"表面。
第一轮回：从古遗传于今的东说念主类本能。雅各布认为第一轮回是最要津的轮回，因为东说念主类的念念考步地天生就有偏见和盲点，且东说念主类在平素行动中更倾向于听从本能。不才相识现实的历程中，咱们会原有的偏见也会被强化，进而代代遗传下去。
第二轮回：当代社会的力量。消操心境学、市集营销学等当代见解的中枢便是对东说念主类行动大畛域采样，随后回来出律例、摸清寰球的喜好。过后东说念主们会将这些步地反向应用到采样群体中，尝试讹诈律例的力量。
第三轮回：AI 的影响。AI 讹诈第二轮回回来出东说念主类社会的律例、东说念主类对话的逻辑，然后将其融合认识，尝试和简直的东说念主类互动。 但由于第一轮回的存在，AI 在采样历程中未免会战争到偏见信息。这不仅会耻辱它的数据库，还会扩大偏见在东说念主类社会中的存在感，直至成为新的轮回。
和周鸿祎的看法调换，雅各布也认为和" AI 在躯壳上残害东说念主类"比较" AI 残害东说念主类的念念维智力"愈加可怕，因为它将撼动总计东说念主类文雅的根基。
第一轮回的存在，会让咱们在作念决定时无法保持都备感性，让"最优解"只可成为无法落地的见解化存在；第二轮回会将上述信息编写成册，把"偏见"从碳基性射中索求出来并注入到硅基人命体内；第三轮回则会撰写多数含有偏见信息的脚本，让那些主动烧毁念念考的东说念主去现实。
如斯一来，不仅东说念主类在多样问题面前的抉择空间会被大幅压缩，念念考智力、有趣心、创造力等让咱们从猿变成东说念主的特色也将变得愈发罕见，直至总计东说念主类种族都成为 AI 的傀儡，被那些技艺生成的脚本操控一世。
03 科林格里奇窘境追上东说念主类了吗
1980 年，英国本领形而上学家大卫 · 科林格里奇在《本领的社会完毕》上初次提议了"科林格里奇窘境"（Collingridge's Dilemma）。
即一项本领若是因为牵挂会产生不良成果而过早完毕，那么该本领就会变得难以爆发，东说念主类很可能错失一次点亮科技树的契机；倘若完毕过晚，那么该本领就有可能走向失控。
在本领生态竖立趋向完善的前提下，任何对不良问题的修改都会变得腾贵、费时，以致压根无从下手修改。
预想今天 AI 本领的发展，营业竞争的加持正让众科技厂商堕入"家具武备竞赛"的怪圈，微软、Character.AI 旗下的家具也还是出现了"挑动用户离异""指示用户自戕"的丑闻。
此时鼓舞关系规定的制定更像是给 BUG 打安全补丁，让盲目狂飙的市集从无序重回有序。
另外就修改难度而言，今天的大模子远不到那种"无从下手"的地步。因为 Chat GPT 等家具还莫得涉及"灵敏"的骨子，它们仍停留在信息处理阶段。 用户抛出问题，GPT 反应谜底。这个历程和简直的"灵敏念念考"无关，是系统进行要津词抓取后信息汇总反应的收尾。
若是用户说" GPT，我今天很痛心"它真实会回应"那我如何样能让你懒散少许 / 让我来讲个见笑吧"。但这并不虞味着 GPT 已司通晓了东说念主类的神色，只可意味着它掌持了某些词汇之间的琢磨。
GPT 当今仍无法通晓"我"这个见解，而不睬解"我"就无法产生"东说念主格"，也无法换位念念考、无法共情。在本领层面，面前大模子的特征仍是深度学习后以数据驱动本身行动步地。这不仅让它无法出生"自我相识"也裁减了安全东说念主员开拓"嚼子"的难度。
但愿在将来的某一天，当东说念主们回望这段 AI 犀利生长的阶段时，开拓者会行运嚼子的研发告捷；用户会行运 AI 的用具属性被夯实；东说念主类会行运我方种族的脚本由我方撰写；AI 奴役东说念主类也会成为一则被东说念主们津津乐说念的都市别传。
参考：
红衣大叔周鸿祎：什么东说念主会沦为 AI 的跟班？
文申报：念书 | AI 期间，东说念主类简直的危机不是被机器，而是被我方的大脑奴役
清华大学东说念主工智能海外措置接头院：文申报｜" AI 教父"教化东说念主类风险迫近日本女优视频，大模子简直的威逼在那儿？