【人工智能】语言究竟是一种交流工具还是思考工具 | MIT论文解读 | 颠覆大语言模型 | 语言和思想之争 | 失语症 | 聋哑儿童
Вставка
- Опубліковано 24 сер 2024
- 今天带大家看一篇可能颠覆整个人工智能产业的论文,题目叫做,《语言主要是一种交流工具,而不是思维工具》(《Language is primarily a tool for communication rather than thought》)。这篇由麻省理工学院MIT,发表在顶级学术期刊《Nature》杂志的文章,提出了一个可以颠覆整个大语言模型研究的观点,那就是人类大脑生成和解析语言的神经网络,并不负责形式化推理,并且提出推理并不需要语言作为媒介。如果这项研究被坐实,我们或许就可以解答,为什么GPT5迟迟憋不出来、以及为什么用语言以外的数据训练GPT-4 ,能让它变得更聪明的问题,难道整个研究方向早就走上了歪路了么?还是说真的如语言学家乔姆斯基所言,追捧 ChatGPT 是浪费资源,大语言模型通向AGI的路线完全错了?
#人工智能 #gpt #language #mindset #llm
成为此频道的会员,即可享受提前一天,观看频道最新发布视频的福利:
/ @bestpartners
我是做设计的,我思考的时候脑子里都是图形和小电影,每次要把创意说出来还要非常费劲的去找合适的词,有的时候根本找不到合适的。而且很多灵感是瞬间发生,全息的图像,而语言是线性,用语言思考特别慢。
正中要害!同感。但有些人是以语言来作思考的。有些东西用语言来运作思考会比较不会乱套,但有些却会使你见树不见林。
嗯嗯 我也覺得這需要看情況。有些人需要語言來輔助推理,有些事需要語言來整理我們的思維。所以我覺得語言像是(輔助思維的)工具來讓我們的思維以文字做個紀錄或是以口語跟他人溝通。對於AI來說,只是語言是一個相對容易量化、值化,且容易紀錄的輸入,所以可以使用於AI的運作,但可能有極限,。我們可以使用語言來思維,但也可以不透過語言來思維,所以AI可能可以使用多種系統來訓練,並且在不同事件以最容易解決的處理方式來運行,並最終以語言來輸出,可能會更像人類真實的思維。
1)同意,语言只能部分表达思维。2)另一方面,有时试图解决一个逻辑密集的问题,思考过程中,使用中文反复提问自己,并反复回答,这样做有时解决不了问题,但换成英语却走通了!反之亦然。这表明语言参与思维。语言与思维有交集,但互不包含。3)从表达角度看,语言只能量化地表达出思维的轮廓,叫好像AD转换器,表达模拟信号是有量化误差的。4)将来有一天,人类可以借助脑机接口(或直接)进行脑际思维交流时,语言就可能失去其历史作用。
我也是,有时候我画个图,比语言讲要清楚很多
图画是二维,还可以用动画,三维的😊
我读书的时候就意识到了自己的思维和语言毫无关系,我在进行逻辑思考的时候脑子里根本不会有任何文字语言产生,反而需要寻找构建语言来表达我思考的结论。纯逻辑不依靠语言我本以为是学界应该上个世纪就公认的,没想到现在才有学者仔细研究,着实令人惊讶了。语言确实可以塑造限制人的思维方式,但仅仅是一种“找捷径”的模型,因为单词本身包含了先验知识,使得我们不需要花功夫重新解释交流的基础概念,但即便大家都不知道一个新事物对应的词汇,也并不妨碍人们理解其实质并起一个新名词。《1984》里面统治阶层删除了所有人们可能对“老大哥”做出的负面评论词汇,比如独裁、专制、暴力等等都被教材去掉了,但人们依然会理解这些“不存在的词”背后指代的现实意义。
老哥智商應該至少130以上了。 我個人的認知是 思惟 語言 邏輯 數學是部分相關但彼此本質不同的事物
很明顯有人在思考過程中沒有內心讀白或腦內影像,但不妨礙他們正常思維,從側面表明思維和語言是有相關但非等如一體!
另外現今的LLM更多是一種全新的輸入及輸出的方法,令非人類智能系統可以更有效在人類社會運作!
沒有語言的定義何來邏輯推論😂
你的邏輯思維能力不是一般的強,應該有不少人在讀書的時候會需要做閱讀理解題目,老師常常會要求學生不要做筆記,專心聽就好。而那些邏輯能力強的人要不是可以本能地抓取重點和作者邏輯,要不然每一個一開始的動作就是寫筆記,然後才慢慢改掉這個壞習慣。
相同的事情我到了大學更是如此,沒有了筆記和大量考題幫助我複習,以前從不拿上課筆記複習的我面對大量的文本根本束手無策。所以邏輯思考本身就是獨立運作的系統。
常常有大學或研究所惠要求學生考個托福或SAT來當入學標準之一,然後加入一些本學科的基礎知識,但重點是學生是否有靈活處理未知事物的理解能力。語言方面從未脫離簡單短文的閱讀理解、邏輯方面從未思考抽象的概念,會十分痛苦。
和你完全相反,我思考都需要脑内的语言来完成,甚至必须说出来。想到的问题都是脑内对话辅助以图画。
大部分的文章和平時人講話都沒太多的邏輯性。而且幾乎人人會講話,但做數學證明題跟要了99%的人的命一樣😂
动物没有语言能力,他们都能推理
只要有人能做到,原理上就可以是一样的,LLM就可以做到推理。这就是数学的威力:你只要找到一个例子(或者反例)就足够了。
@@bittergourd 你去看一下影片中那段Transformer的推文就知道大語言模型在參雜不必要資訊的問題當中,會忽略問題本身的邏輯,所以推理的時候就會抓取不必要的線索。所以整個影片要說的就是大語言模型或許大方向就走錯了。
人人都會講話,但解一些益智遊戲就不一定用詞優美答禮的人會解,但也未必數學證明背得滾瓜爛熟的學生一定可以解出來,就像魔術方塊,沒有一定班上國英文最高分就會,數理化最高分也是,完全是輸入的方式是立體圖像的關係
理論上大語言模型是可以做出類邏輯推導的,問題是目前大語言模型的資料太多不合邏輯的資料,基本上訓練出基本邏輯的機率非常之低
@@xorpop 大语言模型基本完全靠的统计和概率,但是人脑的概率和统计功能是非常差的,要发展出和人类类似的逻辑,靠大语言模型大概率不行。当然,机器可能发展出一套自己的逻辑。
這跟我使用各類大語言模型的感覺是一致的: 他們可以不斷地改善語言能力並且表面上很好地理解語言 但在推理能力方面卻似乎十分地薄弱。 為甚麼這些大語言模型會犯許多可笑的錯誤呢 可能的原因是: 他們擅長模仿卻無法真正地推理,尤其是創造性地推理。因此AGI的誕生 或許就只是一場空歡喜而已 (到2027年時再來觀察就會比較請楚了)
我對梵語感到興趣,梵語的語法結構確實與中英文有較大差異。它的SOV語序、豐富的變格系統、以及複雜的語法規則 似乎反映了一種不同的思維方式,以致想透過中文佛典來理解原文的意思時 遭遇莫大的困擾 想想玄奘的case就知道了。
語言學家長期討論語言是否影響思維 例如本影片中提到的沙皮爾-沃爾夫假說(Sapir-Whorf hypothesis) 雖然這個假說有很大爭議,仍可以看出語言結構 確實部分反映了特定文化的思維模式。
但是,想利用人工的大語言模型訓練來產生AI 甚至AGI這個問題 看過本視頻之後 也不禁產生了懷疑。
我是這樣相信的:語言是思維的產物,目的是編碼某部分的思維(便於溝通與傳承),可以說語言模型是思維控制的模型之一;就好像我們腦中有個 agent,當它覺得需要動用語言功能時會分派任務給語言模型處理;這個 agent 就是思維,而我們正在尋找這模型的本質架構路上。
举个例子,自己对事情有个观点但自己说不出来,无法很好地组织语言,但别人就能用语言准确地表述出来,这证明思考的本质不是语言。
已經有研究證實語言符號會反過來影響思考,人類其實早就脫離不了這種符號的相互建構,AI如果可以進行大量文字數據的分析跟統整、輸出、訓練,沒理由不能進行推論。所謂的推論、邏輯,不過只是人類的一種幻覺,我們的生物大腦也是建立在神經電變化的機制之下。
@@liuyong-hk8ex 你小时候不是靠听说读写慢慢形成自己的记忆和观点吗?这些都是语言的一部分,你学成了开始有脑子了,就觉得思考没有用到语言?你只是一个固化了的神经网络装在了猴子身上而已,本末倒置了
“语言主要是一种交流工具,而不是思维工具”这个说法有一定道理,但也过于简化了语言和思维之间复杂的关系。我认为语言既是交流工具,也是思维工具,两者密不可分,相互影响。
支持“语言是交流工具”的观点:
语言的本质是传递信息: 语言最基本的功能是让人们能够相互理解,分享想法、感受和知识。
语言的结构服务于交流: 语法、词汇、语调等语言要素都是为了更有效地传达信息而存在的。
没有语言也能思考: 婴儿、动物以及失语症患者都能进行一定程度的思考,即使他们没有或无法使用语言。
支持“语言是思维工具”的观点:
语言帮助我们组织和构建思维: 通过语言,我们可以将模糊的想法具体化,将复杂的思考过程分解成更小的单元。
语言影响我们的认知: 不同的语言有不同的语法结构和表达方式,这会影响我们对世界的感知和理解。例如,有些语言对空间方位的描述更精确,这可能导致说这种语言的人在空间认知方面更出色。
语言帮助我们进行抽象思维: 语言让我们能够谈论抽象的概念,例如时间、自由、正义等,从而进行更深层次的思考。
内在语言 (Inner Speech) 的作用: 我们经常在心里默默地用语言进行思考、计划和解决问题。
总而言之,语言和思维的关系是相互依存、相互促进的:
语言是思维的外化: 我们通过语言将内在的思维表达出来,并与他人交流。
语言是思维的工具: 我们利用语言来组织、分析和发展我们的思维。
将语言仅仅视为交流工具是一种片面的理解,它忽略了语言在塑造和影响思维方面的重要作用。 虽然没有语言我们也能思考,但语言无疑极大地拓展了我们思维的深度和广度。
更准确的说法应该是,语言是交流和思维的双重工具,它既服务于人与人之间的沟通,也参与了我们内在的认知过程。 两者相辅相成,共同构成了我们理解世界和表达自我的能力。
MIT論文感覺很對!這麽看來ChatGPT需要訓練一個思維模型才行。
維根斯坦的名言「我的語言極限在哪裡,我的世界就到哪裡。」也就是語言決定論的表述。哲學家沒有腦神經科學家的知識體系,從實驗就已證明語言決定論是不完備的。
@@kenhsyu 我倒觉得维特根斯坦并没有问题,思维之所以能被自己知道也被他人知道,还是因为它最终变成了语言。思维如果不以语言包括文字符号的方式输出,它就无法传递,从而不能存在。而且我认为思维进行的过程中也是使用语言的,即使不是自言自语式的思维,也是隐性依赖语言的。
我理解是我们的语言在漫长发展中把我们所有的推理或者逻辑思考规律都包含了,最终借助CPU,GPU实现每次的推理
看來語言就是思維的一種輸入輸出編解碼器,也是思維效率最高的一種輸入輸出方式。
在沒有弄清人腦思維真正運作方式前,從語言開始AI研究算是目前比較好的選項了吧。
AI根本就沒需要學習人腦思維,發展AGI也不必須弄清人腦運作。
有一个很明显的例子,很多人思考问题的逻辑在脑内是连续的,但表述却是跳跃的,甚至无法形成精准的表达。某种程度上语言就是思维交流的翻译官,物质与思维的直接映射才是人类“理解”的本质。期待李飞飞可以走得更远
我不太能理解这个“逻辑”的意思,他在大脑内到底是什么样的状态,难道你有一个逻辑不也得在大脑中去用文字去表述出来,通过符号之间的关系建立逻辑
@@kevinmagician878 就像你在路上散步,看到一台車迎面而來,另外一台車也開過去,你有辦法想像預測兩者會不會相撞,但卻不需要組織文字: 車、速度、單位、左邊右邊、車頭車尾、力量、波及範圍。有些駕駛也是如此,立即做出反應,但過了十分鐘卻驚魂未定,無法描述發生甚麼事,首先吐出的話是快嚇死我了或者他撞過來啊啊喔就這樣了。大腦中純粹的回想記憶中關於車子的訊息、模擬未來有可能發生的事情。
@@kevinmagician878 图像思维也是思维 也有逻辑
@@OoO-Sleep 不是说别的形式没法推理,是说语言是不是公理化符号,能不能代表思维逻辑,语言是浓度很高直接交流的工具,文字也是上千年文明传承的载体。你说的都只是动物行为,很多不需要高深的逻辑推理。真正需要逻辑的是哲学和数学,人这方面自己都水平各异,逻辑差的人很多。AI的发明最需要的是解决这些人回答不了的问题,而不仅仅是取代一个高效的生物体去模拟怎么吃饭怎么察觉周围环境
@@kevinmagician878 逻辑本质是自然法则,不是人类定义出来的,人只是顺着这套法则在生存,包括时间的单向性导致的因果关系。哲学物理数学就是为了寻求这些隐藏的法则,最后回到终极问题上。
我堅持語言是思考和交流的工具,而語言却不能完全反映思想感情。所以不同專业都有不同的术語。但有些意念或發現的新事物,我們都会鋳造新詞和名称,以方便思考和交流。但有一些意念確实不能用文字表達,我们只能透过间接的方式如禪宗的公案來刺溵参禪者的感知而達到頓悟的效果。這樣說很玄。接地气一点,漢賦中有一篇漢上琴台之銘。其中有一句乃移我情的典故,層次不同,但也可作类比。故事中是一名学琴的学生,他始终彈不出老師滿意的感觉。有一天,老師骗他泛舟到一孤島彈琴,然后暗中离开,把他留在孤島之上,那学生方豁然明白,嘆道:先生乃移我情!其后彈琴時便能彈出老師滿意的感觉。我举出以上例子,只想說明文字的局限性。但人类社会是会不断产生新詞來扩大思维和交流的領域的,但文字始终落后於思维就是了!
语言只是交流工具,并非思考的工具
@@tayyihcheung7450 愿闻其詳!
语言严谨化以后可以反应人的思考,毕竟几千年靠语言传递大时间尺度信息,但是需要对语言进行逻辑化清理。语言并不是说话,是一个人类文明孕育出的符号化表达思想的体系。很多人把感官和思维结合起来,那种只是模拟大脑反应,说话就是其中之一,而不是建立逻辑。所以具体看怎么细化AI职能,如果只是表层因果可能需要越多信号越好,但不一定夹杂太多信号进来就能对逻辑推理起到帮助。
語言無法用來思考,但語言可以用來表達思考過程。國文老師未必最擅長數學或其他學科。每種思考都是分開的,而語言是表達方式。但透過大語言模型的優勢,可以訓練他解讀每個領域的思考並進行模式辨別來學習
LLM再聰明,沒有輸入牛頓力學,或其他概念,他也不一定能算出結果。所以使用LLM,以目前的技術水平,要更加精確就是避免他預設的模式,而是直接指定思考方式。
而在未來的LLM發展則是應該透過辨識問題類型,LLM要自動辨識需要的思考功能,而直接使用該思考方式來答題。
所以問題不在於語言本身,而且辨識語言背後對應需要的一系列思考方式,並進行指派的內建過程。
為甚麼整個討論串都沒人明白,模型根本不用從語言來學習「思考」,語言只是表徵的載體,模型學習的是載體表象裏面反映出特徵的規律。載體本身不必須包含邏輯的系統,只需要載體的呈現方式是合乎邏輯就可以。而且根本不須要學習任何「思考方式」,神經網絡發展史早就證明預載「思考方式」的訓練法的都是錯誤的,神經網絡能成功就是因為它自己就能找出邏輯,你只需要有充份反映表徵的資料就可以。
“语言独立于思维存在”即使成立,也不会动摇AI发展的根基。因为其实人类需要的不是重造一个数字化的自己,而是用数字的方法给人类自己赋能。
我的观点是,虽然语言和思维存在于不同的物理范围(大脑区块或者计算模型)但语言任然是思维的外化。就是说语言是思维突破自身局限而产生的外部辅助,换句话说就是语言可以独立于思维存在但没有意义(再换句话说,大脑的语言区块是逻辑区块的协处理器)。证据就是,虽然一根筋同志的语言功能健全,但那是“失去”了逻辑能力;相反从来没有逻辑能力的病人不会自发发展出语言能力。语言不仅为思维之间提供了交流的渠道,说出来的话留下的短期印象其实也是大脑的缓存,也简化了长期记忆的记住和记起的过程,总体上辅助了思维。而我们关注的重点其实一直是如何继续这种外化来更好的辅助思维。
我很想知道你说的"从来没有逻辑能力的病人不会自发发展出语言能力。" 是怎么观察到的?
这期节目的选题非常有水平!
很高質
这篇好,之前没仔细想过这个角度,感谢制作及分享!加油!
禅定就是一种思考方式,并不要说话。康德早就发现,语言与思维之间,需要一幅图像进行整合对接,图像才是关键。建议主播继续研究,参考,纯粹理性批判。
停一下,刚看到33秒处,这个不用研究了,我可以很负责任的告诉各位,语言是交流工具,思考不需要语言的介入。本人就是一个木讷口吃的逻辑天才!
但凡是邏輯天才,也不至於說出這種沒有邏輯的話。
1)逻辑思维不是思维的全部,人的直觉思维虽然在退化,但危险临近时立刻有反应,这是动物阶段带来的,另一种不同的思维是艺术思维,它本来就难以用语言表达,因此与语言相距更远。2)逻辑思维如何进行,有的人像我,逻辑推理时脑子里是用语言不断给你自己提问,不断回答,一步步往前走,走不通再重新提问别的。有的人像楼上一位,脑子里浮现不同的画面,像小电影。有的人两种都用。我推测只有很少数数学天才,脑子里直接进行抽象的推理,不借助语言,不借助图画这样的形象手段。你可能是属于这类天才,但不可推测所有的人都像你。
@@AlfredPeng6099 滚 罗刹猪
@@AlfredPeng6099 逻辑天才不是语言天才。他说的很明白了
人类对语言的处理方法跟电脑的处理方法不一样。首先语言是一种通讯工具,当我们接收到语言信号后我们会解读该信号(interpretation)以便猜出对方的意向,然后再制造出自己的意向并用语言工具表达回去。而电脑对语言并没有解析猜想语言表达的可能意向,电脑直接用演算法制造出回应语句。语言或者符号与其代表的意向是没有必然的关联,所以应该是很难演算。电脑根本不知道意向,如果我们要证明电脑可以知道意向,我们必须造出一个有幽默感的电脑😅
语言和思维是相互促进的关系,语言无法表达思维的全部内容,但是反过来,思维不通过语言也无法实现与他人的交流,也就是无法通过他人思维来印证、补充、辨析自己的思维,也无法把前人、他人的思维获取到自己的认知体系中,那么思维就始终处于浅薄、片面的状态。同时,思维需要反复的、多纬度的审视才能深入、扩展、印证、辩伪等等,我相信每个人都经常感到自己的想法不写出来、不说出来就始终都是混沌、零乱、非逻辑、非体系的,必须文字记录下来,反复思考、审视、修改才能深入精进。
所以,仅仅讨论思维是没有意义的,关键是深入的、清晰的、完整的思维在实践中是必然通过语言来完成的。
目前的所谓人工智能模型没有通用性,耗费海量资源训练的一种模型只能做一个非常狭窄的任务,大语言模型就只能处理文本,自动驾驶就只能开车。而一个普通人可能具备上千种这种微技能,而且能很快学会新技能。所以说目前的水平说是人工智能并不确切,自动化更合适一点。
只能说,大语言模型确实厉害,但绝不是也不会如人们想象的那么厉害,我认为其对人类生产力的提升可能还不如蒸汽机,计算机这些大发明的贡献大。现在炒作的AI就是个泡泡。
语言不是必需的工具,只是目前的技术上可以通过语言来反映某些高级的思维模式,因此,在没有发现更优的方法之前 ,LLM将是目前为止已知的最优解。期待会有新的路径,揭秘人类大脑的秘密。感谢分享这篇前言的论文!
语言是交流工具,但同时也可以(非必然)是思维的表达工具(当然并非唯一的工具)
這篇是真的優質
幾乎沒有水的成分
數學本身也是歸到語言系的,如果沒有數學符號,更深層的邏輯怎麼建立起來...
人內在的思考很多時也需要自言自語才能支持吧
以前好像有聽過中英文使用者的邏輯推理方向是會不一樣
我認為是相互相關的,後面很多的例證似乎也不能反證,比如他們意外之就獲得過語言能力,另外手語也是一種語言
也就是說,一個會思考的人,不見得需要會講話,而一個會講話的人,也不代表他會思考
感謝您,深有同感。
同時感謝您的科普展現能力。
其次,我認為影片(論文)中的語言,包括文字,但不包括「字串」。
再其次,語言文字與思考邏輯是互相部分獨立,同時互相影響的。例如,手邊的工具箱缺乏適當的鐵錘而我們必須釘上一根釘子時,我們可能拿出其中的虎頭鉗、或是一把粗重扳手來代替鐵錘。這樣一次的替換經驗,就很可能改變下一次優化該工具箱的計畫。語言與思考之間明顯有互相影響的關係,也同時有彼此互不觸碰的存在。
去看Edward Gibson在Lex Fridman Podcast里讲的相关观点吧(本文通讯作者的导师以及论文作者之一) 他在那里以plain language把这些讲&拓展的很明白~
谢谢,回头争取整理一下,做一期视频
语言和思维的关系是这样,人是通过语言与大脑中的思维去进行映射,就是语言的基本功能,如果失去这个映射能力,可以说就把外界与思维的各种通路关上了一条通道,也可以认为是比较宽的通道,但是绝对不会是完全关闭。
而且语言是专家去人为定义的概念,语言也可以进行大量的细分,每个细分都能对应人思维的不同部分,比如脏话可能就对应情绪、问题就对应逻辑推理等等,人的差异在于同样的语言,每个接受到以后,启动的大脑区域是不同的,就是大脑处理方式不一样。这就是为什么很多人对数学恐惧。喜欢数学的人的,一听到数学问题就兴奋,就能调动思维中相关的区域和功能,大脑就按照训练好的模型进行运转;而数学不好的人,就始终进入不了那种状态,没有感觉,不知道该如何调动大脑的不同部分来协作。其它方面也是同理,这就是人有差异的地方。
前个月还有另一个article和本视频观点完全想法。谈到AI已经发展出了深层智能,即可以整合语言,图像,表格数据,音视频,等等多类输入输出的深层智能。也即虽然LLM的输出方法主要是依靠语言,并不代表它就是通过语言思考,恰恰相反,人工智能的发展模式就是先解构语言输入,通过其内在智能逻辑进行分析后,再还原为语言输出。当然这个假说很难通过什么方法证实。原文提出的根据是对比多个AI模型,越是支持多媒体输入,能力越强的模型,对任务的完成情况越相似,也即虽然不同模型的训练和设置各不相同,但他们却都发展出了相似的内在智能逻辑。本视频引用的文章本身是语言与心理学范畴的,并不是ai领域的结论。
语言是一种符号,思维是符号的运作。不管用不用语言,都需要符号去运作,即使数学公式也是一种符号(语言),没有掌握语言的个体用另外一种符号去运作,但明显不如能表征识别符号的个体识别的迅速。计算机科学家当然可以使用语言之外的符号训练大模型,但创造这个符号比起直接使用现有的语言作为符号来讲,复杂的多。语言是一种高度复杂的符号系统,和生活结合很深,也足够方便人类去理解。当然不可否定的是,创造一些高效的复杂符号系统解决特定问题,比直接使用语言有效得多这种可能性是存在的。
那是你这么认为的
數學上了話確實,列式子多半時間都是在翻譯白話文,並試圖將複雜的多件事以數學辦法相互代入整理成單獨完整的一件事進行推理。這是基於"數學"這個人類發明的語言或說是工具。
電腦大可創造更適合他推理事件的標籤或單字,與列式方式,甚至專用的"數學工具",或許很困難,也或許其實不用人來做,反正AI推理的黑箱也不差多一個 。
這是不可能的,沒有比語言更充份反映世界的資訊,因為語言有歷史上足夠大量的文本,能夠反映世界真像。雖然萬物皆數,但人類不擁用世界編碼資料庫,要完成這個,花費的成本過高。如果叫AI自己編也是不行的,因為AI本身對世界的理論不足,反過來說,如果AI對世界有充份的理解,那已經是AGI了。本來世界模型,就是AGI,只是人類現存能夠轉錄給AGI學習,而又在現有模型與算力範圍內的,最佳的資料就是語言文本了。
@@tsajm6bh 語言的局限性你自己也明白吧,你沒辦法用語言描述你說話的口音為什麼能讓人認得出你,但人能輕易的分辨不同人的聲音,甚至不用語言而是模仿其發聲特徵,讓另一個人知道你在指誰。
這問題丟個電腦也一樣,大可處理過程根本沒列成任何一段句子,但他依然能用些數學辦法區分這聲音是誰發出的。
@@tsajm6bh 或比如訓練AI繪圖,他大可不用全知道一張圖片出現的所有項目實際是如何,但他依然能將符合特徵的項目放在一幅畫中擺在合理的位置,前提是他接受足夠多個項目正向及負向的條件。
你想想AI生成個向日葵花的圖像或以語言敘述誰能更輕易的反應現實世界的資訊,這AI繪圖所呈現的細節還有沒有與"向日葵"這幾個字關聯的必要
在邏輯計算方面,用來預判句子的模型當然沒邏輯模型那麼高效率,兩者的目標根本不同。前者是為了預判某句子的下一個字,順便地做到邏輯運算,不用讀論文都知道。
我不理解怎么算推理,我们把各种符号映射到网络中,经过自回归生成各种符号在映射到我们能理解的东西上,语言,图片,声音,数学,波段。所以怎样才算推理,他能学会我造的新规则,新的逻辑,为啥就不算推理
我认为是推理,推理不需要确切的一个答案。让我们给它一个定义:是一种包含随机性的高维推理:)
有不有一种可能是,大语言模型之所以叫大语言模型,是因为它是用语言训练出来的。换个方式,如果我们用传感器数据作为输入,控制电机的信号来作为输出,用这样的数据对来训练大语言模型,很明显模型并不会掌握语言,而是会掌握控制机器的方法。
我覺得人工智慧的符號主義學派與連接主義學派其實各都有存在的必要,但是如果從純生物學的表現來看的話不同的大腦活躍區域,其實神經元原理還是大至相同的,所以有可能是在腦內發展出了不同的區域智能體。我認為現在q Star最主要就是在發展所謂的邏輯推理智能體,但是並不代表transformer的架構是不能用,不過可能不適合直接使用Auto regression的形式來做訓練,而是要用reinforcement learning再加上mtsc等策略規劃的訓練方案
我的观察认为,前一次人工智能的高峰机器编码学习是阿尔法go,这一次GPT的兴起是一个让人觉得兴奋的岐路,正确的方向应该是脑神经元模拟技术。所以显卡的热销是错误的投资方向,这不是人工智能的方向,只是效率堆积的工具。😂
我前几个月看到瑞典还是芬兰的一个实验室在让一种通过基因编辑的细菌(好像是一种黏菌)模拟生物神经网络,实现了能让这个网络玩简单的游戏
语言只是人类交流方式的一种,人类的感受器官除了语言还有视觉,味觉,皮肤的感觉,甚至有些感觉丰富的人还有超过普通人的感受能力,所有这些感受能力,语言对大多数人来说最常用,人类的思维很多时候超过表达能力,所以有时候我们受困于表达无法做深入沟通,最理想的表达方式也许是脑波交流。所以基于语言和视觉这些表征表达方式达到AGI很难赶上人类发展,人类具身所具有的创造性机器可能永远也模仿不了。但也不是说现在的人工智能一无是处,对于大多数人来说作为工具已经显著体现了价值,提高了效率,只是当前的计算成本还太高,能耗比比较差,有待半导体工业提高或者将来更低功耗的计算方式出现。
语言严谨化以后可以反应人的思考,毕竟几千年靠语言传递大时间尺度信息,但是需要对语言进行逻辑化清理。语言并不仅仅定义为说话,而一个人类文明孕育出的符号化表达思想的体系。很多人把感官等同于思维。那种只是模拟大脑反应,说话就是其中之一,而不是建立逻辑。不仅AI缺乏逻辑,人自己也缺乏。如果只是看表层因果,可能就如你说的需要越多信号越好,但出来的还是动物行为,比如植物人也可以说话也可以感应环境,但他们丧失了深度逻辑能力。所以并不是夹杂太多信号进来就能对逻辑推理起到帮助。AI必须细化职能,到底想要它干什么,因为人类世界并不是单一维度构成的,逻辑符号代表的是自然法则,这些法则不是人创造的,而是被发现的。大部分人只关注自己社会的小九九,但要AI去发展数学和逻辑,必须超过人类那点感官范畴。
大语言模型走到这一步,也许还可以从仿生的角度去寻找新灵感,但已经没有必要去从生物学的角度归因。
语言是逻辑的外化,说的对大概率是逻辑对,一直说的对就更大概率逻辑对。
逻辑可以脱离语言存在,但人类需要通过语言来感知这种逻辑的存在。
换个角度,语言无法脱离逻辑,缺乏逻辑的语言模型不就是前几年的歪诗生成器么。
大语言也许下一步就是增强同时训练:同时对同一对象就行听说读写的训练,而不只是视觉的训练。因为人在学习的时候就是调动所以感官和外界环境进行交互的。训练的同时,还要有个正确的反馈。训练好后,还有给他充足的写的能力,我是说写,类似于重读自己思考的过程,或者是说机器人把自己思考的过程通过写下来的过程中进行纠错。而不只是说出来。这才是下一步llm要做的。因为数据已经到极限了,再怎么提升,都不会有质的提升。目前。
雖然我不是很懂…不過,如果你給予反饋,其實是削減AI的創造力,當你見識過alpha go zero時,你就會發現,在人類的監督跟指導下,alpha go master就是贏不過alpha go zero。
你可以說,你只要監督不要指導,但是事實上,很多AI大語言模型是沒有辦法透過指導就能正確完成人類的指示,尤其是作畫作圖時。而且如果一但監督,大語言模型會很難理解只有四隻手指的人類是什麼樣子,他會永遠畫不出來,因為早期的AI畫出來的圖畫通常手指的數量是有問題,因此被監督修正了。
所以说了吗,也要给大模型一个虚拟的“人手”,它可以在虚拟空间进行急速的绘画和写作。@@elizabethchristine1832
根據Chomsky的Universal Grammar, 學習語言能力是植根在DNA裡面的, 會一代代傳下來, 就是教小baby的時候, 不需要解釋主詞, 動詞, 受詞, 嚴格來講教得是某特定語言的語句順序和詞類轉換, 藉由父母的口中去學到一特定語言系統的排列. 如果學了一特定語言會對神經元做某種裁切, 那也可說是形成了一種思維方式
語言是智能表現的一環,也是智能的好工具。
大型語言模型或許棋藝不強,載入特斯拉不會開車,載入Optimus也不擅打螺絲,但至少已開始學習人類的智力表現之一--語言--,且有一定成果。
即使「語言不是智能表現的全部」,也不代表「學會語言了仍沒半點智能」,更不代表大型語言模型相關進展只是白費工夫。
首先谢谢博主的付出和精彩内容。这里还是存在一个Gap:需要回答LLM是否一定无法足够接近人类的思考。或者说AI是否一定要模拟人类大脑的行为才能够得到足够好的输出?如果语言也可以成为AI思考的有效工具,那么模拟人类大脑的行为以得到满意的输出就不是唯一的方案。
以現今的語言模型來看,透過autoregressive可以訓練出一個具有語言理解與表達能力的神經網路。那想請問如果想訓練一個專門用於邏輯推理的神經網路,應該透過甚麼樣的
objective來做訓練呢?希望大家可以提供一些天馬行空的想法~
谁说大预言模型就只有语言?语言只是输出而已,中间层本质上就是理解了语意且具有逻辑思考能力的
试想一下,一个不会语言的人是否能像正常人一样逻辑思考。答案很显然,是不能。历史上有很多动物养大的孩子,通称狼孩,通过这些狼孩的研究结果表明,一个孩子如果到5岁都没有学到语言,那么他终身都无法再学会语言,而且终身只会用本能反映且无法思考,完全和动物一样。
思维的最佳载体就是语言,语言和思维之间有很强的映射关系。所以用语言来训练模型,应该没毛病
霍金就是一个真实的例子
语言并不是推理的必要条件,但是现实中很多人脑中推理是架构在语言之上的。
所以才造成了很多语言上通顺的道理,逻辑上是错误的
逻辑推理,可以用严谨的数学*语言*来描述。当然,数学符号(语言)也可以表达逻辑上错误的东西,比如1=0,本质上和用自然语言说煤球是白的一个意思。
换言之,在数学里,推理过程和语言就是一回事儿。
@@bittergourd 语言严谨化以后可以反应人的思考,毕竟几千年靠语言传递大时间尺度信息,但是需要对语言进行逻辑化清理。语言并不是说话,是一个人类文明孕育出的符号化表达思想的体系。很多人把感官和思维结合起来,那种只是模拟大脑反应,说话就是其中之一,而不是建立逻辑。所以具体看怎么细化AI职能,如果只是表层因果可能需要越多信号越好,但不一定夹杂太多信号进来就能对逻辑推理起到帮助。
"Attention Is All You Need"
早在70年前,哲學家維根斯坦就已經發現了這個問題了
我比较认同作者,我一直对于语言也有自己的理解:思维先于语言存在,语言影响思维。建立语言能力之前的思维如果要传递信息也是需要通过各种形式去传递,而语言是沟通传递信息相对最为高效的形式之一。大语言模型的意义在于对于人类传递信息给机器的转译,如果要实现完全类人化智能,应该赋予机器更多维度的非语言信息采集和处理能力。不过,这也面临着很大的伦理的问题和风险。
很正常啊,烏鴉猩猩海豚很多動物會推理,但動物不會講話😅😅😅😅😅
@@Kl20025 很多动物也有自己的语言,只是人类听不懂而已
我们可以把所有概念看作一个Hilbert space,每一个概念看作一个Eigen function。 我们可以把语言看作一个低维度Basis,里面每个词都是一个Truncated Eigen function。把概念转化为语言可以看作一个projection / measurement。
我们可以把思维看作一个Dynamic equation / Hamiltonian, 例如Hopfield network 或者 restricted Boltzmann network。 我们可以把用思维把语言转化、推理、连接看作unitary operator。
这样每一个部分都独立,但是都不是一种东西。 失去语言,失去一个basis,还可以用其他basis 例如音乐。 失去思考,虽然可以语言,但是内在逻辑系统无序。 有概念无法用语言表达,概念维度太高, projection 无法完全表达。
谢谢分享,按你这么说的话 没有了高纬概念推理空间,低纬的语言projection为什么能存在呢?
使用了量子力学、线性代数、函数分析、语言学、自然语言处理和认知科学等领域的知识,将抽象的概念表达、语言和数学表示相结合,提供了一种理解复杂概念与语言关系的数学视角。揭示了复杂网络本质上是复杂的、不可精准描述的。如果要对网络内结点的行为进行预测,可靠方法就是用另外一个复杂网络去逼近。所以演化选择了生物神经网络以及产生了ANN。值得注意的是:后者如果能够有效的逼近前者,那必然也和前者一样也是复杂的、不可精准描述的。很有启发,谢谢分享。
准确的说,图像声音等是一个单一态的交流媒介,但透过大脑和思考处理后会转变成一组离散的逻辑片段(记忆)逻辑片段是随机态的,人们发现互相不同的逻辑片段可以用一个单一态的tag来表示,后语言就此诞生。
人类在学习语言的过程中会不断建立新的逻辑节点,这些节点都是经过一代代人总结和定义出的最有意义的逻辑节点。逻辑节点的作用主要是用于连接不同的逻辑回路,比如"苹果"的源节点会连向"水果","红"的源节点,然后源节点再连向这些单词。
虽然语言帮助人类高效地建立了智慧,但不可避免的产生了双倍的逻辑负载,比如"苹果"的源节点不单要连向"苹果"这个词,还得连向草字头、果、ping、这些节点。
但有趣的是,如果没有语言辅助,苹果不可能会与萍水相逢的节点相连,人类的创意也将倒退好几个世纪。
所以语言最初确实是以交流工具的形式出现的,但随着语言和文字系统的互相碰撞,它成为了人类思考和联想的主流回路,这是一种依赖
下一期可以講一下這篇論文:Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking
问题是LLM 只是一个所指。而其本身的能指早就超越了语言的范畴。换而言之,大语言模型能做的已经超越了reading comprehension 的范畴。 基于embedding的高维向量空间,可以看成是一个希尔伯特空间。那么在算力足够的情况下,还有什么是不能做到的? 此外需要注意语言与逻辑形式语言的根本区别。当两者出现类似理发师悖论的困境时,别指望大语言模型这种纯数理模型能够给予我们什么解决方案。😂
非常棒。用语言训练出来的LLM顺理成章了继承了语言的胡说八道,同时又没有被理发师悖论困境搞到程序崩溃。我觉得是一种技能,而非弱点。我们仅仅需要让它学会不胡说八道同时保持胡说八道的思维模式就好了。
怎么证明你可以思维?任何形式的信息,不管是视觉听觉,都可以序列化,也就是表达成为广义的语言。你在判定智能体是否有思维的时候,还是没逃出(广义)语言里的向量。如果一个智能体永远能输出正确的信号,它是不是就有思维了呢?在福多王八拳之前,人家关于语言和思维的讨论的焦点在于,广义的语言,或者说符号体系,是否和“思维”同构。这个宇宙中的逻辑,能否用语言完整和自洽地描绘出来。参考哥德尔不完备定理,看看人家把文字游戏玩到什么高度。这个深度明显要高于具体思维的形式是什么。狗、鹦鹉就有逻辑思维,但它没有语言。研究团队其实完全没必要骗经费做什么劳什子实验。但为了发nature,绕弯子也着实令人发指了。
这是本质了。现代学术圈很少有当初那种真正深挖本质的势头了,而是不停在重重沟壑里钻牛角尖给自己谋福利。就是学术圈或者几个大厂近亲繁殖的产物,卷到最后就是一群偏才,和高考独木桥过来的一样
非常認同這些觀點!正巧我上上個禮拜才在「哲學問題都是語言遊戲? 維根斯坦生平與哲學思想解析(下集)」中提到這個問題,我在留言中就吐槽維根斯坦困在語言之中。我也認同繼續用大量文字訓練模型,可能很難有效提升模型品質了。我最近在想,是不是應該要改用以影像為基礎,將文字、符號、靜圖、動圖、色彩、空間、構圖等一切形式的圖像資訊做為模型的訓練資料,讓模型學會完整的影像能力。AI輸出文字時,應該要用html canvas把文字或符號「寫出來」。以上還沒提到可讓AI接受多模態訓練,透過影像和聲音兩種不同型態且互有因果關係的資料,AI可以從中長出單從文字很難學習到的能力。
語言還包括表情,肢體,讀空氣,所以AI真的到達擬人,幾乎不可能,頂多他的理解能力是理工男水平的😄
極限的話應該比理工男還強點
思维可以被语言表达,但不是全部。而许多思维是被语言(有意识地)屏蔽的。眼下的人工智能发展方向值得推敲。所以Aphgo应该是机器人走向实用的首先方向。
这个问题不值得研究、不值得大书特书:用常识就可知,语言是且只是交流工具。Period.
语言是概念与直观表象相互协调达成一致性的表达能力,所以概念与客体的一致性(真理的形式条件)构成语言表达式的主观条件,是一切思维本生的前提,任何语言全部都是既成概念的经验性表达,他们的有效性根据在于知识的普遍可传达性.知性的条件就是语言的依据.
语言可能更多的是某些类型记忆的载体。在小孩能说话前就有思想了,但是会说话前的事很少有人能记下来
@@leoncoolmoon 我認為小孩在不懂說話前,嚴格來說不算思维。那只是对自身和外在事物的感知。但在成長过程中,他会把各种感知联系起來。語言的学习就是把成人的語音联系上同時出现的感知,在不断的重複下明白了語意,明白的語意到一定程度才會產生思维!
我一直觉得真正的人工智能应该遵循物理的第一性原理
就自己多用一用chatgpt就知道了,翻譯是解決了。說什麼理解和推理,還靠這個模型達成agi, 真的拉倒吧。
LLM解决了语言理解和生产的问题,也就是模拟了脑部语义区的功能。但是没有能够模拟形式推理区的功能,所以会出现胡说八道的问题。跟论文中的某些病例挺像的
感謝分享,很有收穫。
簡單來說 知識跟智慧是兩回事
要透過語言來學習更多知識,但因為環境而相對無知的人,並不代表智商較低或是智慧較低
所以 這是兩個並行,且相輔相成的線
因為就算是 老子、孔子、蘇格拉底 等古代擁有高度智慧的人,如果沒有相對應的知識,也會有認知差異
譬如 一場魔術秀,要如何判斷是否為真實的魔術秀?或是 AI後製的魔術秀?
這就需要高度的科學知識,也就需要能夠代表豐富符號的語言
然而 即使知道如何將一場魔術秀 拆解多個小片段,如果沒有推導邏輯的智慧,也無法得到確切的答案
最多只能判斷機率
所以 如果要說我們學習AGI的方向有錯誤,就表示 目前教育體系整個都錯誤了
因為我們高度重視知識而非智慧
也正因為 我們沒有學習如何運用智慧,所以 我們才會錯誤認為知識就是智慧
然而這兩個即使不能完全等同對方,也不代表這兩個沒有關聯
所以 蒐集大數據 得到反饋 並藉由強化學習來提高可靠的機率 是正確的起頭方向
人類目前積累的科學知識 就是靠反覆實驗、推論 再實驗累積起來的,如果要以我們自身作為判斷AGI的基準
那麼語言模型的智慧 超越人類是將要到來的事情,只要有足夠的算力跟電力
但是要發展 更高的智慧,我們就要從自身的教育體系檢討
很明顯 這不是發展智慧的教育體系,而是發展奴才的教育體系
cannot agree more
聾啞人士只是沒有口語,他們也是透過書面語言閱讀、透過書寫語言溝通,因此也不適合用以證明他們的思考和語言無關。
現在全世界頂尖的人才都往這個領域靠攏
这都是废话,语言一定是交流工具,不是思维工具啊。但这跟大语言模型受到追捧没有关系,为什么大语言模型受到重视,不是因为语言数据有多好,而主要是因为语言文字的数据量大得多,比几乎任何一种其他形式的数据量都要大。定量数据都是提取,处理过才得到的,数据价值很大,但是量少啊。目前的人类世界中,语言和文字还是最能体现人类思维逻辑的数据,其他任何一种形式的数据都不能和语言相比。除非有非常精确的方式监控脑电波数据,否则语言虽然不是思维,但它就是信息量最大,最能体现人类思维的数据。
人家这个文章,也只是说语言不是思维工具,没说大语言模型不好吧。
没有读过原文,但是就您的介绍来看,“语言”这个词,似乎没有得到一个准确的定义。正如您提到的,计算机的逻辑是靠“机器语言”来进行的,而不是各种fancy的高级语言,甚至GPT接口中的人类语言。那么“机器语言”是不是“语言”呢?
人类的思维区域的确很有可能与交流相关的语言不同的“语言”来进行的,正如该文指出的为交流而进行了“优化”,可以理解是进行了翻译。但正如计算机高级语言和机器语言的表达能力其实是一样的,或许我们“语言”的缺陷也出现在我们“推理语言”上,至少不能排除这种可能。
任何事物都可以用相对状态搞清楚。说思维影响语言,在思维的角度来说是对的。说语言影响思维,在语言的角度来说也是对的。在思维自我酝酿时,同样情况在自言自语中,也是各自独立存在的。用大语言模式来发展AI,必须结合其他非语言模式的算法,才能让AI得到完整平衡的发展。其中包括了相对状态主义在AI上的创建。
人类的灵魂是可以与上帝交流的,世界各地的文化中都有把孩子作为圣灵的说法,而且死后灵魂会回归一个更大的“池”,其实就是古人模糊的表述。其实真正的含义是我们的元意识是直接与宇宙意志连接的。一旦学会了语言,我们的认知也被社会化限制了,我们无法表达出不能用语言表达的事物,也无法进行不能用语言描述的思考(但是仍然保留了一部分,就是所谓的第六感)。所以ai只是在模拟行为,却不能创造灵魂。
语言的确会限制思维模式,甚至形成思维惯性即文化。关于灵魂的思考,或者意识的起源,讨论变得抽象。需要定义一下 灵魂和意识 是不是一个东西。
大语言模型本身就只是堆算力,不过是种优化的穷举算法,跟人类语言根本不是一回事,跟人类智能就更搭不上边了,好吧
不認為這一篇MIT論文有太大的意義. 人類大腦有100兆個 synapses, 分佈在很多 lobules. 人類的語言輸入和語義解析方面是靠 Wernicke's area, 人類的語言的輸出主要是靠 Broca area. 但是人類邏輯推理一般認為主要 (但不是唯一) 集中在 IPL (Inferior Parietal Lobule = supramarginal gyrus + angular gyrus, 愛因斯坦的腦部解剖 發現他的IPL比正常人大概大15% 但是旁邊的 Wernicke’s area 卻比別人小一點) 所以人類大腦的某一部分被破壞, 不一定會影響到其他的部分. 但是AI LLM 的巨大參數卻是全部都混在一起, 並沒有分門別類的個別運算. 所以由 fMRI 的人類語言和思考的大腦被刺激的影像不一樣, 就說 LLM 裡面的語言和邏輯思維是沒有直接的關係, 我有點難以信服
我有一种感觉,用语言思考效率极低。
而且随着年纪的增长,越依赖用语言思考。
不知道这是我的个例,还是大家普遍如此。
谢谢你的分享!
之前看到一個觀點是說,AI不可能發展出「和人類一樣」的智慧。
但我的觀點是,誰說AI的智慧一定要跟人的智慧方式一樣,才能叫做智慧?才能叫思考?
很喜歡模仿遊戲裡面的一句台詞:「機器只是思考的方式不同,當某事物的思考方式跟我們不同,就代表它沒在思考嗎?」
雖然這段話也順便是用來影射劇中的圖靈想描述對於同性戀的看法。
但再更進一步思考,為什麼人類需要這麼在意AI的思考方式,和人類不一樣呢?
感謝博主用心分享
語言是思維的工具
但思維不只是語言
處理程式語言的是電子機械的電路邏輯
而我們需要的是 能辨識語言並且能夠進行思維的電子機械
會自己移動去換水的拖地用水桶 加 會自己洗擰拖把髒布的拖把
有比會幫髒水桶換水的機器人 有智慧嗎?
That makes sense. Chinese as a language is an old language, but it doesn’t always have good logic, especially when the simpler Chinese replaced the traditional one.
这点很多中国人是无法接受的。但实际上要深入的学过其他语言,至少英语,并且被深刻影响过后,才会认识到中文的局限性 另外老祖宗最喜欢的就是中文的摸棱两可和不准确,可以用于甩锅
You should start using binary language.
感謝大飛整理! 非常有收穫!
语言不是思维的基础(两者脑区不同),但复杂语言确实能大幅强化思维。如果把新生儿直接扔进大自然,长大后其思维确实跟在人类社会长大的学会语言的儿童有明显差距,行为更接近其他灵长类。
试想一下,一个不会语言的人是否能像正常人一样逻辑思考。答案很显然,是不能。历史上有很多动物养大的孩子,通称狼孩,通过这些狼孩的研究结果表明,一个孩子如果到5岁都没有学到语言,那么他终身都无法再学会语言,而且终身只会用本能反映且无法思考,完全和动物一样。
@@user-io8de5ux9e 这几个狼孩的例子我之前也关注过,确实再怎么训练也达不到正常人的高度,不过也不是就没有逻辑思考的能力了。毕竟哺乳动物和鸟类大部分其实都有相当的逻辑思考能力,灵长类(包括人类)又更上一层楼。智人也是诞生后很久之后才有接近现在语言能力,但之前就已经能干很多事了。所以最后得出的结论还是语言不是思维的基础(两者脑区不同),但复杂语言确实能大幅强化思维。
語言就好比思維模型,我用數學和中文和英文和日文時思考的方式很不一樣。
不用語言能思考,但我相信效率有限
能不能讲一讲马斯克的Neuralink的新进展
确实,人类的语言只是人类大脑逻辑思维的一个输出方式,聋哑人可以用手语输出信息。
我很想知道,当一个人失去视觉同时失去听觉【仅思维假设】,会演变出什么技能。我并不认为思维属于纯粹的逻辑思维范畴。思维可以有多种不符合逻辑的形式。即使聋哑人使用手语,也是通过了视觉表征。
语言不等于思维,但是大语言模型也并不是只会语言。完成词语接龙其实需要模型理解甚至推理很多语言以外的东西。模型的输入输出都是语言,不代表模型里面只有语言。
不论语言和思维是否独立,语言有助于提升思维和学习能力应该是毋庸置疑的。LLM可能无法直接开启机器的思维,但保不齐能间接催生思维。
Language is primarily a tool for communication rather than thought
语言文字虽然不是思维的唯一组成部分,但是至少是非常重要的一环,人类思维无法脱离符号
语言肯定跟复杂的思维或者任务是有关联的。很难想象没有语言能力怎么处理逻辑性很强、步骤很多、关系复杂的事务。谁能想象在不使用任何语言的情况下设计出一款比较新颖的APP?
LLM本身也不是对应着纯语言脑区的,LLM也是先将语言变化成embedding然后通过其他神经元进行推理的,LLM应该看成是只有一个模态的大脑。现在增加更多的模态也并没有改变需要把视觉,听觉模态编码到embedding的过程。
好有深度
这么个基本常识还要废这劲去研究,中国的知识份子不可能人有会认为是语言等同于思维。
为什么禅宗的宗旨就是强调心法,而不着文字。就是因为怕后人执着于文字,而忽略了语言文字以外的核心内容。
开悟是没法通过文字达到的,就是把金刚经倒着背下来,也不一定能开悟。
我们的教育一个重要的问题,就是从来没有老师告诉学生,不要执着于文字,决定人能力境界等等是通过色声香味触法去感悟的,所以说阳明先生的心学才是现代人通往智慧之门,这个AI现在还真不行。
AI 有局限其实也是好事情,能在某种程度上帮助人类,但不会取而代之,变成人类的终结者。
目前很多问题靠记忆和语言就能解决,推理不行无所谓吧,让科学家慢慢推😂
图形计算,或者说图形推演,也是大脑思考的形式之一。
我认为人类的大脑思考,应该是以某种最直接的方式来处理当下的任务。取决于你的学习过程,使用到的学习资料的形式:
比如数学公式的展开,合并,化简。几何学的演算。编程的推理过程。
我们大脑的推理方式根据实际的任务不同而会采用不同的方式。
个人认为学习和推理,本质上来讲:
学习=寻找规律,总结规律
推理=应用规律
如果我们对某个事物的学习过程,涉及到的学习资料是图形形式的,那么我们的推理应该也是图形是形式的。
如果学习资料是符号形式的,那么我们的推理也必然是符号形式的。
对呀,我个人的感觉,如果我能把要思考的东西生成图像,我就会很容易理解和推理,反之很多刻板的语言比如从英文翻译过来的计算机书籍或者英译的和合本圣经反而让我难以理解。