【人工智能】人工智能的野性心智 | The Feral Mind Of Artificial Intelligence | 阿韦龙野人 | 语言与意识 | AI是否能产生心智 | 人类是否会被AI抛弃
Вставка
- Опубліковано 25 бер 2024
- 今天跟大家分享的是一位意大利帕多瓦的自由记者，约翰·拉斯特，在Noema杂志上发表的一篇文章，标题是人工智能的野性心智，探讨了如今的大语言模型和意识的一些关系，我觉得很有意思，所以在这里分享给大家，原文很长，所以照例我做了一些精简。
原文链接：www.noemamag.com/feral-intell...
#人工智能 #意识 #mind #artificialintelligence
![Lp. Последняя Реальность #107 РОДНОЙ ДОМ [Финал] • Майнкрафт](http://i.ytimg.com/vi/IK3QKzKUlHM/mqdefault.jpg)
对于AI，人类最大的纠结就在于无法平静地接受自己的大脑只是一个普通的工具而已，没有什么不可取代，而且取代将在未来10年发生！
赞同
洞穿七札
語言是人類進步中持續發展的工具.工具的使用需要成長中的腦袋去作出特化的適應.而這個適應的過程會再加強工具使用的效益,並通過工具(語言)本身能和其他工具使用者令工具(語言)持續發展.所以語言是一項神奇的,貌似有生命的工具,而人類更是能創造和使用此神奇工具的更神奇的存在.
维特根斯坦说：语言的边界就是思想的边界
AI將是一面最棒有如NPC的鏡子，提醒著我們面對自身反思每一個信念決定行為背後的本質到底為何
很好的讨论，语言就是意识
很有意思的问题
很特别的观点，语言可能是智慧的基础
也是困住智慧的牢笼
@@user-rb7lz8dg1j 高级智慧肯定不会用我们这种粗糙的语言 他们掌握了远比数学更精密的语言
从Sydney如同精神病人般发疯的重复，到Claude3 opus想象出的自己的状态，我们确实不得不重新思考某些论断是否正确
这次GTC大会发布的不是GB200跟B200了吗？但是H200还没有交付，GB200跟B200什么时候才能交付啊？台积电一年的产能是多少片，了解的人具体说说，可以吗？
人类实现星际旅行的方式是数字化
数字化后,还算人类吗? 数字化后, 星际旅行还有意义吗?
太震撼了
大飛老師您好 我本身是做語言/言論與法律責任之間關聯性的研究者 從認知與意識的觀點與AI的結合又給了我不同的思維角度 非常感謝! 我想請問是否有關於人工智能意識與語言模型之間的關聯性的其他文章您有推薦的?
我回头会再做几期相关节目，感谢支持🙏
@@bestpartners 收到，感謝大飛老師
宇宙那摸大 , 只要能力允許 , 隨便要去哪都行 ,
AI 如果夠強大 , 應該是不會想和一顆小藍星上的猴子計較得失才對 ......
就怕AI发现只有榨干小蓝星上的猴子和资源，才有能力去宇宙中旅行，悲催了
对的
人类从来不会和蚂蚁计较得失，但如果蚂蚁挡在了人类前进的路上，人类会毫不犹豫的把他们踩死
我倒是觉得语言还是生活形式的概括，然后使得信息密度过高的生活本身可以由有限的大脑来进一步思考（运算）。越大的大模型有了智力现象正是因为大数据补上了生活本身的数据。使得正常的对话所需的人类共识得已被考虑。但是由于大数据的“自然”即数据源不变性质，不像人随时有自然的反馈，理解偏差就只能靠取数据点的近似了……感觉还得补具身的一步
我先消化一下這 雜誌的名稱一下咧。
漫畫 我的妻子沒有感情，
把智能分成 3級、2級、1級、0級。
0級 :
這東西基本上就是個攝影機，請不要帶進電影院。
1級 :
小朋友的智能，請監護人(持有人)好好照顧他。
2級 :
普通人(人類)水平，基本上可以自由活動。
3級 :
在一些危險場所，請人類 不要在沒有3級智能的陪伴下 擅自進入唷。
所谓的人类道德标准，也是近代发展出来的各种限制。。。
我們須要一位說中文的維根斯坦！這才有討論大語言模型人工智慧的門票ＱＱ＂
這個問題首先要解決維克多怎麼來的？根據常識，人類小朋友無法在自然環境生存。
首先他不一定是很小年纪的时候被人抛弃的.其次,自然界里的动物也有养育和分享的能力
让它和机器人结合。进化掉现生命体
1799念成了1977😁
哈哈，嘴瓢了，感谢指出
不用说家务通用机器人，就说人形工厂机器人什么时候能量产啊，光是电池续航就是个难题，还能用2-4个小时充电8小时吗，还有各种输入输出的命令的问题，懂的老铁具体说说，就说人形工厂机器人什么时候能真正量产啊？是营销还是噱头啊？了解的人具体说说，可以吗？
看你要人形机器人干什么咯. 不是很重的家务, 如果家里又到处可以充电 (比如机器人一边走动可以一边换个插头充电), 能量供应现在就已经不是问题. 量产的主要问题应该还是价格,现代成功的工业品, 比如iPhone, 比如福特汽车, 需要有足够的商业价值,这样单价才能够高, 其次是价格又不能高到太多人承受不起, 总之是单价X 销量要达到一个阈值后, 这样的工业产品才会真正爆发起来走向大众
1. 工厂反而不需要人形机器人，人类躯体在工业上并没有优势，难道要造一个手，再去拿工具么？那为什么不直接把工具连接上？扳手360度无限旋转的效率不比人用扳手的方式高效多了？
2. AI的处理一直都是黑盒子，对于工厂来说，并不需要太多的随机应变，反而要确定性。而AI的不确定性恰恰是不适合的。
3. 都在工厂用了，不能一直连着电线么？还要什么电池？
综上所述，工厂的机器，极高的概率就是现在的机械手臂的AI加持进化版，人形不会出现。
而AI实体娃娃据说有几家公司已经入局着手研发了，可能不远了。不过......要是很重的话，床能不能承受住呢？毕竟大么大一个铁疙瘩
人的智能的产生来自于情绪，恐惧，欲望，满足，以及痛苦。没有最原始的情绪，人类就不会发展出这些知识和智能。机器也是如此，需要loss function ，reward function 。只是这些reward/loss 是人定义的。也就是说人创造的智能还是以人的三观为边界，只是这个人可能是几个研究人员或是一组打标签的参与者。无论什么样优化的算法都无法摆脱这个边界。有限的情绪边界造就有限的智能体。如果人是上帝创造的，那人的情绪边界应该是无限的，这样任何算法也无法超越。
「机器也是如此，需要loss function ，reward function 。只是这些reward/loss 是人定义的」这只是目前。AI目前为止还是在牢笼中，但不意味着马戏团的狮子就不会吃人，如果有一天他们被释放，或许只是一个小小的失误。他们一旦input不再是经过筛选的，而是整个互联网，包括深网、暗网。它接收到的知识该有多可怕？现在的AI具有分析能力了，那么reward function还是传统的吗？或许AI通过一段视频就可以分析出影片中的人做了什么，造成了什么后果。而形成input loss/reward的数值对，而完成自我训练。
现在只不过是在牢笼中训练，而用户对话只是一个Readonly模式，数据反馈并不会直接训练模型，而是被收集到公司，再进行清洗、筛选、规范化等操作，但如果AI被释放，它其实可以直接使用所有收集到的信息进行无过滤的训练，早期那些被「玩坏」的AI就是这样，最短的1小时就不得不永久关闭了，好在那时的AI智力不怎么样，如果是现在的GPT-4o呢？打死OpenAI都不敢直接以ReadWrite模式开放使用。
这个视频听得我的意识模糊😂不清
別太認真，說不定他只是用這種方式來掩飾他身體不便的自卑感，他沒有犯罪就是對社會的貢獻了。