Ollama正式支持Llama 3.2 Vision | 本地运行多模态模型实现图像识别

[@haofan271]

请问Llama 3.2 Vision可以分析视频吗？

[@01coder30]

好像还不行。

[@jiakaichen950]

苹果m4max可以跑的动

[@01coder30]

😁，喜讯喜讯

[@pongpong5441]

先赞后看

[@BruceChouTW]

這個模型有支援tool use嗎？

[@jianboguo-i1b]

请问作者国内怎么注册 anthropic 的 api，我使用 visa 卡不行，有啥好方法吗，想玩一下 computer use

[@xrl7408]

Error: listen tcp 127.0.0.1:11434: bind: An attempt was made to access a socket in a way forbidden by its access permissions.
大神，安装完ollama后报错，检查了端口占用以及防火墙都没有问题，这是什么原因？谢谢

[@minfon2010]

喜歡這些新model的嘗試，了解目前情況和如何運用

[@wongeric1570]

试了本地跑11b，识别火车票啥的转成json还是可以的，大一点的就不行了。

[@jameszhang3877]

90b模型估计效果能不错，可惜一般的电脑跑不了

[@pollylee8579]

模型需要再进化几轮

[@looprand3965]

這模型回應速度如何
需要怎樣的硬體設備

[@jakevin5]

大佬要換 m4的air嗎？ 這次真香啊

[@chansonshi]

m4 air 出来了？ 不是只有mini 嘛？

[@jinxing-xv3py]

11b,16g显存32g内存的电脑能跑吗

[@何俊-b7r]

我的12G卡都可以跑得起

[@jinxing-xv3py]

@ 之前一个UP说11B要24G显卡才能跑所以都不敢奢想

[@kironlau]

​@@jinxing-xv3pyollama预設是int4/q4_0, 差不多是除以4的佔用(精度也可自己選擇)

[@jiayou3499]

很想试试90B模型，显卡要求太高😂

[@chansonshi]

多大的显存要求？

[@jameszhang3877]

@@chansonshi 估计要A100，48G估计都不行

[@sskhdsk]

@@chansonshi 纯粹模型的话可能50GB吧，但是多模态模型存的中间值比较多，实际占用肯定比50G大很多