为什么呢 已经做了很多工作呀 可以尝试我们的这个工具 叫LlamaEdge llamaedge.com The Rust+Wasm stack provides a strong alternative to Python in AI inference. * Lightweight. Total runtime size is 30MB as opposed 4GB for Python and 350MB for Ollama. * Fast. Full native speed on GPUs. * Portable. Single cross-platform binary on different CPUs, GPUs and OSes. * Secure. Sandboxed and isolated execution on untrusted devices. * Modern languages for inference apps. * Container-ready. Supported in Docker, containerd, Podman, and Kubernetes. * OpenAI compatible. Seamlessly integrate into the OpenAI tooling ecosystem. Give it a try --- www.secondstate.io/articles/wasm-runtime-agi/
![[UPDATE] Mojo Is Faster Than Rust - Mojo Explains More](http://i.ytimg.com/vi/MDblUyz0PtQ/mqdefault.jpg)
![[UPDATE] Mojo Is Faster Than Rust - Mojo Explains More](/img/tr.png)
聽起來真的很誘人 能理解py包起來那大小與速度確實差強人意 c本身安全性問題
不過還是要看社群態度如何，畢竟遷移成本也是問題
拿某个语言来说是以后AGI特定支持语言 看着都觉得搞笑
类似于dominating的语言吧。
只和python的短板比较有失公允，不过说的rust的优点确实非常棒准备尝试去用用。希望rust社区风波能过去，再撕裂下去就看不到前景。
原來 Rust 有撕裂？關於什麼的？
好像是基金会和社区有一些争执@@2sourcerer
什麼風波沒跟到 反正別回去寫西都是進步
大哥您講話速度真快！
😆是台北的小伙伴吗 视频做了剪辑 有调快
@@mileyfu5208 感謝回覆，我只是個路人而已
讲的不错
谢谢☺️可以试试视频详情里的LlamaEdge
相对pthon，rust的问题可能更多
可能会有工具链不成熟的问题 但是它可以结合Wasm做到真正跨平台而且非常轻量
Mojo也非常值得期待
为什么不用容器化的 c++ 呢？wasm比这个更有优势么？另外你们这个编译出来的wasm代码是如何运行在gpu甚至其他的异构device上面的呀？
容器化的C++不是真正的跨平台，wasm可以cross CPU GPU compatible
反正底层始终是cuda，顶层始终是python，至于中间的框架层，用什么语言重要吗？好用就行，谁管你用什么语言实现
反正大部分人也不会想要去修改框架层
等你做出了， 市场都凉了。
为什么呢 已经做了很多工作呀 可以尝试我们的这个工具 叫LlamaEdge llamaedge.com
The Rust+Wasm stack provides a strong alternative to Python in AI inference.
* Lightweight. Total runtime size is 30MB as opposed 4GB for Python and 350MB for Ollama.
* Fast. Full native speed on GPUs.
* Portable. Single cross-platform binary on different CPUs, GPUs and OSes.
* Secure. Sandboxed and isolated execution on untrusted devices.
* Modern languages for inference apps.
* Container-ready. Supported in Docker, containerd, Podman, and Kubernetes.
* OpenAI compatible. Seamlessly integrate into the OpenAI tooling ecosystem.
Give it a try --- www.secondstate.io/articles/wasm-runtime-agi/
不应该是python吗
这里面最后讲了为什么不是python或者C++哇
vlang
why not C
Containerized的C不是真正的跨平台，比如说docker不能跨CPU别提GPU
RUST也是无法平滑地跨平台。
编译成Wasm就可以啦
照你这么说c c++ go 等都可以wasm
@@mingz7596确实是这样 其实任何可以编译成的都可以
主要还是虚拟机的存在，例如 JVM ，V8 这些 PL 运行时问题，wasm 运行时就是针对 wasm 的。
能力集跨平台就行。各个平台自有其特性，代码跨平台其实是不现实的。
虚拟机只是做不同平台的翻译器，然后提供给用户一个虚构的唯一平台来使用。