IPEX-LLM:如何使用 Intel NPU 推理大型語言模型?
在找 OpenVINO 的資料時,剛好看到 IPEX-LLM
於是乎就也研究了一下…
在找 OpenVINO 的資料時,剛好看到 IPEX-LLM
於是乎就也研究了一下…
剛安裝完 OpenVINO,但它到底有沒有比較快?
我們一起來看看~
intel-npu-acceleration-library 已經停止維護了
官方建議使用 OpenVINO,所以我就稍微研究了一下~
Python Debug 的方法很多種
但你有試過用 GDB Debug Python 嗎?
看起來有點新奇的工具
不知道拿來 Develop 或是 Debug 好不好用…
最近覺得這個套件蠻好用的
所以就整理一下做個紀錄