beginor

@chikai 做代码提示还是挺有用的，显卡强的话可以跑一个 8b 的 coder 模型

继续用 continue + 本地模型，现在是推荐的模型是 qwen 2.5 coder 1.5b

Proxifier 一直在用，没啥问题。 系统更新了，Proxifier 也要装新版本才行

要说 Jetbrains 系列的 IDE 对 SQL 的智能提示是无敌的，这个应该都赞同吧？

连接数据库之后， 不管是独立的 SQL 文件， 还是嵌入在其它语言的 SQL 语句， 都有非常棒的只能提示！

别吹 ARD ， 其实就是 VNC ， 远程的话效果很差

OneDrive 路过

warp +1 ， 目前支持 Linux + Mac ， 不过官方说 Win 也在路上了。

在 JetBrains IDE 2024.3 中的“新终端” 就是复制了 warp

如果用 LM Studio 运行 mlx 版本的 [Llama-3.3-70B-Instruct-4bit]( https://huggingface.co/mlx-community/Llama-3.3-70B-Instruct-4bit) 可以稍微快一点点，5.x tokens / 秒。

M1 Max 64G 用户， 在 `/etc/sysctl.conf` 文件中添加选项 `iogpu.wired_limit_mb=57344` ，这样最多可以分配 56G 内存给显卡用。

用 llama.cpp 可以运行 `llama-3.3-70b-instruct.q4_k_m.gguf` ，不过要限制一下上下文大小，不然还是内存不够， 生成速度大概是 4 token / second 。

```
main: server is listening on http://127.0.0.1:8080 - starting the main loop
srv update_slots: all slots are idle
slot launch_slot_: id 0 | task 0 | processing task
slot update_slots: id 0 | task 0 | new prompt, n_ctx_slot = 4096, n_keep = 0, n_prompt_tokens = 26
slot update_slots: id 0 | task 0 | kv cache rm [0, end)
slot update_slots: id 0 | task 0 | prompt processing progress, n_past = 26, n_tokens = 26, progress = 1.000000
slot update_slots: id 0 | task 0 | prompt done, n_past = 26, n_tokens = 26
slot release: id 0 | task 0 | stop processing: n_past = 354, truncated = 0
slot print_timing: id 0 | task 0 |
prompt eval time = 2035.41 ms / 26 tokens ( 78.29 ms per token, 12.77 tokens per second)
eval time = 79112.92 ms / 329 tokens ( 240.46 ms per token, 4.16 tokens per second)
total time = 81148.33 ms / 355 tokens
srv update_slots: all slots are idle
request: POST /v1/chat/completions 127.0.0.1 200
```