ai 水平高低取决于使用者水平

[pureGirl]

ai 取代编程者还有很长的路要走吧。如果使用者啥都不懂，ai 写出来的就是一堆拼凑出来的破烂，稍微复杂点的业务就搞不了，出问题也不知道是啥。

[clino]

另外还有一方面，如果 AI 生成的代码开发人员都看不太懂，那么有可能产生出无法维护和改进的一堆代码，可能出了一堆问题需要调整根本设计的无法修补
当然这是对于需要长期演进的软件，如果是临时代码就无所谓了

[Morriaty]

当前是对的，但要谨慎的对待这个观点，不要低估 AI 的进化能力，我觉得让一个 AI 学习到好的「架构模式」不是天方夜谭。

目前我看到的编程工具里，似乎都缺少一个 AI 主动提问，收集需求的阶段，想象一下
1. 一个训练了大量代码学习到好的「架构模式」的 AI 架构师
2. 在用户提出一个简单需求时「帮我做一个 xxxx App 」
3. 这个 AI 架构师会主动向用户提问，收集信息，再基于它已有的架构知识，设计出来的 APP 还是有可能达到一定水准的

[cat]

我让 AI 给我算八字推理，我觉得它好牛逼啥都懂，甚至一开始都没发现时间和时辰对应错了
但让它写代码，就经常能发现错误和不合理的地方

[thinkm]

把上下文搞长点就能很大程度上进步

[Vegetable]

这句话很有局限性，AI 发展太快了，至少经常会令我惊讶。
昨天的 Claude 3.7+Cursor 的表现水平，在我使用的主观感受上，已经远超初级程序员了。

第一，是他能理解我的冷门但合理的需求，第二，是他写出来的代码基本是一遍就通。这意味着只要需求完整合理，这个版本的 AI 在仅需要少许监管的情况下，已经能完成分钟级别实现两三个功能点的组合。更多的我也没验证。

我验证的需求算不上太复杂，用 django 开发一个静态页面托管服务。

- project/deployment/log
- 能通过 webhook 上传 zip 部署
- 使用内置 auth 鉴权
- 页面访问权限分为 public 和 internal
- 使用数据库保存 zip, 首次访问时解压
- 通过 admin 页面管理数据，支持在 admin 手动上传 zip 部署

大概就这些功能，全部是 cursor 实现的。过程中他出现了一些画蛇添足的操作，比如自作主张的生成了一个项目列表页面，但其他功能都算得上完美完成。

[wqywangweijia]

@clino 但是我有种感觉，以后的代码就是不需要人来读懂了。比方汽车刚出来的时候，驾驶员都是懂得怎么修车的，但是现在呢。可能比喻不太恰当，但是隐隐这么感觉的。

[pkoukk]

ai 现在还不会主动反问，要求用户补全信息。
等会了这一点之后，差距就不大了

[pureGirl]

@wqywangweijia 自动驾驶发展这么长时间不还是没普及么。。。

[zcasdwqexbvn]

@wqywangweijia #6 比喻是不太恰当，驾驶员的必备技能是知道车在按照自己的操作跑，就像程序员要能看懂代码按照各种输入在正常输出

[dgthyiolyjmyt2]

@Morriaty 收集需求这个点好多 agent 已经开始做了,需求搜集+问题执行深度+广度

[pureGirl]

@dgthyiolyjmyt2 要怎么描述才能确保 ai 和人理解的是一个意思也是个难题

[66beta]

AI 先做到不要“瞎编”就可以了

[CodeAllen]

昨天看视频，有 UP 主介绍 ChatGPT 和 Gemini 的 DeepResearch 功能，使用者在提出需求之后，AI 会初步思考之后反问细节，尽量补全需求，从这一点来说，DeepResearch 有点接近开发者或者项目管理角色了，如果更进一步，AI 逐步分化出项目开发所需的所有角色，比如项目经理、产品经理、研发经理、测试经理，分工合作，形成一个闭环，这一步就能取代不少人了，如果能降低使用成本，哪怕进行多级任务拆分，整体的竞争力还是很可观的。

我是这么理解 AI 革命的，以资源矿产挖矿为例，就以金矿为例吧，在科技水平比较低的时期，一个矿主带领一批人，比如 1000 人去开矿，这其中肯定也有岗位分工，来完成采矿任务，如果这个时候科技水平提升了，比如有些工作可以用机器人代替，那么矿主带领 1000 人挖矿有没有可能就变成了矿主带领 1000 个机器人去建立一个自动化产线，具体的任务是机器人干，产线降本增效也是机器人干，人就负责盯着日报数据汇总。

有人说岗位这不就变少了吗？不一定，如果当初的 1+1000 人都变成了矿主呢？ 1001 人在低科技水平时期只能开采一个矿，在进入高科技时期之后，是不是可以同时开采 1001 个矿呢？能力强了，资源边界也扩大了，如果地球承载量到了上限，那么能不能去月球或者火星去呢？

我是相信，AI 的进化速度会非常快。

[meeop]

当前是，未来不是

ai 会学习会进化的

换一个问题，团队的水平取决于老板的水平吗？
一般情况下是，但团队成员足够强的时候，就不是了

[pureGirl]

@CodeAllen ai 内部还处于一个黑盒的状态，gpt 甚至还越迭代表现越差，这种情况要怎么发展...

[kaedeair]

@Vegetable 看看冷门问题吧，这种常见业务代码满大街都是。只给一本 api reference 都不一定能拼出来逻辑

[clino]

@wqywangweijia 那问题就来了，都让 AI 去发展，那它会不会弄出一份它自己都无法维护的屎山出来呢？
先不说强人工智能超人工智能这样比较科幻的级别

[meeop]

@clino 不需要理解，也不需要修补，就像你雇佣一个员工，需要理解他的大脑如何运行和修复吗？

只要把需求说清楚，ai 编写满足需求的代码，并且测试代码符合需求就行
出现 bug ，bug 本身是一种补充需求，直接重写全部代码或者让 ai 修改就行

[clino]

@meeop 那就可能会出现迭代一次出现 100 个新 bug ，再迭代一次少了 50 个 bug 但是又出来新的 100 个 bug

[CodeAllen]

@pureGirl 这都是小问题，只要技术上大家都有竞争，OpenAI 不行就 Gemini 上，Gemini 之外还有 Claude ，整个 AI 领域还是向前发展的

[guanhui07]

普通的被坑了哪里都不知道呢 还更麻烦

[Rickkkkkkk]

问一个好问题确实很重要。

[meeop]

@clino 那是现在 ai 能力不行，长期来看不会
同时，会有架构师（或者 ai 架构师）去做系统模块划分，一个具体业务模块就那么点代码，bug 是有限的

现在人怎么解决系统的 bug ，未来 ai 就怎么解决

[pureGirl]

ai 编程的本质是否是将自然语言映射到机器语言，如果自然语言可以编程，那为什么还要使用代码，不如直接用汉字编程就得了...或者就是像目前已有的框架一样，一步一步整合提升代码可读性，无限逼近自然语言，代价就是损害运行性能。

[chitanda]

其实就是语言逻辑的能力。不过 llm 也是在不断进化，gpt3.5 刚出来，各种 prompt 技巧，现在浪潮一波接一波，技巧也早荒废了

[Morriaty]

@dgthyiolyjmyt2 有知道具体哪几家在做这个功能了吗？我去试试看有没有内测版可用的

[NoOneNoBody]

@clino #19
目前 AI 的溯源推理能力很弱，人类查 bug 是跳跃式的，大概知道出错位置，在定位范围内寻找查错；而 AI 可能要全程代码及参数数据喂给它，也不一定能完成，更别说只告诉它错误信息和代码片段了

[hancai2]

@pureGirl 之前也看到类似的观点，ai 直接将自然语言转化为机器语言，毕竟机器更了解机器。不过还是很遥远。

[dgthyiolyjmyt2]

@Morriaty
https://github.com/dzhng/deep-research

[ho121]

@66beta 提示词写明不懂不要瞎编，有一点效果

[clino]

@NoOneNoBody 对于比较难查的 bug ，人类会来回琢磨做各种假设和实验，步骤可以很长
但是我的重点不是在这里，我想说的是如果 AI 生成的代码人类都不懂，那么人类怎么知道 AI 是不是自己也不明白其实是在用各种幻觉瞎搞一气呢？

一个可能的解法是 AI 编写各种单元测试 case 要求过，反正把 AI 生成的代码当黑盒用，反正功能能搞定就行，但是这样有可能会发生 AI 一直解决不了让 test case pass 的问题。

[hui9000]

同意，各行各业就目前阶段来说还是要跟 AI 提出具体的“问题”，回答的才能更加准确。但是怎么更加准确还是需要人为去判断，如果 AI 给出的回答结果是比人能理解的结果能加难懂，那么此结果对于问题提出人来说就不知是否正确。
所以，是不是可以理解为，AI 不会比我聪明，目前只是解放我的人力（如果靠我自己学习，或者花时间是不是也能实现），而还没到达代替的阶段。如果 AI 要进化到代替人，那只能是 AI 做到我们怎么做也无法做到的事。

[maladaxia]

@pkoukk AI 会反问啊, 你加上一句: 有不清楚的地方问我.
就可以了

[pureGirl]

@clino 测试驱动开发感觉还靠谱一些

[jpyl0423]

目前我的使用体验是必须明确告诉 AI 你要干什么，出问题了自己要有解决的思路，不然 AI 会顺着错误的方向越走越远。

[cheng6563]

@hancai2 反了吧，要真是“转换为机器语言”，那应该生成的是二进制指令才对。目前的 LLM 都是模仿的人类思维，其算力也会降低到人类思维的水平。
随便拿个 CPU 秒算的数学运算，LLM 得写一整页草稿才能算出来，还很可能因为专注度问题算不对。

[cheng6563]

LLM 的 Tokens 数，专注度，以及幻觉问题，都是压在头顶的大山。
这几个问题不解决，那就还是只能用于辅助编程，成为不了真正的程序员。

[catazshadow]

为什么对本质上还是靠概率猜的程序有这么高的期待？