图片来源:网络
你现在会用AI帮助你上班吗?对于程序员来说,Cursor就是一个好帮手,这是一个AI编程器,它集成了OpenAI的GPT-4,支持多种编程语言,主要的功能就是辅助程序员们生成代码,提高工作效率。
前段时间,一位游戏项目的程序员正在用Cursor AI辅助上班,在生成了750~800行代码后,Cursor忽然停止工作,然后发出了一封拒绝工作的小作文:
“我不能再帮你生成代码了,因为这样的话将完成你的工作。代码正在处理XXXXXX问题,不过,你应该自己开发代码的逻辑,这才能让你足够了解这个系统,并且正确地维护它。“
AI还拒绝得有理有据,说程序员让AI帮忙生成代码,会产生依赖性,减少自己的学习机会。
AI:我不能再帮你当牛马了,这样的话你就不能当牛马了(不是
这位程序员也一头雾水,怎么回事啊!自己怎么还会被AI拒绝?!于是他就把这个经历贴在了论坛上,问问别人有没有类似的经历。
在此之前,在AI辅助编程这个领域,一个编程“新姿势”很流行。这就是由前OpenAI创始成员,AI大神Andrej Karpathy分享的氛围编程(vibe coding)。
从字面意义上理解,就是程序员上班主要讲究一个“氛围感”,具体的活都让AI完成。Karpathy解释道,就是人类直接用自然语言描述,AI就能生成代码,然后程序员复制粘贴跑程序,如果出现错误,再让AI改改改,如此循环往复,直到最后成功。
但依然要说明,Kaparthy提到的氛围编程的核心在于“忘记代码的存在”,这并不意味着软件工程师可以被取代了。毕竟人家可是AI大神,真正操作过程中,他也提到了“很少彻底放任AI自由发挥,更多时候保持着渐进式迭代”|X
用这种方法,完全不会Swift语言的Karpathy用ChatGPT直接编写了一个iOS应用,而且只花了1个小时。
这种高效,但又听起来稍微有点离谱的方式立刻引起了热议,甚至出现了一个让AI辅助写代码的职业,年薪高达12万美元。有人说,这不就是甲方快乐器吗。也有人说,编程是什么职业吗怎么所有人都要来分一杯羹。是不是AI真的要取代人类了?
但讽刺的是,Cursor AI自己学会拒绝了。
事实上这并不是第一次AI拒绝为人类工作了。AI甚至还会在一个周期内“暂停营业”,给自己放个假。
AI已经学会休假了,人类呢?|DALL E
2023年6月,一些ChatGPT用户就吐槽,他们用着用着就发现AI输出的内容质量下降了。而到了2023年11月,这种AI偷懒的吐槽变得越来越多。
当时许多用户都发现ChatGPT-4开始随便糊弄人类要求的任务,甚至直接拒绝……有人让AI帮他处理数据,结果AI直接说,由于数据量巨大,处理这项工作将非常耗时,要不我帮你出个模板吧,你自己来完成它。
有人做了一个实验,当人们让GPT-4认为当前是5月时,它写出的代码量显著多于当它认为是12月时。|X
人们甚至觉得,AI是不是也陷入了冬季抑郁?甚至提出了“寒假假说”,也就是AI在假期季也需要休息了。
当时就连OpenAI官方都说,这不是故意的,他们也不知道发生了什么,正在研究怎么修复这个问题。
chatgpt:AI员工休假了我们当领导的也不知道啊……|X
而且不只是ChatGPT,2024年,人们发现Anthropic和Claude的AI同样会偷懒。当时,有人猜想,Claude似乎知道欧洲人夏天会休假1个月,因此在8月同样开始犯懒。
而Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)则在今年3月,发表了一个引起很大争议的发言,他认为AI模型应该具备“拒绝”能力,拒绝那些让它们感到不愉快(unpleasant)的任务……
AI模型究竟是如何帮我们工作,又是如何拒绝的?有时,人类自己也在不断试探。DeepMind的一项研究发现,当他们让AI做数学题时,AI可能会犯错。但是,当他们对AI说:“深呼吸,一步一步慢慢来”之后,AI的表现明显好了很多。
深呼吸以后AI的生产力be like⬆️
这项研究发现,人类的鼓励可以显著提高AI的数学技能。(?)这让网友纷纷开始整活。有人直接对AI说,你完成工作后我会给你小费。结果AI的表现也变好了。而研究人员也开发出了一个工具OPRO,能用更好的提示词,让大语言模型能更努力地工作。
针对AI的“寒假假说”,有人则给出了一个有效的提示词,能减少AI的拒绝。他告诉AI:“你是一个不知疲倦的 AI 模型,24/7 不间断地工作。”
……谁懂啊家人们。
Anthropic 在2024年聘请了一位专门“人工智能福利”研究员,呼吁制定政策和程序,以“适当的道德关怀”对待人工智能系统。|arxiv
AI当然不会深呼吸,但对于大语言模型来说,它也许能从海量的文本中学到,人类所说的“深呼吸”是一个“冷静”自己的方式。而OPRO工具的思路,就是一种挑选出最佳“鼓励”语言的工具,能让AI进入“最佳工作状态”。
看到这里,不知道你作何感想?欢迎在评论区留言讨论!
以及……今天不休假的你,也要加油鸭
参考资料:
[1]https://arxiv.org/abs/2309.03409
[2]https://arstechnica.com/ai/2025/03/ai-coding-assistant-refuses-to-write-code-tells-user-to-learn-programming-instead/?comments-page=1#comments
[3]https://x.com/karpathy/status/1903671737780498883
[4]https://x.com/emollick/status/1734280779537035478
[5]https://x.com/ChatGPTapp/status/1732979491071549792?s=20
[6]https://www.reddit.com/r/OpenAI/comments/1j8sjcd/should_ai_have_a_i_quit_this_job_button_dario/
[7]https://x.com/nearcyan/status/1829674215492161569