AI agents 的成熟,使得很多事情的流程出現不成比例的膨脹,而且幾乎到達臨界點。

這篇寫的是 coding,AI 寫程式很快,但審查人類完全跟不上,所以幾乎也只能讓 AI 自己去審查自己去確認。

數學難題也是,AI 解開了太多卡住人類數十年數百年的問題,但證明實在很長,AI 甚至會為了證明,自己再做很多新的小證明,人類真的消化不完,目前也只能讓 AI 審查工具去確認。

部份數學家承認,真的會產生「存在危機」。不過往好處想,其實圍棋界也經歷過了。而且現在也適應的很好,解答就是:人去跟 AI 學,去探索更多未知的領域,並嘗試去理解那些 AI 新開創出來的下法。

學術界也開始了,知名期刊開始限制一個人一年所能投稿的數量,OA 期刊因為電子化且可收刊登費,所以在這個 AI 時代很可能是適應得最好的。

傳統期刊開始遇到困境,只好積壓稿件半年一年以上,用各種工具 desk reject,即使這些工具本身有問題。或者是,乾脆就只保留給編輯跟部份會員投稿,外部稿件越收越少。

不過目前 AI agents 輔助的學術寫作,人需要確認的地方還很多,有學術經驗也懂 AI agents 的人最強。如果沒有學術經驗,用 AI agents 去生稿件而不懂怎麼確認,我自己覺得還蠻可怕的。他生出來的四大段落,很多初學者錯誤。應該是訓練的時候沒有挑選過品質。

像是怎樣的初學者錯誤,就是 methods 就自己會帶到一些該寫到 results 的東西。Discussion 第一段很像 abstract 或 introduction。結論寫得過於宏大,甚至與 results 無直接支持關係。

我會知道這些,是因為我自己就有用 AI agents 在輔助寫作,也有在協助用 AI agents 寫作的同學修改確認論文,已有被接受的經驗。然後我發現同樣的錯誤反覆發生,從初稿到可以投稿要改得還蠻多的。

封面圖:報導〈Harvard researchers find AI coding agents shifted the bottleneck to code review〉截圖,螢光為作者標示。