今天，AI 已經(jīng)不再是一項“隱藏在幕后”的技術，特別是生成式 AI，它們以普通人工更容易感知到的方式參與到了很多工作當中去。

　　從寫代碼到擬合同，從生成圖片到寫小說，AI 們都能勝任，而且在一些領域的表現(xiàn)甚至比人類“新手”還要好?？雌饋?，人類再也不用做那些“基礎又枯燥”的事情了。而且有了 AI 之后，我們似乎也可以把所有的精力都集中到更具創(chuàng)造力的事情上去了。

　　也有人對此表現(xiàn)出了擔憂，既然 AI 能完成的事情越來越多，人類是不是就越來越不重要了？其實，用機械設備以及計算機幫助人類操作和思考不是今天才有的想法。比如自動化設備早已進入了工廠，很多復雜系統(tǒng)的調(diào)度規(guī)劃和操作也都是計算機完成的。

　　而在這些領域已經(jīng)發(fā)生的事情，或許能為今天的我們提供一些參考借鑒。

　　自動化的反諷

　　早在 1983 年，英國認知心理學家莉?！へ惗鞑祭锲?Lisanne Bainbridge)就在自動化控制領域的頂級期刊《自動化學》(Automatica)上發(fā)表了一篇文章，名為《自動化的反諷》(Ironies of Automation)。

　　貝恩布里奇寫這篇文章的時候，并沒有像今天這樣功能強大的生成式 AI，但在當時自動化系統(tǒng)已經(jīng)開始出現(xiàn)了，這與今天的 AI 化有著一定程度的相似之處。

　　貝恩布里奇在當時的文章里，就提到了自動化可能會帶來的問題，我們也順著貝恩布里奇的觀點來看一看。

　　首先，貝恩布里奇認為，自動化這件事本身就很有諷刺意味。

　　“自動化”要做的事情，就是用機械、計算機等不需要人類參與的裝置系統(tǒng)替代人類，去執(zhí)行某些操作或者進行規(guī)劃決策。但是，即便是高度自動化的系統(tǒng)，比如電力網(wǎng)絡、復雜的生產(chǎn)線，仍然需要人類投入大量的時間去監(jiān)督、調(diào)整、維護、改進等。

　　自動化的經(jīng)典目標是用自動設備和計算機替代人工控制、規(guī)劃和問題解決......本文指出，工程師對人因工程日益增長的關注反映了一種諷刺現(xiàn)象：控制系統(tǒng)越先進，操作人員的貢獻可能就越關鍵。

　　而且，自動化的控制系統(tǒng)越先進，人類在系統(tǒng)中發(fā)揮的作用可能更關鍵。

　　比如自動化系統(tǒng)的設計者在遇到無法自動化的任務時，會把這些任務留給人類來完成。而這些任務往往是復雜度高、難以形式化和規(guī)范化的。系統(tǒng)越先進，留給人類處理的任務復雜度往往也越高，也就更依賴人類的能力。

　　試圖減少人類操作員的設計師，仍然會把不知道如何實現(xiàn)自動化的任務交給人類操作員去完成。

　　另外，為了確保復雜的系統(tǒng)能夠順利運行，在它們出現(xiàn)異常狀況時能夠及時被發(fā)現(xiàn)、及時作出正確的干預，同樣也需要有專業(yè)技能過硬、經(jīng)驗豐富的人類提供保障。

　　所以，自動化本身是要讓機器來替代人類，但實際上，為了設計以及確保自動化系統(tǒng)的順利運行，又極度依賴人類的能力。

　　這是貝恩布里奇認為，自動化“反諷”的原因之一。

　　AI 時代，人類的能力同樣關鍵

　　而在 AI 工具蓬勃發(fā)展的今天，情況也是類似。

　　當我們使用 AI 去完成任務的時候，能夠熟練運用 AI 工具，并且確保它們生產(chǎn)出的內(nèi)容能夠穩(wěn)定運行，同樣對人類知識和經(jīng)驗有更高的要求。

　　比如，F(xiàn)astly(一家美國先進的云服務提供商)在 2025 年 7 月進行了一項調(diào)查，對比了在 IT 領域，初級開發(fā)者(0~2 年工作經(jīng)驗)和資深開發(fā)者(10 年以上工作經(jīng)驗)使用 AI 寫代碼的情況。

　　結果發(fā)現(xiàn)，有 30% 的資深開發(fā)者使用 AI 編寫的代碼比例超過 50%，而在初級開發(fā)者中，只有 13% 的人會用 AI 完成這么高比例的代碼。

　　這并不是因為初級開發(fā)者不知道這些 AI 開發(fā)工具。

　　而是 AI 編寫的代碼如果存在問題或者不那么完美適配(這個情況很常見)，資深開發(fā)者有能力去進行調(diào)整，而初級開發(fā)者可能無法快速識別出代碼中的問題、沒法高效率地進行編輯調(diào)整，所以會適當減少 AI 生成代碼的比例。

　　在筆者所在的寫作行業(yè)，同樣是生成式 AI“橫行”的領域。而且 AI 寫出的內(nèi)容確實會比很多新手作者寫得更好。

　　但是在特定的領域，比如科普類文章撰寫上，AI 生成的文章可能存在事實性錯誤，這樣的錯誤屬于硬傷，如果直接發(fā)布會對科普類內(nèi)容的公信力產(chǎn)生影響。

　　而對知識性內(nèi)容進行核實和修改，還是依賴人類的知識和經(jīng)驗積累。

　　至少目前，AI 還無法確保內(nèi)容的真實可靠，依然有可能出現(xiàn)“AI 幻覺”(比如生成不存在的文獻資料、編造一些事件。)只要 AI 編造內(nèi)容的概率不是 0，就意味著需要人工檢查每一條信源。

　　另外，AI 寫出的文章結構不一定那么完善，所以在使用 AI 之前，需要作者構思好文章的整體結構，每一部分的核心講述內(nèi)容，以及想表達的思想，這樣生成的文章才不至于那樣有“AI 味”。而這些也都要在長期的寫作、修改過程中建立起來。

　　這些例子都印證了貝恩布里奇的觀點，即便是先進的自動化系統(tǒng)，同樣依賴人類的能力。

　　人類能力“訓練場”正在消失

　　可是，當大量的自動化系統(tǒng)和計算機代替人類之后，人類實際動手操作的機會越來越少，這種實際操作機會的缺失，對知識和技能的積累來說是十分不利的。

　　貝恩布里奇的文章里就提到，當時的人們已經(jīng)意識到了這一點，并且希望通過理論學習和培訓的方式來解決這個問題，但她認為理論學習和培訓的作用有限，很多領域的知識需要在使用中才能真正被理解和掌握。

　　一方面，從長期記憶中高效提取知識取決于使用知識的頻率。另一方面，這類知識只能通過使用以及使用后的有效反饋，才能得到發(fā)展。如果人們僅僅在課堂上接受理論教學，而沒有適當?shù)膶嵺`練習，他們可能很難理解這些知識......

　　這一點在 AI 時代也是相似的。

　　我們還是以前面提到的 AI 編程領域為例，對于剛剛入行的“初級開發(fā)者”來說，他們似乎是趕上了“好時代”，相比于十年前，現(xiàn)在的 AI 編程工具功能強大，甚至可以直接通過自然語言對話生成還不錯的代碼。

　　看起來，現(xiàn)在的新人開發(fā)者們可以直接跳過“寫出爛代碼→出 BUG→調(diào)試→理解底層邏輯→修正→更好的代碼”這個痛苦的過程。

　　但這個過程，恰恰對開發(fā)者的技能以及理解力的提升很有幫助。正是這樣的成長過程，讓一字一句敲代碼成長起來的資深開發(fā)者能更好地駕馭 AI 工具。

　　可是在當下，留給初級開發(fā)者練習的機會正在減少。

　　正如我們前面提到的，老板們希望用少數(shù)經(jīng)驗豐富的人類+AI 工具，替代原本的人類大團隊，這樣的設想確實有可能實現(xiàn)，或者說，已經(jīng)在實現(xiàn)中了。

　　比如 2025 年 8 月，斯坦福大學研究者發(fā)表的一篇文章就提到，22 到 25 歲“入門級”職位受到 AI 的沖擊影響更大。而在軟件開發(fā)領域影響尤其明顯，22 到 25 歲的初級開發(fā)者工作機會比之前減少了約 20%。

　　于是，初級開發(fā)者面臨著需要實踐操作來成長，卻又沒有實踐機會的尷尬局面。

　　所以，假如某個行業(yè)過度依賴 AI，完全用它們來生產(chǎn)內(nèi)容，可能會對這個行業(yè)的初級從業(yè)者產(chǎn)生影響，讓越來越多的行業(yè)新人失去“訓練場”，不利于這些從業(yè)者未來的能力、經(jīng)驗積累，進而影響到整個行業(yè)的未來人才儲備。

　　AI 真的能讓創(chuàng)造力更好地釋放？

　　當然，我們并不是說自動化和 AI 化是不好的，自動化和 AI 化確實可以讓人們從機械重復的體力活動以及簡單瑣碎的智力活動上釋放出來。

　　比如，雖然 AI 編寫出來的程序需要人為調(diào)試，但 AI 確實能夠幫助資深程序員省去寫具體代碼以及在大量的代碼文庫中檢索特定片段的時間。

　　靠著自動化系統(tǒng)和 AI 工具，一些精英個體或者小團體確實能把自己的能力發(fā)揮到極致，創(chuàng)造出更大的價值。

　　而且我們也不懷疑，自動化、AI 化的轉型將會為社會帶來新的崗位，在未來解放出來的生產(chǎn)力可以投入到新的更有創(chuàng)造性的事情中去。

　　但在轉型發(fā)生的當下，并不一定會有真正的創(chuàng)造力釋放。

　　還是借鑒貝恩布里奇的觀點，她認為在自動化的影響下，人的工作可能不再是一個完整的閉環(huán)，而是去彌補自動化系統(tǒng)無法完成的一小部分任務，這些任務非常復雜但又很碎片化，并不能真的讓一個人的能力提升。

　　這意味著留給操作員的任務可能是隨意拼湊的，并且很少考慮到為他們提供一些幫助。

　　而且貝恩布里奇還發(fā)現(xiàn)，在自動化過程中，很多人從具體的操作者變成了監(jiān)督者，而人類本身算不上是優(yōu)秀的監(jiān)督者。

　　對于一個相對穩(wěn)定、很少發(fā)生故障的系統(tǒng)，人類很難對這樣的系統(tǒng)保持 30 分鐘以上的高度專注狀態(tài)。

　　所以人類在長時間監(jiān)督之后，容易懈怠，在這樣的狀態(tài)下，如果真的出現(xiàn)了緊急狀況，人類很難及時做出反應。

　　另外，處于監(jiān)督者狀態(tài)的人類操作員因為沒有實際上手操作，會缺少對整個系統(tǒng)狀態(tài)的詳細認知，不一定能在緊急情況下做出合理的決策。

　　這有點類似一輛 L3 級別的自動駕駛汽車。在大部分情況下，它能夠自主運行，理論上駕駛員也要時刻保持警惕，但在長時間的平穩(wěn)駕駛情況下，人類的警惕性會不自覺地降低。這時候如果自動駕駛汽車遭遇了無法處理的場面，會讓人類緊急接管。這時候的人類駕駛員很可能“不在狀態(tài)”，這時候要在短時間里處理自動駕駛汽車都無法應對的復雜局面，很可能會出錯。

　　所以，當公司開始向 AI 化轉型的過程中，如果僅僅是讓人類成為 AI 的監(jiān)督者，人類也很難發(fā)揮出更好的創(chuàng)造力。

　　不反對技術，不漠視人類

　　最后，我們也要再次說明，技術本身并無善惡。自動化與 AI 化的浪潮也不可阻擋，它們確實為我們帶來了前所未有的效率提升。

　　我們應該警惕的是，在“AI 化”轉型過程中對人本身的工具化和漠視。真正的“降本增效”，不應該是簡單地用 AI 剔除初級員工，而是利用 AI 帶來的效率紅利，給人類留出更多的試錯和成長的空間。

　　一個健康社會在轉型的過程中，理應承擔起對受影響者的職業(yè)過渡支持、對新人成長路徑的重新設計，以及對“人機協(xié)作”中人類角色的重新定義。

　　畢竟，無論是多么強大的智能系統(tǒng)，當警報燈亮起的那一刻，我們能信任的只有經(jīng)驗豐富且具有社會責任感的人類。

　　作者丨科學邊角料 科普創(chuàng)作者

　　審核丨于旸 騰訊玄武實驗室負責人

　　策劃丨徐來

　　(科普中國微信公眾號)