#對齊

AI 遞迴自我改進：技術現況、真正的難關，以及「盧比孔河」究竟在哪裡

AI 遞迴自我改進並非科幻想像，相關技術（Constitutional AI、RLHF、自動化評估器）已在生產環境中運作，但真正的「AI 自行改寫自身基礎架構」仍受到評估瓶頸與對齊挑戰的雙重限制。