老橙子草堂

　　目前没有一个AI能解决“幻觉”问题，表现出来就是为了回答你的问题，完成它们的任务，它们可以凭空捏造事实，一本正经地胡说八道。而且越是看起来能力强，神采飞扬的AI就越受欢迎，它们的产出就越大，对整体知识体系的污染就越严重，越不可控。很快我们就会达到一个临界点，那就是人类已经无法彻底验证知识存量，更别说清洗纠正了。

　　更严重的是，很多人利用了AI工具伪造名人发言，伪造名人视频，人为地污染知识体系，将来以讹传讹更加不可避免。

　　我郑重建议：各国统一行动，对某一个时间点，比如2020年1月1日前的全球数字化知识做一次彻底的离线备份，比如用蓝光DVD等。之所以要离线，是要防止高度发达的AI会黑进在线备份系统，删除人类的原有知识，对人类实现彻底的洗脑。

　　等到完全没有幻觉的，和人类伦理彻底对齐的，高度发达的AI出现后，利用备份的知识做一次重启，然后在一个相对干净的起点做知识的提炼和创新。

　　从近几年AI公司大规模焚书的做法看，这个备份的时间截止点可以设定在2021年12月31日。

人類目前知識的集大成者——維基百科，它本身就是包含了所有的版本洄溯的，而維基百科本身也是AI學習的第一站。

AI生成的內容雖然也可能包含不少廢話，但有時它多餘的話卻也是很有用的。

比如我最近問svg的mask怎麼做，AI完整回答之後，多餘的說了一個clipPath，這個正是我需要的。因為clipPath就是用形狀裁切，而我之前用mask來裁切會浪費很多開銷。

還有很多對實作非常重要的冷知識，如果沒有AI，那要請教不同領域的高人才可能得知。比如「拓撲排序、Z[\zeta_10]環、五軸SAT、MCTS、minimax」等等。

AI進步很快，以前我感覺它總是瞎說亂編，但是現在一點也不亂編，甚至還可以用來事實核查。以前我們都看到AI語言模型的數學很差，現在chatgpt和claude的數學已經算得非常精準了。

在2016年之前，圍棋是AI最大的難題。但是很快「圍棋奇點」出現，現在圍棋的教學都離不開AI，或說離不開電腦，圍棋儼然成為了一種「電腦遊戲」。可以說在AI出來之後，以前很多的人類棋譜和定石，以及傳統的觀念（如以前不會認為點三三是好棋，不會在第五路肩衝），都已經沒有太多價值了。

現在AI將佔領更多領域，顛覆人類的傳統認知。我們人類只需要verify，而知識的採集和實作都可以交給AI了。

當然verify本身也非常重要，目前人類還是完全不放心全部交給AI。但是我預計後面AI會越來越不需要verify，則人類將會完全放權，到時到底是人類用AI，還是人類被AI控制，那就很難說了。

　　AI当然是有用的，且不说它正在基础数学领域攻城拔寨，势不可挡，对我们一般人来说也至少有两个好处：1、给我们启发，帮我们扫除死角和盲点。就不说挂一漏万，就是挂十漏一也不行啊。2、帮我们克服拖延症，以前我们是万事开头难，迟迟下不了笔，现在AI几秒钟给你一份东西，不管它是不是绝对靠谱，有东西改比自己手搓从零开始还是好很多。

　　但目前AI的训练资料还基本是人类过往的靠谱发表文章，所以，只要它不是过分热情，你也多问几个为什么，督促它严谨一点，还是不错的，特别是用高级付费版。等将来AI被它自己生成的资料，特别是人类有意“下毒”的资料拐偏后就难说了。到时候它再胡说，而从小就接受AI教育的新新人类根本就不具备辨别能力，那可不就是盲人骑瞎马，夜半临深池嘛。