<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><title>机器学习 on s-ai-unix's Blog</title><link>https://s-ai-unix.github.io/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/</link><description>Recent content in 机器学习 on s-ai-unix's Blog</description><generator>Hugo -- 0.161.1</generator><language>zh-cn</language><lastBuildDate>Fri, 01 May 2026 19:00:00 +0800</lastBuildDate><atom:link href="https://s-ai-unix.github.io/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/index.xml" rel="self" type="application/rss+xml"/><item><title>跨越计算的边界：为什么在AI时代，我们依然要仰望图灵？</title><link>https://s-ai-unix.github.io/posts/2026-05-01-alan-turing-greatness-ai/</link><pubDate>Fri, 01 May 2026 19:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-05-01-alan-turing-greatness-ai/</guid><description>&lt;p&gt;ChatGPT刚出来的时候，全世界的目光都被一个词吸住了，图灵测试。&lt;/p&gt;
&lt;p&gt;人们兴奋地讨论，AI是不是终于「通过」了图灵测试？这个70多年前由一个英国数学家提出的思想实验，是不是终于被实现了？&lt;/p&gt;
&lt;p&gt;但很少有人追问一个更本质的问题，仅仅凭一个关于「机器能否模仿人类」的思想实验，再加上一台抽象到让人头疼的「假想打字机」（图灵机），这两个概念就足以撑起「计算机科学之父」的头衔吗？&lt;/p&gt;
&lt;p&gt;远远不够。&lt;/p&gt;
&lt;p&gt;图灵测试只是他思想冰山中最容易被大众看到的那一角。在这篇文章里，我想带你拨开迷雾，看看这个人在短短41年的生命里，到底为今天的人工智能大厦打下了怎样的地基。&lt;/p&gt;
&lt;p&gt;你会发现，他之所以伟大，不只是因为他预言了机器会思考，而是因为他在没有任何人想到「计算机」这三个字的年代，就已经亲手写下了整座大厦的蓝图。从地基到方法论，从「能不能」到「怎么做」，全是他一个人完成的。&lt;/p&gt;
&lt;h2 id="第一章24岁的年轻人定义了计算本身"&gt;第一章：24岁的年轻人定义了「计算」本身&lt;/h2&gt;
&lt;p&gt;1935年，剑桥大学。一个23岁的年轻人听完一场讲座之后，被一个问题击中了。&lt;/p&gt;
&lt;p&gt;这个问题来自大数学家大卫·希尔伯特（David Hilbert），叫做「判定问题」（Entscheidungsproblem）。简单说就是，能不能找到一种纯粹的机械步骤，自动判断任何数学命题的真假？不用灵感，不用直觉，就像一台机器一样，输入命题，输出「对」或「错」。&lt;/p&gt;
&lt;p&gt;这个问题看起来是纯数学的，跟普通人毫无关系。但图灵为了回答它，做了一件所有人都没预料到的事。&lt;/p&gt;
&lt;p&gt;他没有去推导公式，而是闭上眼睛，想象了一台机器。&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;&lt;strong&gt;图灵机（Turing Machine）&lt;/strong&gt;：一台只懂最基本操作的机器，在一条无限长的纸带上读写0和1，根据极简的规则一步步移动。你可以把它想象成一个只懂加减法、但拥有无限时间、无限耐心和无限长草稿纸的记账员。&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;然后，图灵证明了，这台简陋到荒谬的机器，可以计算任何「可计算」的东西。&lt;/p&gt;
&lt;p&gt;但真正的天才是下一步。他说，既然这台机器能执行任何计算规则，那我是不是可以设计一台「万能」的图灵机，它不需要为每个任务重新造一台新机器，而是把别的机器的规则「写进」纸带里，就能模拟任何一台图灵机？&lt;/p&gt;
&lt;p&gt;这就是「通用图灵机」（Universal Turing Machine）。&lt;/p&gt;
&lt;p&gt;今天你用的手机、笔记本、云服务器，底层原理全部通用图灵机。你不需要为微信造一台手机、为抖音再造一台、为导航又造一台。同一台设备，换个软件（纸带上的规则）就能干完全不同的事。&lt;/p&gt;
&lt;p&gt;这个「软件和硬件分离」的概念，在1936年是颠覆性的。在图灵之前，人们认为计算机器都是为特定任务定制的硬件齿轮。图灵第一次从数学上证明，计算可以脱离具体的物理形态，变成纯粹的信息处理过程。&lt;/p&gt;
&lt;p&gt;而图灵写下这篇论文的时候，他24岁。&lt;/p&gt;
&lt;p&gt;&lt;img alt="图灵机与无限纸带" loading="lazy" src="https://s-ai-unix.github.io/images/illustrations/turing_machine_ch1.png"&gt;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;图1&lt;/strong&gt;：图灵把「计算」还原成纸带、读写头和规则，一台足够简单的机器，却能刻画所有可计算过程。&lt;/p&gt;
&lt;p&gt;今天动辄千亿参数的大语言模型，无论它在和你对话时表现得多么像有灵魂的人类，底层依然在那个24岁年轻人画出的框架里运行。图灵没有发明某一种计算机，他定义了「计算」本身。&lt;/p&gt;
&lt;h2 id="第二章预言机以及机器做不到的事"&gt;第二章：预言机，以及机器做不到的事&lt;/h2&gt;
&lt;p&gt;定义了「计算」之后，图灵做了一件更有意思的事。他问，那计算做不到的呢？&lt;/p&gt;
&lt;p&gt;在1936年的论文里，他已经证明了一件事，存在某些问题，图灵机永远无法回答。最著名的就是「停机问题」，给你一段程序，你能不能判断它最终会停下来还是永远跑下去？图灵用数学证明了，这件事不可能通过任何机械步骤来完成。&lt;/p&gt;
&lt;p&gt;到了普林斯顿读博期间（1936-1938），图灵把这个思路推得更远。他在博士论文里提出了一个概念，「预言机」（Oracle Machine）。&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;&lt;strong&gt;预言机（Oracle Machine）&lt;/strong&gt;：给图灵机外挂一个「黑箱」，遇到解不出的问题时，可以直接问这个黑箱要答案，而不需要知道过程。想象你在考场上做一张极难的卷子，遇到死活解不出的题，突然有一个全知全能的老师在你耳边说出答案。&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;&lt;img alt="图灵预言机" loading="lazy" src="https://s-ai-unix.github.io/images/illustrations/turing_oracle_ch2.png"&gt;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;图2&lt;/strong&gt;：预言机像一个不能被拆开的黑箱，它不解释过程，只在机械推理走到边界时给出答案。&lt;/p&gt;
&lt;p&gt;图灵用预言机做了什么？他在论文里区分了人类思维中的两种能力，「技巧」（Ingenuity）和「直觉」（Intuition）。&lt;/p&gt;
&lt;p&gt;技巧是那些可以被明确规则化、可以一步步按程序执行的部分。这部分，机器完全可以胜任，甚至比人做得更好。&lt;/p&gt;
&lt;p&gt;直觉是那种突然的跳跃，你不知道为什么想到了这个方向，但它就是出现了。那种「灵光一闪」的瞬间，形式化的逻辑规则无法涵盖它。在图灵的理论框架里，每当机械的技巧走到尽头，就需要一次直觉的跳跃来打开新的局面，然后再继续用技巧去铺路。&lt;/p&gt;
&lt;p&gt;这不是说图灵断言了机器永远不可能拥有直觉。他比谁都相信机器的潜力。但他用严谨的数学，标记出了当前的计算框架中存在边界。这个边界不是技术上的限制，而是逻辑结构上的。&lt;/p&gt;
&lt;p&gt;今天回头看，这个洞察准得吓人。当下的深度学习极其擅长在已有的模式空间里生成、推理、优化（技巧），但当需要从零到一提出全新的科学范式时，仍然举步维艰。图灵在80多年前就用数学语言，把这个边界画出来了。&lt;/p&gt;
&lt;h2 id="第三章一个1950年的预言精确命中了今天"&gt;第三章：一个1950年的预言，精确命中了今天&lt;/h2&gt;
&lt;p&gt;让我们回到1950年。&lt;/p&gt;
&lt;p&gt;那一年，全世界最强大的计算机占了整整一个大房间，耗电量够供一条街，运算能力还不如今天一个10块钱的计算器。没有任何AI，没有任何互联网，连「程序员」这个职业都还不存在。&lt;/p&gt;
&lt;p&gt;就在这一年，图灵写下了《计算机器与智能》这篇论文。&lt;/p&gt;
&lt;p&gt;大多数人只知道这篇文章提出了图灵测试。但真正让人拍案叫绝的，是他在论文末尾提出的「儿童机器」（Child-Machine）构想。&lt;/p&gt;
&lt;p&gt;图灵说，试图直接编写一个具备成人智能的程序，是极其困难甚至徒劳的。正确的方法是什么？开发一个像儿童大脑一样的初始程序，给它基础的逻辑和极强的学习能力，然后让它在环境中通过教育来成长。&lt;/p&gt;
&lt;p&gt;那最有效的教育方式是什么？&lt;/p&gt;
&lt;p&gt;奖励与惩罚。&lt;/p&gt;
&lt;p&gt;&lt;img alt="图灵儿童机器与强化学习" loading="lazy" src="https://s-ai-unix.github.io/images/illustrations/turing_child_ch4.png"&gt;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;图3&lt;/strong&gt;：图灵认为我们不该制造一个成年的机器，而是通过奖励与惩罚像教育孩童一样训练它，这正是现代强化学习的精髓。&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;&lt;strong&gt;强化学习（Reinforcement Learning）&lt;/strong&gt;：让智能体在环境中不断试错，做对了给奖励，做错了给惩罚。就像训练小狗握手，做对了就给一块肉干。&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;仔细想想这件事。在1950年，在计算机还是一个房间大小的铁柜子的年代，图灵不仅预言了人工智能终将到来，他甚至连「怎么培养AI」的正确路线图都画好了。&lt;/p&gt;
&lt;p&gt;2016年，AlphaGo横扫围棋界，底层正是强化学习。
2023年，ChatGPT之所以能学会顺从人类的偏好、不说胡话，用的是RLHF（基于人类反馈的强化学习）。&lt;/p&gt;
&lt;p&gt;70多年过去了。图灵当年画的那张路线图，不仅没过时，我们恰恰是在上面狂奔。&lt;/p&gt;
&lt;p&gt;他不是只预言了「AI会出现」，他是把「地基」和「方法论」一并写好了。&lt;/p&gt;
&lt;h2 id="尾声数字时代的普罗米修斯"&gt;尾声：数字时代的普罗米修斯&lt;/h2&gt;
&lt;p&gt;1952年，图灵因为同性恋行为被英国政府定罪。他被迫在坐牢和化学阉割之间做出选择。&lt;/p&gt;
&lt;p&gt;他选择了后者。&lt;/p&gt;
&lt;p&gt;两年后，1954年6月7日，图灵被发现死在自己的卧室里，床头有一个咬过一口的苹果。他41岁。&lt;/p&gt;
&lt;p&gt;这个人，二战期间在布莱切利园破解了德国海军的Enigma密码，历史学家估计他的工作将战争缩短了至少两年，拯救了上千万人的生命。他定义了「计算」本身，预见了机器智能的可能性，设计了训练智能的方法论。&lt;/p&gt;
&lt;p&gt;&lt;img alt="图灵与密码破译" loading="lazy" src="https://s-ai-unix.github.io/images/illustrations/turing_crypto_ch3.png"&gt;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;图4&lt;/strong&gt;：在布莱切利园，图灵把抽象的计算思想变成了破解密码的现实工具，也改变了二战的进程。&lt;/p&gt;
&lt;p&gt;然后他被自己拯救的社会迫害至死。&lt;/p&gt;
&lt;p&gt;2013年，英国女王伊丽莎白二世签署了对图灵的皇家赦免。距离他去世，已经过去了59年。&lt;/p&gt;
&lt;p&gt;今天，我们每次在屏幕前敲下回车，每次大模型吐出流畅的文字，背后都在回荡着图灵半个多世纪前的思考。他没有活到看见哪怕第一台个人电脑诞生的那一天，但他画下的蓝图，至今没有一条被证明走错了。&lt;/p&gt;
&lt;p&gt;他真的是数字时代的普罗米修斯，为人间盗来了火种，自己却在黑暗中燃尽。&lt;/p&gt;</description></item><item><title>AI 第一性原理（一）：所罗门诺夫归纳与预测的终极数学</title><link>https://s-ai-unix.github.io/posts/2026-05-01-ai-first-principles-1-solomonoff-induction/</link><pubDate>Fri, 01 May 2026 12:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-05-01-ai-first-principles-1-solomonoff-induction/</guid><description>&lt;blockquote&gt;
&lt;p&gt;&amp;ldquo;对我触动最大的是所罗门诺夫的归纳理论，我在前两版中都介绍过所罗门诺夫和他在 20 世纪 60 年代提出的归纳理论以及柯尔莫哥洛夫复杂性。大语言模型刚出来，我就和师友讨论这个理论作为大语言模型第一性原理的可能性。2023 年 8 月 14 日，OpenAI 的伊利亚（Ilya Sutskever）在伯克利的演讲透露了所罗门诺夫归纳和柯尔莫哥洛夫复杂性正是他们坚持做 next token prediction (下一词元预测) 的理论基础。这让我对历史与当下、理论与实践有了新的认识。……我一直认为计算理论是最具第一性原理（在牛顿和罗素的拉丁文 Principia 的意义上，而不是马斯克的口头禅意义上）的理论，甚至比理论物理学更为基本。&amp;rdquo; —— 尼克，《人工智能简史》第 3 版前言&lt;/p&gt;
&lt;/blockquote&gt;
&lt;p&gt;2023年8月14日，伯克利。Ilya Sutskever 在一场演讲中透露了一件事，在场很多 AI 研究者都愣住了。&lt;/p&gt;
&lt;p&gt;他说，OpenAI 坚持做 next token prediction 的理论基础，不是什么新发明，而是1960年代的理论——所罗门诺夫归纳和柯尔莫哥洛夫复杂性。&lt;/p&gt;
&lt;p&gt;我第一次读到这段话的时候，头皮发麻。&lt;/p&gt;
&lt;p&gt;这等于说，今天大模型在做的事情，早在60年前就已经被数学公式精确描述了。那个年代连个人电脑都没有，所罗门诺夫却写下了预测的终极理论。而今天，万亿参数的 GPT 不过是在用暴力计算去逼近那个理论的极限。&lt;/p&gt;
&lt;p&gt;这个系列要讲的就是这件事。作为开篇，我们先走进所罗门诺夫归纳——一个能回答「如何对未知做出最优预测」的数学框架。&lt;/p&gt;
&lt;h2 id="第一章贝叶斯与奥卡姆的联姻"&gt;第一章：贝叶斯与奥卡姆的联姻&lt;/h2&gt;
&lt;p&gt;&lt;img alt="贝叶斯与奥卡姆配图" loading="lazy" src="https://s-ai-unix.github.io/images/illustrations/solomonoff-02.png"&gt;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;图1&lt;/strong&gt;：数学的秤盘上，衡量着概率的更新与简单性的偏好。&lt;/p&gt;
&lt;p&gt;要理解所罗门诺夫做了什么，得先看他的两个基石。&lt;/p&gt;
&lt;p&gt;第一个是贝叶斯法则。核心思想很简单：根据新的证据更新你对世界的信念。&lt;/p&gt;
&lt;p&gt;$$
P(H|D) = \frac{P(D|H) P(H)}{P(D)}
$$&lt;/p&gt;
&lt;p&gt;$P(H)$ 是先验概率，看到数据之前你认为假设 $H$ 有多可信。$P(D|H)$ 是似然度，如果 $H$ 为真，它产生当前数据的概率有多大。贝叶斯法则逻辑严密，但它留下了一个致命的漏洞：初始的先验概率 $P(H)$ 怎么定？&lt;/p&gt;
&lt;p&gt;如果你对所有可能的假设一视同仁，而假设的数量是无限的，那每个假设的先验概率都趋近于零——等于什么都没说。&lt;/p&gt;
&lt;p&gt;第二个基石是奥卡姆剃刀。14世纪的哲学原则，如无必要，勿增实体。解释同一件事，越简单的理论越可能是对的。&lt;/p&gt;
&lt;p&gt;如果奥卡姆剃刀能和贝叶斯法则缝合起来——简单的假设获得更高的先验概率——问题就解决了。但「简单」怎么定义？用中文说「简单」，换成英文可能就变复杂了。我们需要一个不受语言影响的、绝对客观的度量。&lt;/p&gt;
&lt;h2 id="第二章从图灵机到通用先验"&gt;第二章：从图灵机到通用先验&lt;/h2&gt;
&lt;p&gt;&lt;img alt="通用图灵机配图" loading="lazy" src="https://s-ai-unix.github.io/images/illustrations/solomonoff-03.png"&gt;&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;图2&lt;/strong&gt;：图灵机的纸带在无限延伸，所有的规律都可以被编码为计算。&lt;/p&gt;
&lt;p&gt;所罗门诺夫的回答极其优雅：用图灵机。&lt;/p&gt;
&lt;p&gt;任何可计算的规律，都能写成一段在通用图灵机上运行的程序。规律越简单，程序越短。规律越复杂（或者数据纯粹是随机的），程序就越长——最极端的情况下，你只能把数据原封不动地硬编码进去。&lt;/p&gt;
&lt;p&gt;基于这个洞察，所罗门诺夫提出了&lt;strong&gt;通用先验（Universal Prior）&lt;/strong&gt;：&lt;/p&gt;
&lt;p&gt;对于任何一个假设（程序 $p$），它的先验概率与代码长度成指数反比。&lt;/p&gt;</description></item><item><title>Human-to-Human，AI-to-AI，贾扬清的内部沟通规则或许太简单理想化了</title><link>https://s-ai-unix.github.io/posts/2026-04-26-ai-prompt-is-not-the-whole-story/</link><pubDate>Sun, 26 Apr 2026 10:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-04-26-ai-prompt-is-not-the-whole-story/</guid><description>贾扬清发了一个帖子，说他在公司内部设了一条沟通规则：禁止AI生成内容用于协作，发prompt而不是发输出。这个想法我理解，但我不同意。因为2026年的人机协作，早已不是&amp;#39;一个prompt就出结果&amp;#39;那么简单了。</description></item><item><title>AI 时代，最先被改写的是关系</title><link>https://s-ai-unix.github.io/posts/2026-04-20-ai%E6%97%B6%E4%BB%A3%E7%9A%84%E6%80%9D%E6%83%B3%E5%AE%9E%E9%AA%8C%E4%B8%8E%E4%BA%BA%E7%9A%84%E6%BC%94%E5%8C%96/</link><pubDate>Mon, 20 Apr 2026 00:00:00 +0000</pubDate><guid>https://s-ai-unix.github.io/posts/2026-04-20-ai%E6%97%B6%E4%BB%A3%E7%9A%84%E6%80%9D%E6%83%B3%E5%AE%9E%E9%AA%8C%E4%B8%8E%E4%BA%BA%E7%9A%84%E6%BC%94%E5%8C%96/</guid><description>为什么我们越来越倾向于和 AI 聊天？这场不可逆的演化，最终将把人类推向何方？</description></item><item><title>当康德遇上 ChatGPT：一场关于心智、机器与现实的思想实验</title><link>https://s-ai-unix.github.io/posts/2026-04-14-kant-ai-consciousness/</link><pubDate>Tue, 14 Apr 2026 00:00:00 +0000</pubDate><guid>https://s-ai-unix.github.io/posts/2026-04-14-kant-ai-consciousness/</guid><description>从康德的先验哲学出发，探索 AI 的智能边界、意识之谜与缸中之脑悖论。你以为你在思考，但谁在负责&amp;#39;思考&amp;#39;这件事？</description></item><item><title>微信接入 OpenClaw，腾讯在抢下一代入口</title><link>https://s-ai-unix.github.io/posts/2026-03-22-wechat-openclaw-agent-entry/</link><pubDate>Sun, 22 Mar 2026 20:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-03-22-wechat-openclaw-agent-entry/</guid><description>腾讯现在接入 OpenClaw，重点在微信能不能继续守住用户发起第一句话的入口，以及微信能否从消息入口升级成任务入口。</description></item><item><title>什么是 AI 味，怎么去 AI 味</title><link>https://s-ai-unix.github.io/posts/2026-03-22-ai-writing-tropes/</link><pubDate>Sun, 22 Mar 2026 08:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-03-22-ai-writing-tropes/</guid><description>AI 写作痕迹的识别与去除完全指南。深入浅出讲解 AI 味的本质、六大类别模式，以及去除 AI 味的核心原则与实战方法。</description></item><item><title>Andrej Karpathy 的 minGPT：300行代码读懂GPT原理</title><link>https://s-ai-unix.github.io/posts/2026-02-16-mingpt-300-lines-gpt/</link><pubDate>Mon, 16 Feb 2026 10:32:13 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-02-16-mingpt-300-lines-gpt/</guid><description>用300行Python代码，深入浅出解读GPT核心原理，从自注意力机制到生成过程</description></item><item><title>贝叶斯网络：从概率推理到智能决策</title><link>https://s-ai-unix.github.io/posts/2026-02-04-bayesian-networks-probabilistic-reasoning/</link><pubDate>Wed, 04 Feb 2026 20:46:02 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-02-04-bayesian-networks-probabilistic-reasoning/</guid><description>深入浅出地介绍贝叶斯网络的发展历史、核心原理、推导过程与广泛应用，让优秀的高中生也能理解这一强大的人工智能工具。</description></item><item><title>条件期望：从统计基础到深度学习应用</title><link>https://s-ai-unix.github.io/posts/2026-02-03-conditional-expectation-from-statistical/</link><pubDate>Tue, 03 Feb 2026 20:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-02-03-conditional-expectation-from-statistical/</guid><description>系统综述条件期望的数学基础、统计推导过程及其在机器学习和深度学习中的深刻应用</description></item><item><title>数理统计重要定理系列：KL散度的信息论本质与统计应用</title><link>https://s-ai-unix.github.io/posts/2026-02-03-kl-divergence-information-theory/</link><pubDate>Tue, 03 Feb 2026 08:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-02-03-kl-divergence-information-theory/</guid><description>系统综述KL散度（Kullback-Leibler散度）的历史背景、数学推导、核心性质及其在信息论、统计推断和机器学习中的深刻应用</description></item><item><title>数理统计重要定理系列：Fisher信息矩阵的几何、统计与应用</title><link>https://s-ai-unix.github.io/posts/2026-02-03-fisher-information-matrix/</link><pubDate>Tue, 03 Feb 2026 08:23:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-02-03-fisher-information-matrix/</guid><description>系统综述Fisher信息矩阵的历史背景、数学推导、几何解释及其在统计推断、机器学习中的深刻应用</description></item><item><title>数理统计重要定理系列：Cramér-Rao下界的深刻意义与应用</title><link>https://s-ai-unix.github.io/posts/2026-02-03-cramer-rao-lower-bound/</link><pubDate>Tue, 03 Feb 2026 08:16:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-02-03-cramer-rao-lower-bound/</guid><description>系统综述Cramér-Rao下界定理的历史背景、严格推导过程及其在参数估计中的深刻应用，深入浅出地理解估计量方差的理论极限</description></item><item><title>AI 论文解读系列：Inception-v4 - Going Deeper with Convolutions</title><link>https://s-ai-unix.github.io/posts/2026-01-30-ai-paper-interpretation-series-inception-v4-going-deeper-with-convolutions/</link><pubDate>Fri, 30 Jan 2026 12:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-30-ai-paper-interpretation-series-inception-v4-going-deeper-with-convolutions/</guid><description>深入解读 Google 的 Inception-v4 论文，从 Inception 系列的演进历程出发，剖析 Inception-v4 的架构设计思想、多尺度特征提取原理，以及 Inception-ResNet 如何将残差连接与 Inception 模块融合，创造当时最强图像分类网络。</description></item><item><title>AI 论文解读系列：Word2Vec - 词向量的革命</title><link>https://s-ai-unix.github.io/posts/2026-01-30-word2vec-paper-explained/</link><pubDate>Fri, 30 Jan 2026 09:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-30-word2vec-paper-explained/</guid><description>深入浅出解读 Mikolov 等人的 Word2Vec 论文，从词袋模型到神经语言模型，完整推导 CBOW 和 Skip-gram 的数学原理与应用。</description></item><item><title>AI 论文解读系列：GPT-3——当语言模型学会举一反三</title><link>https://s-ai-unix.github.io/posts/2026-01-30-gpt3-few-shot-learners-paper/</link><pubDate>Fri, 30 Jan 2026 08:50:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-30-gpt3-few-shot-learners-paper/</guid><description>深入解读 OpenAI 里程碑式论文 GPT-3: Language Models are Few-Shot Learners，从 Transformer 架构到少样本学习的范式转变，探讨大规模语言模型的涌现能力与未来前景。</description></item><item><title>AI 论文解读系列：Vision Transformer 视觉Transformer</title><link>https://s-ai-unix.github.io/posts/2026-01-30-ai-paper-interpretation-series-vision-transformer-visual-transformer/</link><pubDate>Fri, 30 Jan 2026 08:46:42 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-30-ai-paper-interpretation-series-vision-transformer-visual-transformer/</guid><description>深入解读 Google Research 的 Vision Transformer 论文，从注意力机制的原理出发，剖析图像块嵌入、位置编码、Transformer Encoder 的完整架构，揭示 Transformer 如何在计算机视觉领域挑战 CNN 的统治地位。</description></item><item><title>AI 论文解读系列：ResNet 深度残差学习</title><link>https://s-ai-unix.github.io/posts/2026-01-30-ai-paper-interpretation-series-resnet-deep-residual-learning/</link><pubDate>Fri, 30 Jan 2026 08:38:11 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-30-ai-paper-interpretation-series-resnet-deep-residual-learning/</guid><description>深入解读何恺明等人的 ResNet 论文，从深度网络的退化问题出发，剖析残差学习的核心思想、数学原理和架构设计，揭示为何简单的跳跃连接能够训练出超深层神经网络。</description></item><item><title>决策树及其衍生算法：从ID3到现代梯度提升</title><link>https://s-ai-unix.github.io/posts/2026-01-29-decision-trees-and-beyond-from-id3-to-modern-gradient-boosting/</link><pubDate>Thu, 29 Jan 2026 08:11:01 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-29-decision-trees-and-beyond-from-id3-to-modern-gradient-boosting/</guid><description>系统综述决策树算法及其衍生方法：从经典ID3、C4.5、CART到现代随机森林、XGBoost、LightGBM，深入浅出揭示树模型的数学原理与应用实践</description></item><item><title>微分几何与深度学习：从流形假设到几何深度学习</title><link>https://s-ai-unix.github.io/posts/2026-01-28-differential-geometry-deep-learning/</link><pubDate>Wed, 28 Jan 2026 23:54:26 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-28-differential-geometry-deep-learning/</guid><description>系统综述微分几何在深度学习中的核心应用：从数据流形假设到几何深度学习，深入浅出揭示数学与人工智能的深层联系</description></item><item><title>弯曲的道路，智能的决策：微分几何如何赋能自动驾驶</title><link>https://s-ai-unix.github.io/posts/2026-01-28-differential-geometry-autonomous-driving/</link><pubDate>Wed, 28 Jan 2026 23:42:32 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-28-differential-geometry-autonomous-driving/</guid><description>深入探讨微分几何在自动驾驶技术中的核心应用，从路径规划到感知融合，揭示数学如何赋能智能汽车的每一个决策。</description></item><item><title>雅可比矩阵与黑塞矩阵：多变量微积分的双璧</title><link>https://s-ai-unix.github.io/posts/2026-01-28-jacobian-hessian-matrices/</link><pubDate>Wed, 28 Jan 2026 21:54:27 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-28-jacobian-hessian-matrices/</guid><description>深入探讨雅可比矩阵与黑塞矩阵的数学原理、几何直观和广泛应用，从多元微积分的基础出发，揭示这两个矩阵在多变量分析中的核心地位。</description></item><item><title>微积分与机器学习：从变化率到神经网络梯度的完整旅程</title><link>https://s-ai-unix.github.io/posts/2026-01-25-calculus-ml-systematic-review/</link><pubDate>Sun, 25 Jan 2026 19:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-25-calculus-ml-systematic-review/</guid><description>深入理解微积分如何驱动现代人工智能：从导数的几何直观到梯度下降的数学原理，从链式法则到反向传播算法，揭示神经网络训练的数学本质。</description></item><item><title>谱定理：线性代数的优雅与机器学习的基石</title><link>https://s-ai-unix.github.io/posts/2026-01-25-spectral-theorem/</link><pubDate>Sun, 25 Jan 2026 18:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-25-spectral-theorem/</guid><description>从对称矩阵到深度学习：系统性介绍谱定理的核心理论及其在机器学习中的应用，包括正交对角化、SVD、PCA、谱聚类和图神经网络</description></item><item><title>信息几何：在概率空间中寻找最短路径</title><link>https://s-ai-unix.github.io/posts/2026-01-25-information-geometry/</link><pubDate>Sun, 25 Jan 2026 15:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-25-information-geometry/</guid><description>从 Fisher 信息度量到自然梯度，从黎曼流形到 Wasserstein 距离：全面介绍信息几何这一连接统计学、微分几何与深度学习的交叉领域</description></item><item><title>概率论与数理统计：机器学习的概率基石</title><link>https://s-ai-unix.github.io/posts/2026-01-25-probability-statistics-ml-guide/</link><pubDate>Sun, 25 Jan 2026 12:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-25-probability-statistics-ml-guide/</guid><description>从赌场轮盘到神经网络：系统性地介绍概率论和数理统计在机器学习中的核心应用，包含完整的数学推导和直观的几何可视化</description></item><item><title>线性代数：从理论到 AI 应用的完整旅程</title><link>https://s-ai-unix.github.io/posts/2026-01-25-linear-algebra-complete-guide/</link><pubDate>Sun, 25 Jan 2026 08:45:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-25-linear-algebra-complete-guide/</guid><description>这是一篇关于线性代数的系统综述，从向量空间的几何直观到深度学习的矩阵运算，全面阐述线性代数在现代人工智能中的核心作用。</description></item><item><title>变分自编码器：从概率建模到深度生成的优雅桥梁</title><link>https://s-ai-unix.github.io/posts/2026-01-24-variational-autoencoder/</link><pubDate>Sat, 24 Jan 2026 18:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-24-variational-autoencoder/</guid><description>深入解析变分自编码器（VAE）的数学原理与推导，从变分推断到 ELBO 优化，从重参数化到生成应用，完整呈现 VAE 的理论框架与实践价值</description></item><item><title>贝叶斯分类器：从条件概率到智能决策的优雅之旅</title><link>https://s-ai-unix.github.io/posts/2026-01-24-bayesian-classifier/</link><pubDate>Sat, 24 Jan 2026 17:58:30 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-24-bayesian-classifier/</guid><description>深入解析贝叶斯分类器的数学本质与应用价值，从贝叶斯定理到朴素贝叶斯，从理论推导到垃圾邮件过滤的实践应用</description></item><item><title>PCA 主成分分析：从数据降维的优雅艺术</title><link>https://s-ai-unix.github.io/posts/2026-01-24-pca-comprehensive-guide/</link><pubDate>Sat, 24 Jan 2026 12:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-24-pca-comprehensive-guide/</guid><description>深入探讨机器学习中的核心降维算法 PCA，从直观理解到数学推导，从两种等价的视角（最大化方差、最小化重构误差）揭示其本质，包含完整的证明和实际应用。</description></item><item><title>贝叶斯公式：从牧师遗作到人工智能基石</title><link>https://s-ai-unix.github.io/posts/2026-01-21-bayes-theorem/</link><pubDate>Wed, 21 Jan 2026 10:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-21-bayes-theorem/</guid><description>本文系统梳理贝叶斯公式从18世纪诞生到21世纪成为人工智能核心方法的完整发展历程，包含严谨的数学推导、丰富的历史背景和现代应用案例。</description></item><item><title>感知机的完整发展历程：从线性分类到深度学习的基石</title><link>https://s-ai-unix.github.io/posts/2026-01-21-perceptron-development-history/</link><pubDate>Wed, 21 Jan 2026 08:00:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-21-perceptron-development-history/</guid><description>系统综述感知机的发展历程，从早期的线性分类器到现代深度学习的基础，注重背景和演变过程的介绍，通俗易懂。</description></item><item><title>ISO/PAS 8800:2024 道路车辆人工智能安全工程——从确定性到概率性的范式转移</title><link>https://s-ai-unix.github.io/posts/2026-01-20-iso-8800-comprehensive-guide/</link><pubDate>Tue, 20 Jan 2026 21:10:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-20-iso-8800-comprehensive-guide/</guid><description>深入解析首个汽车 AI 安全国际标准，系统掌握数据定义安全的新方法论</description></item><item><title>神经网络算法演进：从感知机到 Transformer 的七十年征程</title><link>https://s-ai-unix.github.io/posts/2026-01-15-neural-network-evolution/</link><pubDate>Thu, 15 Jan 2026 23:55:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-15-neural-network-evolution/</guid><description>回顾神经网络七十年发展历程，从感知机到 Transformer，详解核心算法的数学原理</description></item><item><title>深度学习前夜：十大传统机器学习算法的历史与数学之美</title><link>https://s-ai-unix.github.io/posts/2026-01-15-traditional-ml-algorithms/</link><pubDate>Thu, 15 Jan 2026 22:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-15-traditional-ml-algorithms/</guid><description>回顾机器学习黄金时代，详细推导十大经典算法的数学原理，从线性回归到主成分分析</description></item><item><title>泰勒公式：用简单近似复杂的艺术</title><link>https://s-ai-unix.github.io/posts/2026-01-14-taylor-series/</link><pubDate>Wed, 14 Jan 2026 22:10:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-14-taylor-series/</guid><description>从微积分基础到深度学习前沿，探索泰勒公式的强大威力</description></item><item><title>基于神经网络的深度学习算法：从感知机到Transformer的完整指南</title><link>https://s-ai-unix.github.io/posts/2026-01-14-deep-learning-algorithms-comprehensive-guide/</link><pubDate>Wed, 14 Jan 2026 08:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-14-deep-learning-algorithms-comprehensive-guide/</guid><description>本文全面回顾深度学习算法的发展历程、数学原理、架构演进及未来前景，涵盖从基础神经网络到Transformer的完整演进路径。</description></item><item><title>强化学习：从试错到智能的数学之旅</title><link>https://s-ai-unix.github.io/posts/2026-01-14-reinforcement-learning-comprehensive-guide/</link><pubDate>Wed, 14 Jan 2026 08:30:00 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-14-reinforcement-learning-comprehensive-guide/</guid><description>从马尔可夫决策过程到深度强化学习，探索人工智能如何通过试错学习最优策略，包括Q-learning、Policy Gradient和Actor-Critic等经典算法的完整数学推导。</description></item><item><title>传统机器学习与统计学习算法：从理论到实践的完整指南</title><link>https://s-ai-unix.github.io/posts/2026-01-14-traditional-ml-algorithms-comprehensive-guide/</link><pubDate>Wed, 14 Jan 2026 08:18:25 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2026-01-14-traditional-ml-algorithms-comprehensive-guide/</guid><description>本文全面回顾传统机器学习和统计学习算法的发展历程、数学原理、应用场景及未来前景，涵盖从线性回归到深度学习之前的关键算法。</description></item><item><title>机器学习项目完整流程图与实践指南</title><link>https://s-ai-unix.github.io/posts/2019-07-07-machine-learning-workflow-guide/</link><pubDate>Sun, 07 Jul 2019 07:32:15 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2019-07-07-machine-learning-workflow-guide/</guid><description>详细解析机器学习项目的完整工作流程,从问题定义到模型部署的全流程指南</description></item><item><title>工作回顾与职业发展思考</title><link>https://s-ai-unix.github.io/posts/2019-07-04-work-reflections/</link><pubDate>Thu, 04 Jul 2019 12:04:30 +0800</pubDate><guid>https://s-ai-unix.github.io/posts/2019-07-04-work-reflections/</guid><description>回顾三年的数据分析工作历程,分享职业转型的思考与准备</description></item></channel></rss>