生命3.0 -- 人工智能

生命：一个能保持自身复杂性，并进行复制的过程。
生命1.0：硬件和软件都来自进化的"生物阶段"
生命2.0：能够通过学习自己设计软件的"文化阶段"
生命3.0：自己设计硬件和软件，并主宰自我命运的"科技阶段"

智能：完成复杂目标的能力。
计算和信息一样，是独立于物质层面而存在的，不关心用什么样的物质形态。
计算是粒子在时空中排列出的形态，硬件是物质，软件就是形态。正因为计算有了这种物质层面的独立性，才能不用对软件做任何更改，而只突飞猛进地更新计算机中的技术。
在感觉上，智能之所以没有物质形态，是因为它独立于物质层面而存在。它似乎拥有自己的生命，而且，这个生命并不依赖于、也不会反映出物质层面的细节。智能的出现并不一定需要血肉或碳原子。

狭义人工智能（Narrow AI）= 弱人工智能（Weak AI）
-- 机器能够重现特定的人类行为，没有意识。针对特定任务。
强人工智能（Strong AI）= AGI (通用人工智能, Artificial General Intelligence)
-- 机器能够完全重现人类智慧。人类水平的通用人工智能
超级智能（Super-Intelligence），即超人类水平的通用人工智能
-- 比所有人类智慧加起来更加智能的强大AI

人工智能：机器重现人类行为的能力，不管使用来实现它的技术是什么
机器学习：机器从示例中学习如何重现特定行为的一系列AI算法。有许多类型，神经网络，支持向量机，决策树等。
深度学习：机器学习中的一个类型，其中神经网络中数据的连接层被组合起来，以学习越来越抽象的概念。

学习-记忆：神经网络中两个邻近的神经元被同时激活(放电),它们之间的突触连接就会被强化，这样它们就学会了触发彼此。

人类能力地形图
“图灵测试Turing test”的本质是“欺骗”
“威诺格拉德模式挑战Winograd Schema Challenge” 的目标是测试“常识推理能力”，推理指代关系。

人类与 AI/机器人的未来关系

人类对机器人的恐惧，不在于人工智能拥有了意识，而是它的目标与你不一致。
人工智能发展的方向：
人类处于统治地位，人类待遇很好，友好的人工智能
赛博格处于统治地位，人类被取代，人工智能是我们的“后裔”，赞同我们的价值观
人工智能处于统治地位，人类待遇很差，人工智能是征服者

人类与机器的融合：(人类增强)
用技术来增强肉身 -> 赛博格(Cyborg) 也叫"改造人"
是一种机械化有机体，又称改造人。同时具有有机体和生物机电部分的人。
将人类的智能上传到机器中 -> 上传者(Uploads) 也叫 "仿真者"(EMS,Emulations)

人工智能产生意识：(AI增强)
机器人、纳米机器人
超级智能 -> 母体
模拟人类 -> 人类成为"被模拟者"

做AI带路党，迎接人类和AI共荣(三体：降临派)。
训练一个模仿自己的模型，实现广义上的永生(西部世界：建造人类的心智球)。

人工智能的影响

故障 VS. 稳健的人工智能
随着技术变得越来越强大，我们应当越来越减少地依赖试错法来保障工程的安全，保证一次事故也不会发生。因为即使只发生一次事故，也可能导致巨大的破坏，足以抹杀所有的裨益。犹如全球核战争和瘟疫，以及人工智能导致人类灭绝。
人工智能“安全性研究”的4个主要领域：
验证 Verification：我建造系统的方式正确吗？看一个系统是否满足它的规范。
确认 Validation：我建造的系统正确吗？看我们是否选择了正确的规范。
安全 Secutiry：
控制 Control：人工介入 human-in-the-loop 让人类操作员能够监控系统，并在必要时改变系统的行为。

太空探索、金融业、制造业、交通运输业、能源优化、医疗服务业、通信业。

法律
武器
自动化武器与无人机
工作与工资
就业建议：做那些机器目前不擅长，并且在不远的未来也似乎很难被自动化的工作。
职业问题：
这份工作是否需要与人交互，并使用社交商？
这份工作是否涉及创造性，并能使你想出聪明的解决方法？
这份工作是否需要你在不可预料的环境中工作？
回答这些问题时，得到的肯定答案越多，你的就业选择可能越好。
相对安全的职业，选择包括：
教师、护士、医生、牙医、科学家、企业家、程序员、工程师、律师、社会工作者、神职人员、艺术家、美发师和按摩师。

高风险的职业，高度重复、结构化及可预测的工作会被机器自动化，包括：
电话销售员、仓管员、收银员、火车司机、烘焙师和厨师；
卡车、公交车、出租车和uber司机；
律师助理、信用分析师、信贷员、会计师和税务员

有风险的职业，全球化数字时代，会面临“超级明星”理论的挑战，有全球人竞争鲜有人能脱颖而出，包括：
职业作家、电影人、演员、运动员或时尚设计师

职业变革：人工智能时代的就业机会

47%的工作将被AI取代，并产生一批新的就业机会。

现在工作内容与占用时间和AI可取代性：
1. 创造与决策 7% 不容易被替代
（大部分工作创新的机会少，所以老板更喜欢的是靠谱和执行力）
2. 专业技能 14% 不容易被替代
3. 沟通交流 16% 较不容易被替代
4. 处理不可预测的意外场景 12% 较不容易被替代
5. 信息收集 17% 容易被替代
6. 信息处理 16% 容易被替代
7. 可预期的重复工作内容 18% 容易被替代

5、6、7占到工作时间的51%，在未来都将会被数据专家+AI+SaaS替代，而人类的竞争力会集中在1、2、3、4所代表的创造决策、专业技能、人际沟通和灵活应变上。

分析一个职业在各个区域的比例，如果5、6、7占比超过50%，就需要升级工作类型或者换工作。比如律师助理的工作内容几乎全在这块区域，毫无竞争力。

未来工作内容与时间占比：

创造与决策 15%
专业技能 40%
沟通交流 25%
处理不可预测场景 10%
使用AI与软件 10%

面向未来的两大策略：

大胆拥抱新工具和新软件
用辅助类AI工具，比如创投圈的RPA机器人
对“创造与决策”、“专业技能”发起持久的跨学科攻击，让自己达到专家水平。
你若想在任何领域拥有竞争力，就必须熟练的掌握该领域的方方面面。

未来的六大职业类型：

需要人与人深入交流的工作(同理心、洞察力、表达能力)
销售 (人对人的信任越来越值钱)
护士、月嫂、精神病院和戒毒所的工作人员
幼儿园及中小学教师、在线教育行业
心理服务类的心理咨询师、婚姻咨询师、神职人员牧师等
娱乐工作者
需要原创研究能力和审美能力的工作
撰稿人、导演、设计师、工程师、作家、画家、动画动效设计师(内容为王)、高等教育老师
需要高专业能力的工作
医生、律师、行业专家、科学家
需要精细操作和灵活应变的工作
手艺人、无人机驾驶员、发型师、机器维修员
需要做大量决策的工作
专业投资人、政府官员、企业高管
实现智能化和网络化的工作
数据科学家、算法专家、工程师、产品经理、运营专家

例外管理(Management by Exception):
我们应该将主要精力用来处理首次出现的模糊随机的非程序化问题，但是对于那些反复出现的可结构化的问题，则应该尽快建立系统流程来自动处理。
SaaS(Software as a Service):
软件即服务，工作用的软件不是装在电脑上，而是运行在云端服务器上。

AI 障碍/问题

相关性不等于因果关系
深度学习（deep learning）—> “深度理解”（deep understanding）
因果推理就是将人类如何做决定的过程数学化。
AI与人类的目标一致性
人类的伦理标准还没有达成共识(美德、责任、功利主义)，但在一些基本原则上已经达成了一些广泛的共识：
功利主义：积极的意识体验应当最大化，而痛苦应当最小化。
多样化：多样化的积极体验比重复单一的积极体验要好，即使后者被认为是所有可能性中最积极的体验。
自主性：有意识的实体/社会应当拥有追寻自己目标的自由，除非与某些重要原则相违背。
遗产：符合当今大多数人认为幸福的情景，不符合当今几乎所有人认为糟糕的事情。

善的“黄金规律”：你想要别人如何对待你，就应当如何对待别人。目的是通过合作和阻止无用的冲突来促进人类以及我们基因的和谐与长治久安。

无知之幕
无知之幕，目的是在群体决策时，最大限度地达到公平。
（当人们为一个社会选择正义原则时，前提应该是他们不知道自己在这个社会中究竟处于哪个地位。）
ChatGPT 存在的问题: 对齐, 涌现, 幻觉, 能力迁移, 逻辑增强.