English
中文 人工智能带来的风险似乎是巨大的。 那些因智能机器而失业的人会怎样？ 人工智能会影响选举结果吗？ 如果未来的人工智能决定不再需要人类并想要摆脱我们怎么办？
这些都是公平的问题，他们提出的担忧需要认真对待。 但我们有充分的理由认为我们可以应对它们：这并不是第一次重大创新引入必须控制的新威胁。 我们以前已经做过了。
无论是汽车的引入，还是个人电脑和互联网的兴起，人们都成功度过了其他变革时刻，尽管经历了很多动荡，但最终还是取得了更好的结果。 第一批汽车上路后不久，发生了第一起车祸。 但我们并没有禁止汽车——我们采用了速度限制、安全标准、牌照要求、醉酒驾驶法和其他道路规则。
我们现在正处于另一场深刻变革的早期阶段，即人工智能时代。 这类似于限速和安全带之前的那些不确定时期。 人工智能变化如此之快，以至于我们不清楚接下来会发生什么。 我们面临着当前技术的运作方式、人们将其用于恶意用途的方式以及人工智能将如何改变我们作为一个社会和个人的方式所提出的重大问题。
在这样的时刻，心情不安也是理所当然的。 但历史表明，解决新技术带来的挑战是可能的。
我 之前写过 关于人工智能将如何彻底改变我们的生活的文章。 它将有助于解决健康、教育、气候变化等方面曾经看似棘手的问题。 盖茨基金会将其作为优先事项，我们的首席执行官马克·苏兹曼 (Mark Suzman) 最近分享了他如何 看待盖茨基金会 在减少不平等方面的作用。
将来我会更多地谈论人工智能的好处，但在这篇文章中，我想承认我最常听到和读到的担忧，其中许多是我分享的，并解释我如何看待它们。
从迄今为止关于人工智能风险的所有文章（而且已经写了很多文章）中可以清楚地看出一件事，那就是没有人知道所有的答案。 我清楚的另一件事是，人工智能的未来并不像某些人想象的那么严峻，也不像其他人想象的那么乐观。 风险确实存在，但我乐观地认为这些风险是可以控制的。 当我讨论每个问题时，我将回到几个主题：
- 人工智能引起的许多问题都有历史先例。 例如，它将对教育产生重大影响，几十年前的手持计算器也对教育产生了巨大影响，最近，计算机进入课堂也产生了巨大影响。 我们可以从过去的成功经验中学习。
- 许多由人工智能引起的问题也可以借助人工智能来解决。
- 我们需要调整旧法律并采用新法律，就像现有的反欺诈法律必须适应网络世界一样。
在这篇文章中，我将重点关注已经存在或即将存在的风险。 我不是在讨论当我们开发一个可以学习任何主题或任务的人工智能时会发生什么，这与今天的专用人工智能不同。 无论我们在十年还是一个世纪内达到这一点，社会都需要考虑深刻的问题。 如果超级人工智能设定了自己的目标怎么办？ 如果它们与人类发生冲突怎么办？ 我们是否应该制造一个超级人工智能？
但考虑这些长期风险不应以牺牲更直接的风险为代价。 我现在就转向他们。
人工智能产生的深度造假和错误信息可能会破坏选举和民主。
技术可以用来传播谎言和谎言的想法并不新鲜。 几个世纪以来，人们一直通过书籍和传单来做到这一点。 随着文字处理器、激光打印机、电子邮件和社交网络的出现，这一切变得更加容易。
人工智能解决了虚假文本的问题并将其扩展，几乎允许任何人创建 虚假音频和视频 ，即所谓的深度伪造。 如果您收到一条语音消息，听起来像是您的孩子在说“我被绑架了，请在接下来的 10 分钟内向该银行帐户发送 1,000 美元，并且不要报警”，这将会对您的情绪产生可怕的影响超出了表达相同内容的电子邮件的效果。
从更大的范围来看，人工智能生成的深度伪造品可以用来试图影响选举。 当然，并不需要复杂的技术来对选举的合法获胜者产生怀疑，但人工智能会让这变得更容易。
已经出现了 虚假视频 伪造知名政客镜头的 。 想象一下，在一次重大选举的早上，一段显示一名候选人抢劫银行的视频在网上疯传。 这是假的，但新闻媒体和竞选活动需要几个小时才能证明这一点。 有多少人会看到它并在最后一刻改变他们的投票？ 它可能会扭转局势，尤其是在势均力敌的选举中。
当 OpenAI 联合创始人 Sam Altman 最近在美国参议院委员会作证时，两党参议员都将注意力集中在人工智能对选举和民主的影响上。 我希望这个主题继续提上每个人的议程。
我们当然还没有解决错误信息和深度造假的问题。 但有两件事让我保持谨慎乐观。 一是人们能够学会不只看表面价值。 多年来，电子邮件用户陷入诈骗，有人冒充尼日利亚王子许诺分享您的信用卡号码，以换取巨额回报。 但最终，大多数人学会了多看这些电子邮件。 随着骗局变得越来越复杂，许多目标也变得越来越复杂。 我们需要为深度伪造构建相同的肌肉。
另一件让我充满希望的事情是人工智能可以帮助识别深度赝品并创建它们。 例如，英特尔开发了一种 Deepfake 探测器 ，政府机构 DARPA 正在 研究 识别视频或音频是否被操纵的技术。
这将是一个循环过程：有人找到检测造假的方法，有人找到应对造假的方法，有人制定反制措施，等等。 这不会是完美的成功，但我们也不会束手无策。
人工智能使得对人民和政府发起攻击变得更加容易。
如今，当黑客想要找到软件中可利用的缺陷时，他们会通过暴力来实现——编写代码来消除潜在的弱点，直到找到入侵的方法。这涉及到走很多死胡同，这意味着需要时间和方法。耐心。
想要对抗黑客的安全专家也必须做同样的事情。 您在手机或笔记本电脑上安装的每个软件补丁都意味着好意或坏意的人进行了数小时的搜索。
人工智能模型将通过帮助黑客编写更有效的代码来加速这一过程。 他们还可以利用有关个人的公共信息（例如他们在哪里工作以及他们的朋友是谁）来开发 网络钓鱼攻击。 比我们今天看到的更先进的
好消息是人工智能可以用于好的目的，也可以用于坏的目的。 政府和私营部门安全团队需要拥有最新的工具来查找和修复安全漏洞，然后犯罪分子才能利用它们。 我希望软件安全行业能够扩大他们在这方面已经开展的工作——这应该是他们最关心的问题。
这也是为什么我们不应该像一些人建议的那样，暂时阻止人们实施人工智能的新发展。 网络犯罪分子不会停止制造新工具。 想要使用人工智能设计核武器和生物恐怖袭击的人也不会。 阻止它们的努力需要继续以同样的速度进行。
全球层面也存在相关风险：人工智能军备竞赛可用于设计和发起针对其他国家的网络攻击。 每个政府都希望拥有最强大的技术，以便能够阻止对手的攻击。 这种不让任何人领先的动机可能会引发一场制造日益危险的网络武器的竞赛。 每个人的处境都会更糟。
这是一个可怕的想法，但我们有历史来指导我们。 尽管世界核不扩散制度有其缺陷，但它阻止了我们这一代人在成长过程中所害怕的全面核战争。 各国政府应考虑建立一个类似于 国际原子能机构 的全球人工智能机构。
人工智能将夺走人们的工作。
未来几年，人工智能对工作的主要影响将是帮助人们更高效地完成工作。 无论他们是在工厂还是在处理销售电话和应付账款的办公室工作，情况都是如此。 最终，人工智能将足够擅长表达想法，它将能够为你编写电子邮件并管理你的收件箱。 您将能够用简单的英语或任何其他语言编写请求，并生成有关您的工作的丰富演示文稿。
正如我 在二月份的帖子中所说 ，生产力的提高对社会有好处。 它让人们有更多的时间去做其他事情，无论是在工作还是在家里。 对帮助他人的人（例如教学、照顾病人和赡养老人）的需求永远不会消失。 但确实，当我们向人工智能驱动的工作场所过渡时，一些工人将需要支持和再培训。 这是政府和企业的职责，他们需要妥善管理，不让工人落后——避免像美国制造业就业下降期间那样对人们的生活造成干扰。
另外，请记住，这并不是新技术第一次引起劳动力市场的重大转变。 我认为人工智能的影响不会像工业革命那样巨大，但它肯定会像个人电脑的推出一样巨大。 文字处理应用程序并没有取代办公室工作，但它们永远改变了它。 雇主和雇员必须适应，他们也做到了。 人工智能引起的转变将是一个坎坷的转变，但我们有充分的理由认为我们可以减少对人们生活和生计的干扰。
人工智能继承了我们的偏见并编造了一些事情。
幻觉——这个术语是指人工智能自信地做出一些根本不正确的主张——通常会因为机器不理解你的请求的上下文而发生。 让人工智能写一篇关于去月球度假的短篇故事，它可能会给你一个非常富有想象力的答案。 但如果要求它帮助您计划前往坦桑尼亚的旅行，它可能会尝试将您发送到不存在的酒店。
人工智能的另一个风险是，它反映甚至加剧了针对某些性别认同、种族、民族等的现有偏见。
要了解幻觉和偏见发生的原因，了解当今最常见的人工智能模型如何工作非常重要。 它们本质上是代码的非常复杂的版本，允许您的电子邮件应用程序预测您要输入的下一个单词：它们扫描大量文本（在某些情况下几乎是在线可用的所有内容）并对其进行分析以查找其中的模式人类语言。
当你向人工智能提出问题时，它会查看你使用的单词，然后搜索通常与这些单词相关的文本块。 如果你写“列出煎饼的成分”，它可能会注意到“面粉、糖、盐、发酵粉、牛奶和鸡蛋”经常与该短语一起出现。 然后，根据它对这些单词通常出现的顺序的了解，它会生成一个答案。 （以这种方式工作的人工智能模型使用了所谓的变压器。GPT-4 就是这样的模型之一。）
这个过程解释了为什么人工智能可能会出现幻觉或出现偏见。 它没有您提出的问题或您所说的内容的上下文。 如果你告诉一个人它犯了一个错误，它可能会说：“抱歉，我打错了。” 但这是幻觉——它没有输入任何东西。 它只是说，因为它扫描了足够多的文本，知道“抱歉，我打错了”是人们在有人纠正后经常写的一句话。
同样，人工智能模型会继承其训练文本中的任何偏见。 如果一个人读了很多关于医生的内容，并且文本主要提到男性医生，那么它的答案就会假设大多数医生是男性。
尽管一些研究人员认为幻觉是一个固有的问题，但我不同意。 我乐观地认为，随着时间的推移，人工智能模型可以学会区分事实与虚构。 例如，OpenAI 正在做有前途的工作。 在这方面其他组织，包括 艾伦图灵研究所 和 国家标准与技术研究所 ，正在研究偏见问题。 一种方法是将人类价值观和更高层次的推理构建到人工智能中。 这类似于有自我意识的人的工作方式：也许你认为大多数医生都是男性，但你足够清楚这一假设，知道你必须有意识地与之抗争。 人工智能可以以类似的方式运作，特别是如果模型是由来自不同背景的人设计的。
最后，每个使用人工智能的人都需要意识到偏见问题并成为知情的用户。 你要求人工智能起草的文章可能充满偏见和事实错误。 你需要检查人工智能的偏见以及你自己的偏见。
学生不会学习写作，因为人工智能会为他们做这些工作。
许多教师担心人工智能会破坏他们与学生的合作。 当任何能上网的人都可以使用人工智能写出一篇值得尊敬的论文初稿时，什么能阻止学生将其作为自己的作品上交呢？
已经有 人工智能工具正在学习 辨别某些内容是由人还是由计算机编写的，因此教师可以判断学生何时没有做自己的作业。 但一些老师并没有试图阻止学生在写作中使用人工智能——他们实际上是在鼓励这样做。
一月份，一位名叫 Cherie Shields 的资深英语老师 上发表了一篇文章 在《教育周刊》 ，介绍她如何在课堂上使用 ChatGPT。 从开始撰写论文到撰写大纲，甚至为他们的工作提供反馈，它为她的学生提供了一切帮助。
“教师必须接受人工智能技术，将其作为学生可以使用的另一种工具，”她写道。 “就像我们曾经教学生如何进行正确的 Google 搜索一样，教师应该围绕 ChatGPT 机器人如何协助论文写作设计清晰的课程。 承认人工智能的存在并帮助学生使用它可以彻底改变我们的教学方式。” 并不是每个老师都有时间学习和使用新工具，但像 Cherie Shields 这样的教育家提出了一个很好的论点，即那些这样做的人会受益匪浅。
这让我想起了20世纪70年代和80年代电子计算器普及的时期。 一些数学老师担心学生会停止学习如何进行基本算术，但其他人则接受新技术并专注于算术背后的思维技能。
人工智能还有另一种方式可以帮助写作和批判性思维。 特别是在早期，当幻觉和偏见仍然是一个问题时，教育工作者可以让人工智能生成文章，然后与学生一起检查事实。 等教育非营利 我资助的可汗学院 和 开放教育资源项目 组织为教师和学生提供免费的在线工具，这些工具非常重视测试断言。 没有什么技能比知道如何区分真假更重要的了。
我们确实需要确保教育软件有助于缩小成绩差距，而不是让差距变得更糟。 今天的软件主要是为了增强已经有积极性的学生的能力。 它可以为您制定学习计划，为您指明良好的资源，并测试您的知识。 但它还不知道如何吸引你进入你不感兴趣的学科。这是开发人员需要解决的问题，以便所有类型的学生都能从人工智能中受益。
下一步是什么？
我相信我们有更多的理由对我们能够管理人工智能的风险同时最大化其收益感到乐观。 但我们需要快速行动。
政府需要积累人工智能方面的专业知识，以便制定应对这一新技术的明智的法律和法规。 他们需要应对错误信息和深度造假、安全威胁、就业市场的变化以及对教育的影响。 仅举一个例子：法律需要明确深度假货的哪些用途是合法的，以及如何给深度假货贴上标签，以便每个人都能明白他们所看到或听到的东西不是真实的
政治领导人需要具备与选民进行知情、深思熟虑的对话的能力。 他们还需要决定在这些问题上与其他国家合作多少，而不是单独行动。
在私营部门，人工智能公司需要安全、负责任地开展工作。 这包括保护人们的隐私，确保他们的人工智能模型反映基本的人类价值观，最大限度地减少偏见，将好处传播给尽可能多的人，以及防止犯罪分子或恐怖分子使用该技术。 许多经济领域的公司需要帮助员工过渡到以人工智能为中心的工作场所，这样就不会有人掉队。 客户应该始终知道他们何时与人工智能而不是人类进行交互。
最后，我鼓励大家尽可能关注人工智能的发展。 这是我们任何人一生中都会看到的最具变革性的创新，健康的公共辩论将取决于每个人都了解这项技术、其好处和风险。 好处将是巨大的，相信我们能够管理风险的最佳理由是我们以前已经做到了。
