杰弗里·辛顿 (Geoffrey Hinton) 警告说，人工智能必须培养“母性本能”，否则我们将面临灭绝的危险
听听这篇文章 预计 6 分钟 本文的音频版本是通过基于人工智能的技术生成的。可能会出现发音错误。我们正在与合作伙伴合作，不断审查和改进结果。 听|如果人工智能变得比人类更聪明，它会取代人类吗？： 想法54:01为什么人工智能需要对我们更好并发展“母性本能” 许多人认为人工智能教父杰弗里·辛顿 (Geoffrey Hinton) 表示，如果人工智能在没有适当护栏的情况下继续发展，最坏的情况可能是 导致人类灭绝。 但他有一个解决办法。 辛顿是该奖项的共同获奖者 2024年诺贝尔物理学奖 人工智能安全基金会的联合创始人。 正如他解释的那样 创意 主持人 Nahlah Ayed 表示，训练人工智能发展母性本能可能会拯救人类。这是谈话的一部分。 您可以想象的最坏情况是什么？ 嗯，短期内有很多不涉及人工智能接管的糟糕情况。所以很难选出最差的一个。 但是，例如，人工智能被恐怖分子用来制造令人讨厌的新病毒。这让他们更容易做到这一点。这非常可怕。我们将就如何尝试防止这种情况进行国际合作，但我们可能做不到。所以这是一个短期风险。人工智能被用来通过虚假视频来腐蚀民主。 但最让我担心的仍然是人工智能变得比我们更聪明的长期风险，在我看来这是不可避免的，而我们不知道如何与它们共存。我们不知道他们是否真的会接替我们。 让我直白地问你吧。在本世纪，人工智能实际上导致人类灭绝的可能性有多大？ 好吧，我认为唯一诚实的答案是，这可能在 10 或 20 年内都不会发生。我们几乎不知道 10 年或 20 年后事情会是什么样子。如果你回顾 10 年前，没有人知道我们会有像现在这样强大的聊天机器人。 因此，如果进步只是线性的，我们可以预期，在 10 到 20 年内，情况将与现在大不相同，我们将取得各种我们无法预测的进步。最诚实的答案是我们没有任何线索。 不要纠缠于消极的一面，但在你恐惧地平线的尽头，它可能会导致人类灭绝？ 哦，当然可以，是的。我认为那些说它不可能导致人类灭绝的人只是没有面对现实。 观看 |呼吁未来人工智能对人类更加友善： 如果我们构建具有母性本能的人工智能会怎么样？ 2024 年诺贝尔物理学奖共同获得者杰弗里·辛顿 (Geoffrey Hinton) 被许多人称为“人工智能教父”。他与 Ideas 讨论了如何训练人工智能对人类更加友善。 […]
加拿大人工智能先驱 Yoshua Bengio 和 Geoffrey Hinton 加入全球呼吁禁止超级人工智能开发
超过 1,500 人签署公开信，警告人们失去自由、尊严和“潜在的人类灭绝”。 加拿大人工智能 (AI) 先驱 Geoffrey Hinton 和 Yoshua Bengio 已签约 又一封公开信，这一次主张禁止“超级智能”的发展。 “我们……需要确保公众在塑造我们共同未来的决策中拥有更强的发言权。” 本吉奥和辛顿有 长表达 人们担心人工智能（AGI）带来的危险，这是一种假设的未来场景，其中人工智能在许多学科上实现了人类水平的智能。 “超级智能”指的是超越AGI的一步，即人工智能超越人类水平的智能，这是许多人的壮举 科技公司 喜欢 元 正在追赶。 这封公开信由 生命未来研究所截至撰写本文时，已有 1,500 多人签署，其中包括其他计算机科学家、政治家、宗教领袖和艺术家。 “[M]信中写道：“任何领先的人工智能公司都有明确的目标，即在未来十年建立超级智能，使其在几乎所有认知任务上都能显着超越人类。这引起了人们的担忧，包括人类经济的过时和剥夺、自由、公民自由、尊严和控制力的丧失，到国家安全风险，甚至潜在的人类灭绝。” 签署者呼吁禁止超级智能的发展，直到达成“广泛的科学共识”，即超级智能将安全可控地实现，并且得到“公众的强烈支持”。 Bengio 发起了一个非盈利组织 今年早些时候、LawZero，为代理人工智能系统构建护栏。它的许多贡献者，以及 Bengio 创立的人工智能研究所的成员 米拉，也签署了这封信。 “为了安全地迈向超级智能，我们必须科学地确定如何设计从根本上无法伤害人类的人工智能系统，无论是通过错位还是恶意使用，”本吉奥在签名旁边写道。 “我们还需要确保公众在塑造我们共同未来的决策中拥有更强的发言权。” 有关的： Geoffrey Hinton 在与 Cohere 联合创始人 Nick Frosst 的激烈辩论中表示，人工智能公司抵制“牙齿监管” 除了 Hinton 和 Bengio 之外，还有数十名加拿大人签署了行动号召，其中包括加拿大前遗产部长 Pascale St-Onge、Mila 总裁兼首席执行官 Valerie Pisano […]
杰弗里·欧文斯 (Geoffrey Owens) 捐赠妮琪·米娜 (Nicki Minaj) 的 2.5 万美元“讲义”引发争议
科斯比秀校友杰弗里·欧文斯详细介绍了离开交易员乔的工作后的财务困境 杰弗里·欧文斯” 对于明星的慷慨捐赠，人们的反应令人惊讶。 在他于2018年承认经历经济困难后， 科斯比秀 校友——在经典情景喜剧中扮演埃尔文·蒂比多（Elvin Tibideaux）——收到了一张 25,000 美元的支票 妮琪·米娜 以帮助他重回正轨。但杰弗里最近承认，他没有把她的“施舍”留给自己，而是把钱捐给了慈善机构。 “这是一份非常慷慨、可爱的施舍，”杰弗里在 12 月 12 日的一次露面中说道。 V-103 亚特兰大 大跳跳虎早间秀。 “但我对此感到不舒服。” 这位 63 岁的老人在 2018 年被发现在 Trader Joe’s 工作后承认自己“入不敷出”，在没有通过工作挣钱的情况下拿走 Nicki 的钱当时感觉不太对劲。 “如果她付给我 25,000 美元让我做某事，”杰弗里解释道，“我会说，‘谢谢你的工作，我接受。’” 澄清他并不认为她的举动“不恰当”，并坚称他的拒绝并不意味着他“不感激”， 捉迷藏 演员接着解释了他为什么选择将这笔钱捐给慈善机构。 “我觉得，嗯，是的，我在某种程度上需要这笔钱，”他继续说道，“但还有其他人比我更需要这笔钱。” 1735613206 #杰弗里欧文斯 #Geoffrey #Owens #捐赠妮琪米娜 #Nicki #Minaj #的 #万美元讲义引发争议 2024-12-30 23:17:00
杰弗里·辛顿 (Geoffrey Hinton) 希望他能早点考虑人工智能安全问题
杰弗里·辛顿 (Geoffrey Hinton) 表示，他并不后悔自己为人工智能奠定基础所做的工作，但希望他能早点考虑到安全问题。 这位常被称为人工智能教父的英裔加拿大计算机科学家周末表示，他没有任何内疚的遗憾，他说这是当有人做了一些他们知道不应该做的事情时。 “在同样的情况下，我还会做同样的事情，”他谈到自己的研究时说道，该研究可以追溯到 20 世纪 80 年代，并已成为人工智能的基础。 “然而，我认为这可能是不幸的，因为我们获得超级智能的速度比我想象的要快，我希望我能早点考虑安全问题。” 超级智能甚至超越了最聪明的人类的能力。 Hinton 认为它可能会在未来 5 到 20 年内到来，人类可能不得不“认真担心我们如何保持控制”。 辛顿在斯德哥尔摩举行的新闻发布会上做出了这一预测，他将于周二在那里获得诺贝尔物理学奖。 多伦多大学名誉教授辛顿和普林斯顿大学教授约翰·霍普菲尔德共同获奖，因为他们开发了机器学习的一些基础，机器学习是一门帮助人工智能模仿人类学习方式的计算机科学。 辛顿在周六的新闻发布会上拉开了他的诺贝尔奖周的序幕，他与化学和经济学奖得主一起出席，并被问及人工智能的安全和监管问题。 辛顿去年辞去了谷歌的工作，更自由地谈论该技术的危险，他表示这些危险可能包括失业、偏见和歧视、回声室、假新闻、战斗机器人，甚至人类的终结。 周六，他表示他认为致命的自主武器是一种短期危险。 他说：“那里不会有任何监管。”他指出，欧洲法规有一项具体条款，使人工智能的军事用途不受限制。 “在致命性自主武器方面，政府不愿意自我监管，美国、中国、俄罗斯、英国、以色列甚至瑞典等主要武器供应国之间正在进行军备竞赛，尽管我不知道不知道。” 一天后，辛顿放下对人工智能的担忧，与霍普菲尔德一起发表演讲，解释了为他们赢得诺贝尔奖的研究。 “今天我要做一件非常愚蠢的事情。”辛顿在介绍两人长达一小时的演讲中他的部分时说道。 “我将尝试在不使用任何方程式的情况下向普通观众描述一个复杂的技术想法。” 观众哄堂大笑。 演讲开始时，霍普菲尔德描述了他发明的一种可以在数据中存储和重建图像的网络。 这导致 Hinton 后来创建了玻尔兹曼机，该机从示例而不是指令中学习，并且经过训练，可以识别信息中熟悉的特征，即使它以前没有见过该数据。 Hinton 表示，2006 年至 2011 年间，他的实验室以及由人工智能先驱 Yoshua Bengio 和 Yann LeCun 管理的其他实验室的学生正在使用玻尔兹曼机器来预训练神经网络——以类似于人脑的方式做出决策的机器学习模型。 到 2009 年，Hinton 的两名学生展示了该技术“比识别语音中音素片段的现有最佳技术要好一些，然后改变了语音识别界，”Hinton 说。 音素是可以改变单词含义的小声音单位。 谷歌后来开始研究基于 Hinton 发现的技术，“突然间，Android 上的语音识别变得更好了。” 尽管 […]
杰弗里·辛顿 (Geoffrey Hinton) 表示，他为自己的学生帮助解雇萨姆·奥尔特曼 (Sam Altman) 感到自豪
杰弗里·辛顿 (Geoffrey Hinton) 并不喜欢山姆·奥尔特曼 (Sam Altman) 的领导能力。 辛顿在周二的新闻发布会上表示，他认为奥特曼更看重利润而不是安全。 Hinton 的得意门生、OpenAI 联合创始人 Ilya Sutskever 在 Altman 短暂下台的过程中发挥了关键作用。 感谢您的注册！ 当您在旅途中时，可以在个性化源中访问您最喜爱的主题。下载应用程序 点击“注册”即表示您接受我们的 服务条款 和 隐私政策。您可以随时访问我们的“偏好设置”页面或单击电子邮件底部的“取消订阅”来选择退出。 新晋诺贝尔奖获得者杰弗里·辛顿 (Geoffrey Hinton) 表示，他很自豪他以前的一名学生在 11 月份 Sam Altman 被 OpenAI 短暂驱逐的事件中发挥了作用。 周二获得 2024 年诺贝尔物理学奖的 Hinton 在当天的新闻发布会上发表讲话，对 Altman 和 OpenAI 发表了看法。 “我特别自豪的是，我的一名学生解雇了 Sam Altman，”Hinton 说道，他指的是他的门徒、OpenAI 的前首席科学家 Ilya Sutskever。 Sutskever 获得博士学位。 2013 年获得多伦多大学计算机科学博士学位。Hinton 是 Sutskever […]
杰弗里·辛顿 (Geoffrey Hinton) 和约翰·霍普菲尔德 (John Hopfield) 因人工智能领域的工作而分享诺贝尔奖
盖蒂图片社 该公告是在瑞典斯德哥尔摩发布的 诺贝尔物理学奖授予了两位科学家杰弗里·辛顿 (Geoffrey Hinton) 和约翰·霍普菲尔德 (John Hopfield)，以表彰他们在机器学习方面的工作。 英国裔加拿大人 Hinton 教授有时被称为“人工智能教父”，他表示自己感到非常惊讶。 他于 2023 年从谷歌辞职，并警告机器可能比人类更聪明的危险。 瑞典皇家科学院在瑞典斯德哥尔摩举行的新闻发布会上宣布了这一消息。 美国教授约翰·霍普菲尔德（John Hopfield）现年91岁，美国普林斯顿大学教授；欣顿教授现年76岁，加拿大多伦多大学教授。 机器学习是人工智能的关键，因为它开发了计算机如何训练自己生成信息。 它推动了我们今天使用的各种技术，从我们如何搜索互联网到在手机上编辑照片。 “我不知道会发生这种事。我感到非常惊讶，”辛顿教授在宣布这一消息几分钟后在电话中对学院说道。 他说他在加利福尼亚州的一家酒店，网络信号很差，他认为他可能需要取消当天剩余的计划。 该学院列出了两位科学家工作的一些重要应用，包括改进气候模型、开发太阳能电池以及医学图像分析。 盖蒂图片社 Geoffrey Hinton 周二表示他使用 ChatGPT4 Hinton 教授对神经网络的开创性研究为 ChatGPT 等当前人工智能系统铺平了道路。 在人工智能中，神经网络是学习和处理信息方式与人脑相似的系统。它们使人工智能能够像人类一样从经验中学习。这称为深度学习。 辛顿教授表示，他在人工神经网络方面的工作是革命性的。 “这将像工业革命一样 – 但它将超越我们的智力能力，而不是我们的身体能力，”他说。 但他表示，他也对未来感到担忧。当他去年告诉记者时，有人问他是否对自己一生的工作感到后悔。 他在回复中表示，他会再次做同样的工作，“但我担心这样做的总体后果可能是比我们更聪明的系统最终可能会占据控制权”。 他还表示，他现在使用人工智能聊天机器人 ChatGPT4 来做很多事情，但他知道它并不总是能得到正确的答案。 约翰·霍普菲尔德教授发明了一种可以保存和重新创建模式的网络。 它使用物理学来描述由于原子自旋而产生的材料特性。 与大脑试图通过使用相关但不完整的单词来回忆单词的方式类似，霍普菲尔德教授开发了一个网络，可以使用不完整的模式来找到最相似的单词。 诺贝尔奖委员会表示，两位科学家的工作已经成为我们日常生活的一部分，包括面部识别和语言翻译。 但诺贝尔物理学委员会主席埃伦·穆斯表示，“它的快速发展也引发了人们对我们共同未来的担忧”。 获奖者分享价值 1100 万瑞典克朗（81 万英镑）的奖金。 当 Hinton 教授去年从谷歌辞职时，他告诉 BBC，人工智能聊天机器人的一些危险“非常可怕”。 他当时还表示，他的年龄是他离开这家科技巨头的决定的一部分。 […]
人工智能教父杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖，他警告人工智能的危险
今年的诺贝尔物理学奖出人意料且颇具争议，即使对于获奖者本身来说也是如此。本周二，瑞典学院表彰了被称为人工智能“教父”的美国约翰·J·霍普菲尔德（芝加哥，1933 年）和英国杰弗里·E·辛顿（伦敦，1947 年）在人工神经网络方面的工作。让机器能够学习。 这些发现为创建当今伟大的语言模型奠定了基础，例如 ChatGPT 和其他改变世界的聊天机器人。但辛顿的公司被谷歌收购，他去年离开硅谷，警告他帮助创造的技术存在危险。他曾多次表示，机器变得如此智能以至于我们无法控制它们的那一天可能会到来，在得知自己获奖后“非常惊讶”，他再次重申了这一想法。 “学习是人类思维的一种令人着迷的能力。我们让数百万个神经元一起工作，赋予它们神经学能力。机器学习受到此启发，并使用统计物理学的基本概念，”他说。诺贝尔物理学委员会主席埃伦·穆恩斯在获奖者公布后说道。他说，他们的发现“具有影响我们未来的巨大好处，我们有责任以合乎道德的方式使用这项技术，以实现人类的最大利益”。 Hopfield（美国普林斯顿大学）和 Hinton（加拿大多伦多大学）几十年来一直在研究他们的工作。美国人创造了一种联想存储器，可以存储和重建图像以及数据中其他类型的模式。就英国人而言，英国人以霍普菲尔德网络为基础，用不同的方法创建了一个新的网络：波兹曼机器，它可以学习识别某种类型数据中的特征元素。通过向机器提供运行时最有可能出现的示例来训练机器。因此，它能够非常有效地分析数千张照片并识别常见的事物，例如狗和汽车。谷歌从他手中收购了该公司，这成为开发日益强大的技术的基础，包括 ChatGPT 和 Google Bard 等新的聊天机器人。 对人类的威胁 但去年，辛顿辞去了硅谷的工作，警告这些聊天机器人带来的危险。他指出它们是“对人类的威胁”，因为它们有能力“消除数百万个工作岗位，因虚假视频影响选举，发起更有效的网络攻击，并开发非常危险的生物战病毒”。 Hinton 还获得了 2017 年 BBVA 基金会知识前沿奖和 2022 年阿斯图里亚斯公主科学技术研究奖，在得知该奖项后，他感到“不知所措”。 “我不知道发生了什么事。我感到非常惊讶，”他在与学院的电话联系中简短地说。 “我住在加利福尼亚州的一家廉价酒店，那里没有良好的互联网或电话连接，”他解释道。 “我本来今天要做核磁共振检查，但我不得不取消它，”他幽默地说。 当被问及他是否对自己的发现及其后果感到遗憾时，他表示“有两种遗憾：一种是因为你为做了某件事而感到内疚，另一种是因为你本来可以做的事情，但你没有做” ”。 “就我而言，这是第二个。我担心机器变得如此智能而导致我们无法控制它们的后果。” 潜在风险 诺贝尔奖获得者对其研究结果的后果感到遗憾的情况通常并不常见。关于这些潜在的危险，穆恩斯指出，“表达担忧是件好事”，因为它们“有助于知识的增长”。在他看来，“重要的是让尽可能多的人能够接触到机器学习，而不仅仅是掌握在少数人手中。”从这个意义上说，瑞典皇家科学院秘书长汉斯·埃勒格伦曾表示：“许多发现都可能存在风险，但我们有责任对其进行监管，这也包括人工智能。” 尽管存在可能的威胁，“获胜者的工作已经非常有用。在物理学中，我们在广泛的领域中使用人工神经网络，例如开发具有特定性能的新材料，”穆恩斯辩护道。 。 巴斯克应用数学中心 (BCAM) 研究员圣地亚哥·马苏埃拉斯 (Santiago Mazuelas) 认为新的诺贝尔物理学奖“当之无愧”。获奖者数十年来致力于研究的人工神经网络“在机器学习领域非常重要，并且使 ChatGPT 或文本和图像生成应用程序等技术成为可能。” 他并不认同 Hinton 的担忧：“我相信人工智能只是另一种类型的技术，就像互联网或电话一样，与任何其他具有巨大潜力的技术一样，它可以用于不正当的目的。但是，总的来说，它有积极的一面。”对社会的影响”。 Mazuelas 是 2018 年 BBVA 基金会机器学习项目莱昂纳多奖学金的受益人，他表示，人工智能“只能重现在许多示例中观察到的行为，并学习人类无法观察到的模式。然而，“人类智能能够逻辑推论并考虑道德考虑以及许多其他能力。” 除了认可之外，获奖者还将获得超过 800,000 欧元。去年，瑞典皇家科学院授予 Anne […]
多伦多大学杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖
颁奖机构周二表示，多伦多大学的英籍加拿大科学家杰弗里·辛顿 (Geoffrey Hinton) 和普林斯顿大学的美国科学家约翰·霍普菲尔德 (John Hopfield) 因在人工神经网络中实现机器学习的发现和发明而荣获 2024 年诺贝尔物理学奖。 Hinton 出生于英国，在过去的十年里，他一直在多伦多大学教授计算机科学，并在谷歌的深度学习人工智能团队工作，然后于 2023 年宣布从 Alphabet 公司辞职。 “我大吃一惊，”辛顿通过电话告诉聚集在斯德哥尔摩瑞典皇家科学院的专家小组。 “我不知道会发生这种事。我很惊讶。” 观看 l 加拿大“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖： 加拿大“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖 多伦多大学的英裔加拿大人计算机科学家杰弗里·辛顿 (Geoffrey Hinton) 和普林斯顿大学的约翰·霍普菲尔德 (John Hopfield) 因在人工神经网络中实现机器学习的发现和发明而获得 2024 年诺贝尔物理学奖。 Hinton 表示，人工智能继续快速发展，“我们现在应该努力研究如何确保它不会夺走人类的控制权。” 瑞典皇家科学院诺贝尔委员会成员埃伦·穆斯表示，两位获奖者“利用统计物理学的基本概念来设计人工神经网络，该网络具有联想记忆功能并在大数据集中查找模式。” 她说，此类网络已被用来推进物理学研究，并且“也已成为我们日常生活的一部分，例如面部识别和语言翻译”。 该学院表示，霍普菲尔德创建了一种联想存储器，可以存储和重建图像以及数据中其他类型的模式。这些模式以“Hopfield 网络”的形式存储，使用原子物理学对数据进行编码，然后比较、再现和区分图像。 辛顿， 被称为“人工智能教父”的人， 它补充说，发明了一种可以自主查找数据属性并执行识别图片中特定元素等任务的方法。 两位获奖者的工作紧密相连。今天早上早些时候，辛顿在接受新闻网采访时表示，事实上，他最有影响力的导师之一是霍普菲尔德的学生特里·塞诺夫斯基 (Terry Sejnowski)，他与他一起进行了“最令人兴奋的研究”——如何建立“霍普菲尔德网络”更通用，使它们能够像人类一样从示例中学习（而不是像机器传统上那样只是指令）。 “我认为最终如果我们能让这些东西发挥作用，那将非常重要，但我认为需要更长的时间才能产生如此大的效果，”他说。他补充说，人工智能现在能做到的事情在10年前还被认为是“科幻小说”，未来10年还将实现类似的飞跃。 辛顿：人工智能可能会变得“比我们更聪明” 辛顿表示，他相信人工智能进步的影响将与工业革命相媲美，通过开发人工智能助手来大幅提高生产力并提高效率，这将有助于许多领域，包括交付卫生保健。 “这将是非常棒的，这就是为什么进步不会被阻止。我不认为我们可以按下人工智能的暂停按钮，因为它有很多巨大的好处，”他告诉加拿大广播公司新闻。 “但我们确实需要担心如何控制它。” 观看 | […]