杰弗里·辛顿 (Geoffrey Hinton) 警告说，人工智能必须培养“母性本能”，否则我们将面临灭绝的危险
听听这篇文章 预计 6 分钟 本文的音频版本是通过基于人工智能的技术生成的。可能会出现发音错误。我们正在与合作伙伴合作，不断审查和改进结果。 听|如果人工智能变得比人类更聪明，它会取代人类吗？： 想法54:01为什么人工智能需要对我们更好并发展“母性本能” 许多人认为人工智能教父杰弗里·辛顿 (Geoffrey Hinton) 表示，如果人工智能在没有适当护栏的情况下继续发展，最坏的情况可能是 导致人类灭绝。 但他有一个解决办法。 辛顿是该奖项的共同获奖者 2024年诺贝尔物理学奖 人工智能安全基金会的联合创始人。 正如他解释的那样 创意 主持人 Nahlah Ayed 表示，训练人工智能发展母性本能可能会拯救人类。这是谈话的一部分。 您可以想象的最坏情况是什么？ 嗯，短期内有很多不涉及人工智能接管的糟糕情况。所以很难选出最差的一个。 但是，例如，人工智能被恐怖分子用来制造令人讨厌的新病毒。这让他们更容易做到这一点。这非常可怕。我们将就如何尝试防止这种情况进行国际合作，但我们可能做不到。所以这是一个短期风险。人工智能被用来通过虚假视频来腐蚀民主。 但最让我担心的仍然是人工智能变得比我们更聪明的长期风险，在我看来这是不可避免的，而我们不知道如何与它们共存。我们不知道他们是否真的会接替我们。 让我直白地问你吧。在本世纪，人工智能实际上导致人类灭绝的可能性有多大？ 好吧，我认为唯一诚实的答案是，这可能在 10 或 20 年内都不会发生。我们几乎不知道 10 年或 20 年后事情会是什么样子。如果你回顾 10 年前，没有人知道我们会有像现在这样强大的聊天机器人。 因此，如果进步只是线性的，我们可以预期，在 10 到 20 年内，情况将与现在大不相同，我们将取得各种我们无法预测的进步。最诚实的答案是我们没有任何线索。 不要纠缠于消极的一面，但在你恐惧地平线的尽头，它可能会导致人类灭绝？ 哦，当然可以，是的。我认为那些说它不可能导致人类灭绝的人只是没有面对现实。 观看 |呼吁未来人工智能对人类更加友善： 如果我们构建具有母性本能的人工智能会怎么样？ 2024 年诺贝尔物理学奖共同获得者杰弗里·辛顿 (Geoffrey Hinton) 被许多人称为“人工智能教父”。他与 Ideas 讨论了如何训练人工智能对人类更加友善。 […]
加拿大人工智能先驱 Yoshua Bengio 和 Geoffrey Hinton 加入全球呼吁禁止超级人工智能开发
超过 1,500 人签署公开信，警告人们失去自由、尊严和“潜在的人类灭绝”。 加拿大人工智能 (AI) 先驱 Geoffrey Hinton 和 Yoshua Bengio 已签约 又一封公开信，这一次主张禁止“超级智能”的发展。 “我们……需要确保公众在塑造我们共同未来的决策中拥有更强的发言权。” 本吉奥和辛顿有 长表达 人们担心人工智能（AGI）带来的危险，这是一种假设的未来场景，其中人工智能在许多学科上实现了人类水平的智能。 “超级智能”指的是超越AGI的一步，即人工智能超越人类水平的智能，这是许多人的壮举 科技公司 喜欢 元 正在追赶。 这封公开信由 生命未来研究所截至撰写本文时，已有 1,500 多人签署，其中包括其他计算机科学家、政治家、宗教领袖和艺术家。 “[M]信中写道：“任何领先的人工智能公司都有明确的目标，即在未来十年建立超级智能，使其在几乎所有认知任务上都能显着超越人类。这引起了人们的担忧，包括人类经济的过时和剥夺、自由、公民自由、尊严和控制力的丧失，到国家安全风险，甚至潜在的人类灭绝。” 签署者呼吁禁止超级智能的发展，直到达成“广泛的科学共识”，即超级智能将安全可控地实现，并且得到“公众的强烈支持”。 Bengio 发起了一个非盈利组织 今年早些时候、LawZero，为代理人工智能系统构建护栏。它的许多贡献者，以及 Bengio 创立的人工智能研究所的成员 米拉，也签署了这封信。 “为了安全地迈向超级智能，我们必须科学地确定如何设计从根本上无法伤害人类的人工智能系统，无论是通过错位还是恶意使用，”本吉奥在签名旁边写道。 “我们还需要确保公众在塑造我们共同未来的决策中拥有更强的发言权。” 有关的： Geoffrey Hinton 在与 Cohere 联合创始人 Nick Frosst 的激烈辩论中表示，人工智能公司抵制“牙齿监管” 除了 Hinton 和 Bengio 之外，还有数十名加拿大人签署了行动号召，其中包括加拿大前遗产部长 Pascale St-Onge、Mila 总裁兼首席执行官 Valerie Pisano […]
杰弗里·辛顿（Geoffrey Hinton
2024年，他获得了诺贝尔物理学奖。没有他，我们就不会聊天gpt。 «历史告诉我们，没有规则，权力就被滥用了。所以我认为，如果我们不进行监管，它将严重结束» «大多数领先的人工智能研究人员认为，我们很可能会在未来20年内创造比我们更聪明的人。我最关心的是，这些超级智能的数字生物只会取代我们。他们不需要我们。而且由于它们是数字的 他们也将是不朽的： 我的意思是，有可能以所有信念和记忆来恢复某种人工智能。目前，我们仍然能够控制发生的事情，但是如果人工智能之间存在进化的竞争，我认为人类将只是对过去的记忆。»»» 杰弗里·欣顿（Geoffrey Hinton）在他在多伦多的家中。在他身后是一个大墙书架，他像往常一样站着。由于一个令人讨厌的背部问题，他们称他为“从未坐下的人”（但实际上，在短时间内和一些预防措施中，他可以）。他穿着一件蓝色衬衫，以及他的白发和甜美的笑容，使他看起来像书本或电影中的角色，这些角色使我们免于可怕的威胁。他们说他是人工智能的三个父亲之一，但是由于其他两个人（Yoshua Bengio和Yann Lecun）是他的学生，如果有人工智能的奥林巴斯，杰夫·欣顿（Geoff Hinton）将是木星。实际上， 去年，他获得了诺贝尔物理奖（与约翰·霍普菲尔德（John Hopfield）） «用于通过人工神经网络使机器学习的基本发现和发明。» 简而言之：没有他，我们就不会聊天GPT。当我邀请他加入人工智能专家小组时 教皇狮子座十四 9月12日，他回答：«我是无神论者，你确定他们想要我吗？»但是后来他之所以接受，是因为他显然希望教皇想玩科学游戏： «它将有很大的影响。» 不仅仅是科学界的吸引力和请愿书，他们在两年内彼此关注的目的是放缓技术发展，同时等待更好地了解风险和合理的确定性，即它不会失控。 第一个发出警报的声音是欣顿本人在2023年4月底 他突然离开了Google， 他在过去十年中工作的公司能够自由谈论人工智能的风险。几个月前，最后一次是他，当时他签署了上诉，以及诺贝尔奖获奖同事 乔治·巴西（Giorgio Parisi）询问开发聊天GPT的公司开放AI，以提高透明度（«他们在封闭的门后决定我们的未来»）。让我们从这里开始。 您产生了一些共鸣，并收集了三千个权威签名，但我认为这不是真正的目的。 «马斯克和奥特曼之间发生诉讼的事实使问题变得复杂。马斯克同时发展Grok的原因是竞争。马斯克希望从Openai竞争更少。我相信这就是我不确定的，但是我认为他希望将Openai保留为“公共福利公司”的动机与我们的动机不同。我们的动机是创建了以道德方式开发AI，而是试图推翻这一承诺。像Ilya Sutskever这样的许多研究人员都离开了。我认为他们这样做是因为没有足够的重视安全。上诉的目的是向加利福尼亚总检察长施加压力，后者可以决定是否允许Openai成为营利性公司»。 因此，您并没有真正期待Sam Altman的回应。 «不，当然不是。» 我要说的是，对上诉的真正回应是几天前，在白宫，当时美国总统召集了包括OpenAI，Meta和Google在内的大型科技公司的所有首席执行官… «总统试图在美国预防AI规则十年，但他失败了；各个国家可以继续立法。» 看到大型科技公司的领导人如此卑鄙的政治权力，对您产生了什么影响？也许是历史上第一次我们目睹绝对的权力集中。 «我的反应是悲伤的一种：看到这些公司的领导人不愿对任何事物采取任何道德立场。» 当数字革命到来时，梦想与众不同：对每个人来说，一个更公平，更公平，更美好的世界。 «我不确定这是每个人的梦想。我认为，对于大多数参与其中的人，梦想是致富。但是他们可以说服自己，是的，他们会变得富有，但与此同时，他们将帮助所有人。在很大程度上，网络就是这种情况：如果我们抛开社会后果，只看日常生活，网络确实对人们有所帮助。» 带蒂姆·伯纳斯·李（Tim Berners Lee）：他没有致富，并免费向所有人提供了网络协议。然后出了点问题。我会说：资本主义。 «我并不完全反对资本主义：通常在政府的基础研究中自由帮助，在生产新技术方面非常有效。我相信，如果受到良好的监管，资本主义就可以了。人们可以通过致富，也可以帮助他人，这是可以接受的。问题是何时将财富和权力用于消除规则，以便造成伤害人们的利润。» 那是现在发生的事情吗？ “是的。似乎最重要的是不缴税。他们支持特朗普，因为他降低了税收：这是他们的主要动力。但是他们也想消除保护人们的规则，使其更容易开展业务。这就是为什么他们支持特朗普的原因。» 您如何评估欧盟在做什么？据说它对监管的看法太多，而对创新则太少了。因此，我们在人工智能竞赛中落后。如您所知，欧盟已经通过了一项重要法律，即AI法案。您认为，这是一个很好的起点，还是创新的障碍？ «我认为这是一个可以接受的起点，但是有一些我不喜欢的部分：例如，有一个条款说这些规则不适用于AI的军事用途。这是因为几个欧洲国家是主要的武器生产国，并希望发展致命和自主系统。此外，据我了解，欧洲立法始于特别强调歧视和偏见，比其他威胁更担心这些方面。因此，它非常重视隐私。隐私很重要，但存在更严重的威胁。» 他触及了一个非常敏感的地方。硅谷公司天生的想法是不与军事力量合作。当DeepMind被出售给Google时，其中一个条件是AI不会用于军事目的。但是去年一月，这种情况被删除了。现在，所有人工智能公司都为美国国防部提供技术。几天前，Google与以色列签署了一项重要协议，以向武装部队提供人工智能系统。你怎么认为？ «政治科学家使用的一个简单的规则：不要看人们说什么，而要在他们的工作上。当Google取消对不使用AI用于军事目的的承诺时，我感到非常抱歉。这很失望。当他们仅仅因为特朗普到达而取消包容性政策时，也是如此。» 我们来到教皇利奥十四：他上任后，他说他想处理人工智能。您认为他可以在这场辩论中扮演什么角色？ «嗯，如您所知，他有大约十亿个追随者。如果他说监管AI很重要，那将是对大型科技领导人的叙述的反重，感谢总统没有实施规则。我相信教皇甚至在天主教之外也具有真正的政治影响力。许多宗教领袖，例如达赖喇嘛，都将他视为道德声音。并非所有的教皇都是这样的，但是这个教皇也有，他的前任也是如此。对于许多非天主教徒来说，他的道德观点是明智的，不是无误的，而是听的。如果他说监管AI是必不可少的，那将产生影响。» 您想告诉教皇关于人工智能的风险吗？ «我相信，对于教皇来说，专注于所谓的存在风险是毫无用处的，例如长期的人类消失。最好专注于当前风险。您不必相信AI是一种“存在”，即了解它可以导致大规模失业，民主国家的腐败，更容易，更有效的网络攻击以及任何人都可以使用致命病毒的创建。它已经在发生。因此，在这些短期风险中，我称之为“由于不良行为者的风险”，我们可以找到共同点。这些都是任何宗教或政治领导人都能理解的风险，而不必进入形而上学的问题，即AI是否是“存在”。 有时，政府似乎并不完全了解危及的是什么，他们过多地相信这些公司。 «就是这样。政府通常没有足够的内部专家，并且依靠来自…猜在哪里的顾问？来自大型科技公司。因此，他们最终只会听到公司的声音。好像华尔街监管机构都是前银行家，他们仍然像银行家一样思考。» 您被认为是世界末日。你感觉如何？乐观还是悲观？ “实际的。我看到双方。但是历史告诉我们，没有规则，权力就被滥用了。因此，我认为，如果我们不进行监管，它将很糟糕。» 您认为我们现在应该记住的特定课程吗？ “是的。让我们考虑核能。当科学家意识到他们的发现可能导致原子弹时，许多人试图警告政府。但是最后，是军方决定如何使用它。设定限制的不是科学界。我今天看到同样的风险：如果我们只允许政府或公司决定，AI将以非常危险的方式使用。» […]
小罗德尼·辛顿（Rodney Hinton Jr.）是谁？父亲在“将正义掌握在自己手中”之后引发辩论
小罗德尼·辛顿（Rodney Hinton）这个名字引起了讨论的大火。什么行动导致父亲走出法律制度的范围？小罗德尼·辛顿（Rodney Hinton Jr.）的不断发展的故事以及他决定将司法公正掌握在自己手中的决定引发的备受争议的辩论现在是中心舞台。 辛辛那提（Cincinnati）在背靠背的日子发生了两次重大死亡之后，努力解决令人不安的问题 – 事件当局认为是联系的。 周四，曼城执法部门致命地开枪射击了一个年轻人，瑞安·欣顿（Ryan Hinton）逃离了他们。随后，第二天，长期服务的警长的副手拉里·亨德森（Larry Henderson）在辛辛那提市丧生，当时被一辆侦探怀疑的汽车击中，被青年的悲伤父亲驾驶。 小罗德尼·辛顿（Rodney Hinton）：被告父亲及其行为 父亲38岁的小罗德尼·辛顿（Rodney Hinton Jr.）面临严重谋杀罪的指控。但是，执法部门和律师都没有为他的亲戚讲话，都透露了他认为律师的任何理由。 关于警察射击瑞安·欣顿（Ryan Hinton）的死亡，辛辛那提PD（Cincinnati PD）周四逃离时，他似乎瞄准了枪支，但尚未解决的问题也持续了问题。 随着对两人死亡的调查，执法人员周五晚上聚集在一起，进行了一场游行，以表彰死者警长的副手。汉密尔顿县警长Charmaine McGuffey周日表示，亨德森（Henderson）是警长办公室的33年老兵，被车辆撞到，此后不久就死亡。 拉里（Larry）在职业生涯的早期就开始了担任警长办公室教练的旅程。他发展了专业知识，并成为了一名出色的教练，”麦格菲在一本 Facebook帖子。 当前可用的信息阐明了青少年的 致命的相遇 由于执法部门和后来的代理人死亡，据称是由青少年父亲造成的。 双重悲剧：双方的悲伤和损失 根据他们的法律代表迈克尔·赖特（Michael Wright）的说法，瑞安·欣顿（Ryan Hinton）的亲戚正在寻求有关他的死的解释，这发生在他18岁生日后的几周后。执法部门报告说 年轻人 在军官将他们安置在一辆被盗的车内之后的四个人中，他逃离了武器。 亲戚在学习与警察互动的细节时，亲戚感到“惊讶”。他们在星期五早上观看了执法部门的伪装相机视频，就在据报道，据报道，欣顿的父亲击中并杀死了警长的副手。 查看录音后，赖特通知了 辛辛那提询问者 父亲“非常心烦意乱”。赖特（Wright）周一表示，他已提交了正式的公共记录请求，从雷安（Ryan）射击期间从出席的其他警官那里寻求人体摄像机录像和警察帐户。 “我们将在这些视频中的每个视频中按框架进行分析，以确定为什么军官做出致命决定射击和杀死瑞安的决定。这是双方的一场可怕的悲剧。这个家庭失去了儿子，这位警察丧生。”赖特在周一的家庭新闻发布会上说。 瑞安（Ryan）的祖母托尼亚·拉金（Tonya Larkin）将她的孙子描述为一个“甜美，温柔的巨人”，他的死“永远不会发生”。 父亲行动中有预谋的指控 小罗德尼·辛顿（Rodney Hinton Jr.）周六面对法官。检方断言，他“以一种经过计算和预谋，排队的方式，故意加速了他的汽车，并故意造成了一名副警长的死亡。” 法院诉讼期间，司法会议厅充满了执法人员。小辛顿（Hinton Jr. 小欣顿面临加重的指控 谋杀 并在周二举行的听证会上被拘留而没有保释。 模糊镜头：警察摄像机细节青少年射击 当您观看身体镜头镜头时，Ryan Hinton显然没有将枪指向辛辛那提警察。这些类型的“ Im-white and-i-say-so”谎言始终被用来证明不活跃的黑人青年。这就是为什么瑞安（Ryan）的父亲罗德尼·辛顿（Rodney Hinton Jr.）看到…… pic.twitter.com/udwhy8qxxl […]
小罗德尼·辛顿（Rodney Hinton Jr.）因涉嫌袭击副手而面临指控
在俄亥俄州的辛辛那提，据称父亲的悲伤变成了致命。 小罗德尼·辛顿（Rodney Hinton Jr）。因涉嫌罢工并用他的车辆杀害了警长的代表而被控犯有严重谋杀罪。该事件发生在警察致命开枪射击他的18岁儿子后的一天 瑞安·欣顿（Ryan Hinton）。 有关的： 病毒视频显示安全性在他的俄亥俄州表演射击中抢走Boosie（观看） 悲惨事件索赔副代表在大学活动中的生活 撞车事故发生在5月2日星期五辛辛那提大学的开学典礼上。 副 拉里·亨德森（Larry Henderson）根据汉密尔顿县警长，自12月退休以来一直在警察局兼职 Facebook页面，当汽车快速行驶时，正在指示交通。 每 NBC新闻当局说，小罗德尼·辛顿（Rodney Hinton Jr.副手后来在现场去世。现在，调查人员认为，欣顿对儿子瑞安·欣顿（Ryan Hinton）的悲伤助长了欣顿的行动，后者在24小时前去世。 罗德尼儿子与辛辛那提警察的致命相遇的详细信息 5月1日，星期四，辛辛那提警方在该地区有一辆起亚车辆被盗的报道后，赶往公寓大楼。当执法人员出现时，瑞安（Ryan）是据称试图逃离现场的四名嫌疑人之一。据警察局长特雷莎·特吉（Teresa Theetge）称，据报道，瑞安（Ryan）向警察指出了半自动手枪，促使一个人开火。人体摄像机镜头通过 ABC新闻 抓住一名军官大喊大叫， “他有枪！他有枪！” 瑞安（Ryan）被击中，尽管救生努力，但他还是受伤了。后来，警方在现场附近收回了一只未加工的手枪。 据报道，小罗德尼·辛顿（Rodney Hinton Jr. 车祸发生前不久，小罗德尼·辛顿（Rodney Hinton）和他的家人通过对人体摄像机镜头的情感观看，捕捉了瑞安（Ryan）在警察局的最后时刻。他们的法律团队在观看视频后发表了一份声明，描述了家庭的困扰。 声明说：“瑞安·欣顿（Ryan Hinton）的家人，包括瑞安（Ryan）的父亲，在会议上出席了会议，在观看人体摄像机视频时，他们心烦意乱。” “在与警察局会面后，瑞安·欣顿（Ryan Hinton）的父亲离开了自己的车辆，这是我们最后一次听到他的声音，直到得知涉及执法人员的悲惨事件。” 关于罗德尼的更多信息，他接下来是什么？ 同时，5月3日，小罗德尼·辛顿（Rodney Hinton Jr.）在一个法庭上面对一名法官，该法庭上充斥着警长的代表向同事致敬。检察官瑞安·尼尔森（Ryan Nelson）没有退缩，他称高顿（Hinton Jr）的举动为“计算和预谋”。他声称小欣顿 “排在他的汽车上，故意加速了他的汽车，并故意造成了一名副警长的死亡。” 泰隆·耶茨（Tyrone Yates）法官继续否认小罗德尼·辛顿·邦德（Rodney Hinton Jr. Bond）。然后，他将被押到克莱蒙县监狱，下一次将于5月6日出庭。 看着小罗德尼·辛顿（Rodney Hinton）的宣告是一个支持的心态。欣顿被指控击中并杀死了一名汉密尔顿县警长的代表。 pic.twitter.com/dafajfaxfh – WCPO 9（@WCPO） 2025年5月3日 有关的： […]
杰弗里·辛顿 (Geoffrey Hinton) 希望他能早点考虑人工智能安全问题
杰弗里·辛顿 (Geoffrey Hinton) 表示，他并不后悔自己为人工智能奠定基础所做的工作，但希望他能早点考虑到安全问题。 这位常被称为人工智能教父的英裔加拿大计算机科学家周末表示，他没有任何内疚的遗憾，他说这是当有人做了一些他们知道不应该做的事情时。 “在同样的情况下，我还会做同样的事情，”他谈到自己的研究时说道，该研究可以追溯到 20 世纪 80 年代，并已成为人工智能的基础。 “然而，我认为这可能是不幸的，因为我们获得超级智能的速度比我想象的要快，我希望我能早点考虑安全问题。” 超级智能甚至超越了最聪明的人类的能力。 Hinton 认为它可能会在未来 5 到 20 年内到来，人类可能不得不“认真担心我们如何保持控制”。 辛顿在斯德哥尔摩举行的新闻发布会上做出了这一预测，他将于周二在那里获得诺贝尔物理学奖。 多伦多大学名誉教授辛顿和普林斯顿大学教授约翰·霍普菲尔德共同获奖，因为他们开发了机器学习的一些基础，机器学习是一门帮助人工智能模仿人类学习方式的计算机科学。 辛顿在周六的新闻发布会上拉开了他的诺贝尔奖周的序幕，他与化学和经济学奖得主一起出席，并被问及人工智能的安全和监管问题。 辛顿去年辞去了谷歌的工作，更自由地谈论该技术的危险，他表示这些危险可能包括失业、偏见和歧视、回声室、假新闻、战斗机器人，甚至人类的终结。 周六，他表示他认为致命的自主武器是一种短期危险。 他说：“那里不会有任何监管。”他指出，欧洲法规有一项具体条款，使人工智能的军事用途不受限制。 “在致命性自主武器方面，政府不愿意自我监管，美国、中国、俄罗斯、英国、以色列甚至瑞典等主要武器供应国之间正在进行军备竞赛，尽管我不知道不知道。” 一天后，辛顿放下对人工智能的担忧，与霍普菲尔德一起发表演讲，解释了为他们赢得诺贝尔奖的研究。 “今天我要做一件非常愚蠢的事情。”辛顿在介绍两人长达一小时的演讲中他的部分时说道。 “我将尝试在不使用任何方程式的情况下向普通观众描述一个复杂的技术想法。” 观众哄堂大笑。 演讲开始时，霍普菲尔德描述了他发明的一种可以在数据中存储和重建图像的网络。 这导致 Hinton 后来创建了玻尔兹曼机，该机从示例而不是指令中学习，并且经过训练，可以识别信息中熟悉的特征，即使它以前没有见过该数据。 Hinton 表示，2006 年至 2011 年间，他的实验室以及由人工智能先驱 Yoshua Bengio 和 Yann LeCun 管理的其他实验室的学生正在使用玻尔兹曼机器来预训练神经网络——以类似于人脑的方式做出决策的机器学习模型。 到 2009 年，Hinton 的两名学生展示了该技术“比识别语音中音素片段的现有最佳技术要好一些，然后改变了语音识别界，”Hinton 说。 音素是可以改变单词含义的小声音单位。 谷歌后来开始研究基于 Hinton 发现的技术，“突然间，Android 上的语音识别变得更好了。” 尽管 […]
杰弗里·辛顿 (Geoffrey Hinton) 表示，他为自己的学生帮助解雇萨姆·奥尔特曼 (Sam Altman) 感到自豪
杰弗里·辛顿 (Geoffrey Hinton) 并不喜欢山姆·奥尔特曼 (Sam Altman) 的领导能力。 辛顿在周二的新闻发布会上表示，他认为奥特曼更看重利润而不是安全。 Hinton 的得意门生、OpenAI 联合创始人 Ilya Sutskever 在 Altman 短暂下台的过程中发挥了关键作用。 感谢您的注册！ 当您在旅途中时，可以在个性化源中访问您最喜爱的主题。下载应用程序 点击“注册”即表示您接受我们的 服务条款 和 隐私政策。您可以随时访问我们的“偏好设置”页面或单击电子邮件底部的“取消订阅”来选择退出。 新晋诺贝尔奖获得者杰弗里·辛顿 (Geoffrey Hinton) 表示，他很自豪他以前的一名学生在 11 月份 Sam Altman 被 OpenAI 短暂驱逐的事件中发挥了作用。 周二获得 2024 年诺贝尔物理学奖的 Hinton 在当天的新闻发布会上发表讲话，对 Altman 和 OpenAI 发表了看法。 “我特别自豪的是，我的一名学生解雇了 Sam Altman，”Hinton 说道，他指的是他的门徒、OpenAI 的前首席科学家 Ilya Sutskever。 Sutskever 获得博士学位。 2013 年获得多伦多大学计算机科学博士学位。Hinton 是 Sutskever […]
杰弗里·辛顿 (Geoffrey Hinton) 和约翰·霍普菲尔德 (John Hopfield) 因人工智能领域的工作而分享诺贝尔奖
盖蒂图片社 该公告是在瑞典斯德哥尔摩发布的 诺贝尔物理学奖授予了两位科学家杰弗里·辛顿 (Geoffrey Hinton) 和约翰·霍普菲尔德 (John Hopfield)，以表彰他们在机器学习方面的工作。 英国裔加拿大人 Hinton 教授有时被称为“人工智能教父”，他表示自己感到非常惊讶。 他于 2023 年从谷歌辞职，并警告机器可能比人类更聪明的危险。 瑞典皇家科学院在瑞典斯德哥尔摩举行的新闻发布会上宣布了这一消息。 美国教授约翰·霍普菲尔德（John Hopfield）现年91岁，美国普林斯顿大学教授；欣顿教授现年76岁，加拿大多伦多大学教授。 机器学习是人工智能的关键，因为它开发了计算机如何训练自己生成信息。 它推动了我们今天使用的各种技术，从我们如何搜索互联网到在手机上编辑照片。 “我不知道会发生这种事。我感到非常惊讶，”辛顿教授在宣布这一消息几分钟后在电话中对学院说道。 他说他在加利福尼亚州的一家酒店，网络信号很差，他认为他可能需要取消当天剩余的计划。 该学院列出了两位科学家工作的一些重要应用，包括改进气候模型、开发太阳能电池以及医学图像分析。 盖蒂图片社 Geoffrey Hinton 周二表示他使用 ChatGPT4 Hinton 教授对神经网络的开创性研究为 ChatGPT 等当前人工智能系统铺平了道路。 在人工智能中，神经网络是学习和处理信息方式与人脑相似的系统。它们使人工智能能够像人类一样从经验中学习。这称为深度学习。 辛顿教授表示，他在人工神经网络方面的工作是革命性的。 “这将像工业革命一样 – 但它将超越我们的智力能力，而不是我们的身体能力，”他说。 但他表示，他也对未来感到担忧。当他去年告诉记者时，有人问他是否对自己一生的工作感到后悔。 他在回复中表示，他会再次做同样的工作，“但我担心这样做的总体后果可能是比我们更聪明的系统最终可能会占据控制权”。 他还表示，他现在使用人工智能聊天机器人 ChatGPT4 来做很多事情，但他知道它并不总是能得到正确的答案。 约翰·霍普菲尔德教授发明了一种可以保存和重新创建模式的网络。 它使用物理学来描述由于原子自旋而产生的材料特性。 与大脑试图通过使用相关但不完整的单词来回忆单词的方式类似，霍普菲尔德教授开发了一个网络，可以使用不完整的模式来找到最相似的单词。 诺贝尔奖委员会表示，两位科学家的工作已经成为我们日常生活的一部分，包括面部识别和语言翻译。 但诺贝尔物理学委员会主席埃伦·穆斯表示，“它的快速发展也引发了人们对我们共同未来的担忧”。 获奖者分享价值 1100 万瑞典克朗（81 万英镑）的奖金。 当 Hinton 教授去年从谷歌辞职时，他告诉 BBC，人工智能聊天机器人的一些危险“非常可怕”。 他当时还表示，他的年龄是他离开这家科技巨头的决定的一部分。 […]
人工智能教父杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖，他警告人工智能的危险
今年的诺贝尔物理学奖出人意料且颇具争议，即使对于获奖者本身来说也是如此。本周二，瑞典学院表彰了被称为人工智能“教父”的美国约翰·J·霍普菲尔德（芝加哥，1933 年）和英国杰弗里·E·辛顿（伦敦，1947 年）在人工神经网络方面的工作。让机器能够学习。 这些发现为创建当今伟大的语言模型奠定了基础，例如 ChatGPT 和其他改变世界的聊天机器人。但辛顿的公司被谷歌收购，他去年离开硅谷，警告他帮助创造的技术存在危险。他曾多次表示，机器变得如此智能以至于我们无法控制它们的那一天可能会到来，在得知自己获奖后“非常惊讶”，他再次重申了这一想法。 “学习是人类思维的一种令人着迷的能力。我们让数百万个神经元一起工作，赋予它们神经学能力。机器学习受到此启发，并使用统计物理学的基本概念，”他说。诺贝尔物理学委员会主席埃伦·穆恩斯在获奖者公布后说道。他说，他们的发现“具有影响我们未来的巨大好处，我们有责任以合乎道德的方式使用这项技术，以实现人类的最大利益”。 Hopfield（美国普林斯顿大学）和 Hinton（加拿大多伦多大学）几十年来一直在研究他们的工作。美国人创造了一种联想存储器，可以存储和重建图像以及数据中其他类型的模式。就英国人而言，英国人以霍普菲尔德网络为基础，用不同的方法创建了一个新的网络：波兹曼机器，它可以学习识别某种类型数据中的特征元素。通过向机器提供运行时最有可能出现的示例来训练机器。因此，它能够非常有效地分析数千张照片并识别常见的事物，例如狗和汽车。谷歌从他手中收购了该公司，这成为开发日益强大的技术的基础，包括 ChatGPT 和 Google Bard 等新的聊天机器人。 对人类的威胁 但去年，辛顿辞去了硅谷的工作，警告这些聊天机器人带来的危险。他指出它们是“对人类的威胁”，因为它们有能力“消除数百万个工作岗位，因虚假视频影响选举，发起更有效的网络攻击，并开发非常危险的生物战病毒”。 Hinton 还获得了 2017 年 BBVA 基金会知识前沿奖和 2022 年阿斯图里亚斯公主科学技术研究奖，在得知该奖项后，他感到“不知所措”。 “我不知道发生了什么事。我感到非常惊讶，”他在与学院的电话联系中简短地说。 “我住在加利福尼亚州的一家廉价酒店，那里没有良好的互联网或电话连接，”他解释道。 “我本来今天要做核磁共振检查，但我不得不取消它，”他幽默地说。 当被问及他是否对自己的发现及其后果感到遗憾时，他表示“有两种遗憾：一种是因为你为做了某件事而感到内疚，另一种是因为你本来可以做的事情，但你没有做” ”。 “就我而言，这是第二个。我担心机器变得如此智能而导致我们无法控制它们的后果。” 潜在风险 诺贝尔奖获得者对其研究结果的后果感到遗憾的情况通常并不常见。关于这些潜在的危险，穆恩斯指出，“表达担忧是件好事”，因为它们“有助于知识的增长”。在他看来，“重要的是让尽可能多的人能够接触到机器学习，而不仅仅是掌握在少数人手中。”从这个意义上说，瑞典皇家科学院秘书长汉斯·埃勒格伦曾表示：“许多发现都可能存在风险，但我们有责任对其进行监管，这也包括人工智能。” 尽管存在可能的威胁，“获胜者的工作已经非常有用。在物理学中，我们在广泛的领域中使用人工神经网络，例如开发具有特定性能的新材料，”穆恩斯辩护道。 。 巴斯克应用数学中心 (BCAM) 研究员圣地亚哥·马苏埃拉斯 (Santiago Mazuelas) 认为新的诺贝尔物理学奖“当之无愧”。获奖者数十年来致力于研究的人工神经网络“在机器学习领域非常重要，并且使 ChatGPT 或文本和图像生成应用程序等技术成为可能。” 他并不认同 Hinton 的担忧：“我相信人工智能只是另一种类型的技术，就像互联网或电话一样，与任何其他具有巨大潜力的技术一样，它可以用于不正当的目的。但是，总的来说，它有积极的一面。”对社会的影响”。 Mazuelas 是 2018 年 BBVA 基金会机器学习项目莱昂纳多奖学金的受益人，他表示，人工智能“只能重现在许多示例中观察到的行为，并学习人类无法观察到的模式。然而，“人类智能能够逻辑推论并考虑道德考虑以及许多其他能力。” 除了认可之外，获奖者还将获得超过 800,000 欧元。去年，瑞典皇家科学院授予 Anne […]
多伦多大学杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖
颁奖机构周二表示，多伦多大学的英籍加拿大科学家杰弗里·辛顿 (Geoffrey Hinton) 和普林斯顿大学的美国科学家约翰·霍普菲尔德 (John Hopfield) 因在人工神经网络中实现机器学习的发现和发明而荣获 2024 年诺贝尔物理学奖。 Hinton 出生于英国，在过去的十年里，他一直在多伦多大学教授计算机科学，并在谷歌的深度学习人工智能团队工作，然后于 2023 年宣布从 Alphabet 公司辞职。 “我大吃一惊，”辛顿通过电话告诉聚集在斯德哥尔摩瑞典皇家科学院的专家小组。 “我不知道会发生这种事。我很惊讶。” 观看 l 加拿大“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖： 加拿大“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 荣获诺贝尔物理学奖 多伦多大学的英裔加拿大人计算机科学家杰弗里·辛顿 (Geoffrey Hinton) 和普林斯顿大学的约翰·霍普菲尔德 (John Hopfield) 因在人工神经网络中实现机器学习的发现和发明而获得 2024 年诺贝尔物理学奖。 Hinton 表示，人工智能继续快速发展，“我们现在应该努力研究如何确保它不会夺走人类的控制权。” 瑞典皇家科学院诺贝尔委员会成员埃伦·穆斯表示，两位获奖者“利用统计物理学的基本概念来设计人工神经网络，该网络具有联想记忆功能并在大数据集中查找模式。” 她说，此类网络已被用来推进物理学研究，并且“也已成为我们日常生活的一部分，例如面部识别和语言翻译”。 该学院表示，霍普菲尔德创建了一种联想存储器，可以存储和重建图像以及数据中其他类型的模式。这些模式以“Hopfield 网络”的形式存储，使用原子物理学对数据进行编码，然后比较、再现和区分图像。 辛顿， 被称为“人工智能教父”的人， 它补充说，发明了一种可以自主查找数据属性并执行识别图片中特定元素等任务的方法。 两位获奖者的工作紧密相连。今天早上早些时候，辛顿在接受新闻网采访时表示，事实上，他最有影响力的导师之一是霍普菲尔德的学生特里·塞诺夫斯基 (Terry Sejnowski)，他与他一起进行了“最令人兴奋的研究”——如何建立“霍普菲尔德网络”更通用，使它们能够像人类一样从示例中学习（而不是像机器传统上那样只是指令）。 “我认为最终如果我们能让这些东西发挥作用，那将非常重要，但我认为需要更长的时间才能产生如此大的效果，”他说。他补充说，人工智能现在能做到的事情在10年前还被认为是“科幻小说”，未来10年还将实现类似的飞跃。 辛顿：人工智能可能会变得“比我们更聪明” 辛顿表示，他相信人工智能进步的影响将与工业革命相媲美，通过开发人工智能助手来大幅提高生产力并提高效率，这将有助于许多领域，包括交付卫生保健。 “这将是非常棒的，这就是为什么进步不会被阻止。我不认为我们可以按下人工智能的暂停按钮，因为它有很多巨大的好处，”他告诉加拿大广播公司新闻。 “但我们确实需要担心如何控制它。” 观看 | […]