人工智能领域的女性：Rebecca Portnoff 博士正在保护儿童免受有害的深度伪造品侵害
> 正在进行的“AI 中的女性”系列旨在让关注 AI 的女性学者和其他人获得当之无愧且早该受到关注的时间，> 采访了 Rebecca Portnoff 博士，她是 > 数据科学副总裁。非营利组织 刺，该公司开发技术来保护儿童免受性虐待。 她曾就读于普林斯顿大学，然后在加州大学伯克利分校获得计算机科学博士学位。她自 2016 年起就在 Thorn 工作，一路晋升。她一开始是一名志愿研究科学家，八年后的现在，她领导的团队可能是世界上唯一致力于制造机器的团队之一学习和人工智能来阻止、预防和保护儿童免受性虐待。 “在普林斯顿大学读大四的时候，当我考虑毕业后做什么时，我姐姐推荐我读一下尼古拉斯·克里斯托夫 (Nicholas Kristof) 和谢丽尔·吴邓恩 (Sheryl WuDunn) 所著的《半边天》，这本书向我介绍了儿童性虐待的话题，”她告诉 > ，说这本书激励她研究如何在这个领域做出贡献。她继续撰写博士论文，重点关注在该领域使用机器学习和人工智能。 保护儿童的使命 在 Thorn，波特诺夫的团队帮助识别受害者、阻止再次受害并防止性虐待材料的病毒式传播。去年，她领导了 Thorn 和 All Tech Is Human 的联合安全设计倡议，该倡议致力于防止人们使用生成人工智能对儿童进行性伤害。 “这是一个巨大的提升，协作定义了原则和缓解措施，以防止生成模型产生滥用材料，使此类材料更可靠地检测到，并防止用于产生这种滥用材料的模型、服务和应用程序的分发，然后协调行业领导者致力于遵守这些标准，”她回忆道。她说她遇到了很多致力于这项事业的人，“但我的白发也比开始时更多了。” 事实上，她说这是人工智能发展过程中面临的最紧迫的问题之一。 “十分之一的未成年人表示，他们知道他们的同龄人制作了其他孩子的裸体图像，”她说。 “我们不必生活在这样的现实中，我们已经允许事情发展到这一步，这是不可接受的。”不过她表示，可以采取一些缓解措施来防止和减少这种滥用行为。例如，索恩提倡科技公司采用设计安全原则和缓解措施，并公开分享他们如何与专业组织（例如儿童性虐待组织）合作，防止滥用其生成式人工智能技术和产品来进一步加剧儿童性虐待。电气和电子工程师协会 (IEEE) 和国家标准与技术研究所 (NIST) 支持为公司制定可用于审核进度的标准，并与政策制定者合作，告知他们这有多重要。 “为了让所有公司和利益相关者参与进来，有必要制定以影响力为基础的立法，”她说。 作为人工智能领域的女性 波特诺夫回忆说，当她在人工智能领域不断晋升时，人们无视她的建议，而是要求与具有技术背景的人交谈。 “我的回应？ “不用担心，你正在与具有技术背景的人交谈，”她说。 她说，有几件事帮助她在这样一个男性主导的领域工作：做好准备、自信地行事以及抱有良好的意愿。做好准备可以帮助她更有信心地进入房间，而信心使她能够以好奇心和勇气应对挑战，“首先寻求理解，然后被理解，”她继续说道。 “假设良好的意图可以帮助我以善意而不是防御性的方式应对挑战，”她说。 “如果确实不存在这种良好的意图，它最终会表现出来。” 她对寻求进入人工智能领域的女性的建议是永远相信自己的能力和意义。她说，很容易陷入让人们对你的假设来定义你的潜力的陷阱，但在当前的人工智能革命中，每个人的声音都需要。 “随着机器学习/人工智能越来越融入我们的人类系统，我们所有人都需要共同努力，以确保它的实现方式能够促进我们的集体繁荣，并优先考虑我们中最弱势的群体。” 构建有道德的人工智能 […]